Key takeaways

• Deepfakes worden gebruikt om verkeerde informatie te verspreiden en schade aan te richten op scholen in heel Amerika.
• Schooldirecteuren zijn het doelwit van AI-gegenereerde deepfakes met racistische en gewelddadige taal gericht op zwarte leerlingen.
• Wettelijke maatregelen worden geïmplementeerd om het kwaadwillig gebruik van deepfakes te criminaliseren, maar preventieve maatregelen en sociale normeringsstrategieën zijn ook nodig.

Deepfakes vormen een ernstige bedreiging voor scholen in heel Amerika, waardoor opvoeders noodplannen moeten ontwikkelen voor het omgaan met seksueel expliciete AI-gegenereerde inhoud waarbij leerlingen of personeel betrokken zijn.

Deze door AI gegenereerde afbeeldingen en video’s kunnen worden gebruikt om verkeerde informatie te verspreiden, fraude te plegen of schadelijke inhoud te creëren, waardoor het voor scholen van cruciaal belang is om dit opkomende probleem aan te pakken.

Recente incidenten hebben de gevaren van deepfakes in onderwijsomgevingen aan het licht gebracht. In twee afzonderlijke gevallen waren schooldirecteuren het doelwit van door AI gegenereerde deepfakes die racistische en gewelddadige taal bevatten gericht op zwarte leerlingen. Bij het ene incident was een student betrokken die de deepfake maakte, terwijl bij het andere incident een ontevreden sportdirecteur betrokken was die vervolgens werd gearresteerd.

Technologische en juridische maatregelen

Het gebrek aan effectieve technologie om deze AI-tools te bestrijden is een grote zorg voor opvoeders. Hoewel er wettelijke maatregelen worden genomen op zowel staats- als nationaal niveau om het kwaadwillig gebruik van deepfakes strafbaar te stellen, benadrukken experts de noodzaak van preventieve maatregelen en sociale normeringsstrategieën.

Verschillende staten hebben wetten aangenomen die het maken of verspreiden van AI-gegenereerde kinderpornografie strafbaar stellen. Op federaal niveau heeft senator Ted Cruz de Take It Down Act voorgesteld, die de opzettelijke openbaarmaking van niet-consensuele intieme visuele afbeeldingen, waaronder deepfakes, strafbaar stelt.

Schooldistricten worstelen met de vraag hoe ze op deze veranderende dreiging moeten reageren. In één geval maakte een atletiekdirecteur van een middelbare school in Maryland een valse audio-opname van de directeur als vergelding voor een onderzoek naar vermeend financieel wangedrag. Onderzoekers konden de verdachte identificeren aan de hand van oude logbestanden van computertoegang.

Incidenten en gevolgen

Een ander incident betrof middelbare scholieren in New York die AI gebruikten om zich voor te doen als de directeur van hun middelbare school en de deepfakes op TikTok plaatsten. Hoewel de leerlingen werden gestraft, leidde de gebeurtenis tot angst en bezorgdheid onder ouders en leerlingen.

Het gebruik van deepfakes op scholen leidt tot ernstige bezorgdheid over de veiligheid, privacy en mogelijke schade van leerlingen. Om dit probleem aan te pakken is een veelzijdige aanpak nodig met wettelijke kaders, technologische oplossingen en sociale bewustwordingscampagnes om verantwoord AI-gebruik te promoten.

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!