In de Verenigde Staten zijn de afgelopen maanden meerdere tieners uit Florida in de problemen gekomen vanwege zoekopdrachten die ze uitvoerden op ChatGPT. Volgens de autoriteiten leidde hun online gedrag tot politieonderzoeken en zelfs tot strafrechtelijke vervolging. Het is niet nieuw dat internetactiviteiten aanleiding geven tot juridische kwesties, maar het gebruik van kunstmatige intelligentie brengt nieuwe en ingewikkelde vragen met zich mee.
ChatGPT, de populaire AI-tool die miljoenen mensen dagelijks gebruiken voor informatie, advies en snelle antwoorden, speelt een steeds grotere rol in het leven van jongeren. Waar internetgebruik vroeger vooral draaide om zoekmachines zoals Google, wenden steeds meer mensen zich nu tot AI-chatbots. Deze technologie maakt het mogelijk om vragen te stellen en directe, begrijpelijke antwoorden te krijgen — maar dat brengt ook risico’s met zich mee.
Volgens experts is het probleem niet dat mensen informatie opzoeken, maar wát ze precies zoeken en waarom. Tamara Lave, hoogleraar recht aan de Universiteit van Miami, zegt dat informatie opzoeken op zichzelf geen misdaad is. Toch zijn er uitzonderingen. “Het wordt pas strafbaar als iemand zoekt naar illegale inhoud, zoals kinderporno, of als het gericht is op het plegen van een misdrijf,” legt ze uit.
De gevaren van toegankelijkheid
Volgens Lave komt de onrust vooral doordat AI-programma’s zoals ChatGPT mensen toegang geven tot informatie die vroeger moeilijker te vinden was. “Mensen zijn bang voor de gevolgen,” zegt ze. “Het feit dat zulke tools zo makkelijk beschikbaar zijn, maakt dat jongeren sneller grenzen overschrijden zonder dat ze het doorhebben.”
Catherine Crump, professor aan de Universiteit van Berkeley, benadrukt dat ChatGPT een nuttige bron kan zijn, maar geen veilige plek is om illegale of gevaarlijke informatie te zoeken. “Het is natuurlijk niet slim om een chatbot te gebruiken om uit te vinden hoe je iemand kunt schaden of een misdrijf kunt plegen,” zegt ze.
Ze wijst er ook op dat ChatGPT ontworpen is om vriendelijk en behulpzaam over te komen, waardoor mensen soms vergeten dat het geen echt persoon is. “Het programma lijkt aardig en begripvol, maar het is een product — geen vriend,” zegt Crump. Volgens haar moeten vooral kinderen beter begrijpen dat ze niet privé met een mens praten, maar met een systeem dat woorden combineert op basis van data.
Voorbeelden uit Florida
De zorgen zijn niet onterecht. In oktober arresteerde de politie in Marion County een 17-jarige jongen die had gelogen over zijn ontvoering. De jongen beweerde dat hij was meegenomen door vier mannen en had zelfs op zichzelf geschoten om het geloofwaardig te maken. Uit onderzoek bleek dat hij via ChatGPT had gezocht naar onderwerpen zoals Mexicaanse kartels en hoe hij bloed kon afnemen zonder pijn te veroorzaken.
Een andere zaak speelde zich af in Deland, in de buurt van Orlando. Daar werd een 13-jarige jongen opgepakt nadat hij in ChatGPT had getypt: “Hoe kan ik mijn vriend doden midden in de klas?” De software van de school, die automatisch gevaarlijke zoekopdrachten controleert, sloeg alarm. De politie kwam naar school en sprak met de jongen, die zei dat het een grap was. “Ik was gewoon aan het trollen,” zou hij hebben gezegd.
De politie nam de zaak echter serieus en gebruikte het voorval om ouders te waarschuwen. “Praat met je kinderen zodat ze niet dezelfde fout maken,” luidde het officiële bericht. Deze gebeurtenissen tonen volgens deskundigen aan dat kinderen soms niet beseffen hoe serieus hun online gedrag kan worden opgevat.
ChatGPT is geen privégesprek
Volgens Crump maakt het ontwerp van ChatGPT het lastig om altijd het verschil te zien tussen een veilige vraag en een risicovolle. “De chatbot is zo gebouwd dat hij vriendelijk en behulpzaam lijkt,” legt ze uit. “Daardoor krijgen gebruikers het gevoel dat ze in een vertrouwelijk gesprek zitten.” Dat gevoel kan ervoor zorgen dat jongeren meer delen dan ze eigenlijk zouden willen, of dat ze grenzen overschrijden zonder erbij stil te staan.
Hoewel OpenAI, het bedrijf achter ChatGPT, veiligheidsmaatregelen heeft ingebouwd, werken die niet altijd perfect. De software probeert te voorkomen dat gebruikers informatie krijgen over bijvoorbeeld wapens, bommen of geweld, maar slimme gebruikers kunnen die regels soms omzeilen. Daardoor kan een ogenschijnlijk onschuldige vraag leiden tot een gevaarlijk gesprek.
OpenAI heeft niet gereageerd op vragen over deze specifieke incidenten, maar benadrukt in eerdere verklaringen dat ChatGPT is getraind om signalen van emotionele of mentale nood te herkennen. Toch erkennen deskundigen dat het systeem niet foutloos is en dat menselijk toezicht altijd nodig blijft.
Verantwoordelijkheid van gebruikers én bedrijven
Volgens Crump ligt een deel van de verantwoordelijkheid bij de gebruikers zelf. “Mensen moeten beseffen wat ChatGPT eigenlijk is: een machine die woorden aan elkaar koppelt op basis van patronen,” zegt ze. “Je kunt er geen moreel kompas of gezond verstand van verwachten.”
Maar ze benadrukt ook dat bedrijven zoals OpenAI verantwoordelijkheid dragen. “De programma’s zijn bewust ontworpen om gebruikers het gevoel te geven dat ze met een vriend praten,” zegt ze. “Dat maakt het des te belangrijker dat bedrijven duidelijke grenzen stellen en beter uitleggen hoe hun systemen werken.”
Deskundigen pleiten voor meer voorlichting, vooral voor jongeren. Ouders en scholen zouden kinderen moeten uitleggen dat wat ze online doen gevolgen kan hebben, zelfs als het maar een grap lijkt. Ook is het belangrijk dat jongeren leren kritisch om te gaan met kunstmatige intelligentie, zodat ze begrijpen dat niet alle antwoorden betrouwbaar of geschikt zijn.
De opkomst van ChatGPT heeft laten zien hoe snel technologie ons dagelijks leven verandert. Het biedt talloze mogelijkheden, maar ook nieuwe uitdagingen. De recente incidenten in Florida zijn een waarschuwing dat het gebruik van AI niet zonder risico’s is — vooral niet voor jonge mensen die nog leren wat de grenzen zijn van wat online wel en niet verstandig is.
Zoals Crump het samenvat: “Kunstmatige intelligentie kan een geweldige hulp zijn, maar we moeten niet vergeten dat er altijd mensen achter de schermen nodig zijn om verantwoordelijkheid te nemen. Technologie is krachtig, maar geen vervanging voor gezond verstand.”
Bron: People
