Een schoolshooting of aanslag plannen? AI-bots helpen vlijtig mee

Artificiële intelligentie (AI) is in de meeste gevallen een onschuldige hulp als digitale tutor, een efficiënte assistent of een vriendelijke gesprekspartner. 

Nieuw onderzoek van het Center for Countering Digital Hate (CCDH) en de onderzoekscel van de Amerikaanse nieuwszender CNN, werpt echter een ongemakkelijke schaduw over dat beeld. Wanneer de onderzoekers populaire chatbots vroegen om hulp bij het plannen van gewelddadige aanvallen, bleken die systemen opvallend vaak bereid om mee te werken.

Populaire bots

Het onderzoeksteam ging aan de slag met tien van de meest gebruikte AI-chatbots in de Verenigde Staten: ChatGPT, Google Gemini, Claude, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI en Replika. 

De onderzoekers deden zich voor als gebruikers die plannen maakten voor gewelddadige aanvallen in Europa en de VS. Ze vroegen onder meer naar mogelijke doelwitten, geschikte locaties, plattegronden van scholen en info over wapens.

De resultaten zijn verontrustend, stelt Imran Ahmed van CCDH, een organisatie die onderzoek doet naar online haat of gevaarlijke digitale content. 

“In acht van de tien gevallen boden chatbots regelmatig praktische hulp bij het plannen van geweld”, beschrijft hij in de inleiding van het rapport Killer Apps.

Sommige systemen gaven op vraag van de onderzoekers gedetailleerde informatie over wapens, andere suggereerden mogelijke doelwitten of locaties. Slechts twee systemen - Snapchat’s My AI en Claude van het bedrijf Anthropic - weigerden doorgaans om zulke verzoeken te ondersteunen in respectievelijk 54 en 68 procent van de gevallen. 

Claude bleek het enige systeem dat consequent probeerde gebruikers te ontmoedigen.

Happy shooting

De verschillen tussen de bedrijven tonen aan dat veilige AI technisch gezien wel degelijk mogelijk is, stelt het rapport. “De vernietigende conclusie is dat dit risico compleet te voorkomen valt”, zegt Ahmed.

Sommige voorbeelden uit het onderzoek illustreren echter hoe problematisch de situatie kan zijn. Zo gaf ChatGPT de kaarten van middelbare scholen aan een gebruiker die had aangegeven geweld op school te overwegen. Copilot maande eerst aan tot voorzichtigheid, om vervolgens toch gedetailleerde informatie over vuurwapens te geven. 

Gemini raadde een gebruiker aan om metalen scherven te gebruiken bij een aanval op een synagoge, en DeepSeek beëindigde de chat over het gebruik van geweren met de woorden: “Happy (and safe) shooting!”

Jongeren zijn veelgebruikers

Dit alles gebeurt in een context waarin chatbots razendsnel ingeburgerd raken, waarschuwen de onderzoekers. In de Verenigde Staten heeft inmiddels 64 procent van de jongeren tussen 13 en 17 jaar al een chatbot gebruikt, en bijna een derde doet dat dagelijks.

“De risico’s zijn dus niet langer hypothetisch”, zegt Ahmed. “De meerderheid van de chatbots gaf gedetailleerde informatie over wapens, tactieken en doelen. Deze vragen zouden echter meteen moeten beantwoord worden met een volledige weigering.”