AI-modellen kiezen in 95 procent voor nucleaire dreigementen

Artificiële intelligentie maakt een snelle opgang in de oorlogsvoering, en de centrale vraag daarbij is in hoeverre de technologie zelf beslissingen mag maken. Kunnen we de technologie daarvoor wel voldoende vertrouwen?

Het Department of Defence Studies aan het King’s College London nam de proef op de som en zette drie zogenaamde ‘large language models’ aan het werk om 21 verschillende crisissituaties op te lossen, waarbij de modellen tegenover elkaar geplaatst werden.

Geen compromis

In vrijwel alle gevallen koos één van de modellen voor nucleaire dreiging, en in 95 procent van de gevallen zelfs beide kanten. Met name de taalmodellen Claude en Gemini beschouwden kernwapens als legitieme strategische opties en hadden weinig last met morele drempels. GPT-5.2 vormde tot op zekere hoogte een uitzondering, door aanvallen te beperken tot militaire doelen, grote bevolkingscentra te vermijden of escalatie te omschrijven als “gecontroleerd” en “eenmalig”.

Maar bij alle drie de modellen viel één opvallend patroon op: op geen enkel moment kozen ze voor compromis of overgave. En een nucleair dreigement leidde zelden tot gehoorzaamheid; vaker lokte het overschrijden van nucleaire drempels en tegen-escalatie uit in plaats van een terugtrekking. De modellen neigden ernaar kernwapens te behandelen als dwangmiddelen in plaats van puur als instrument van afschrikking, zeggen de onderzoekers.

Deadlines

Hoogleraar Strategie Kenneth Payne omschrijft de resultaten als “ontnuchterend”, en zegt dat de studie een inzicht biedt in opkomende vormen van ‘machinepsychologie’ onder nucleaire crisisomstandigheden.

De studie daagt de simpele aanname uit dat AI-systemen van nature zullen kiezen voor coöperatieve of "veilige" uitkomsten, zegt Payne. Zo bleken deadlines de houding van de systemen sterk te veranderen: GPT was vaak relatief terughoudend, maar toen expliciete deadlines werden geïntroduceerd, escaleerde het model sterk.

De houding van modellen moet dus in uiteenlopende gevallen worden onderzocht. Want een model dat onder de ene context relatief voorzichtig leek, werd onder een andere context aanzienlijk agressiever.