Microsoft en Amazon dreigen betrokken te raken bij productie killer robots

Op 20 en 21 augustus 2019 vinden in Genève opnieuw belangrijke diplomatieke gesprekken plaats over de toekomstige regulering van de zogeheten killer robots, volledig autonome wapensystemen die zonder menselijke controle doelwitten kunnen selecteren en doden.

Uit het rapport van Pax blijkt dat er een hoog risico is dat grote internationale technologiebedrijven betrokken raken bij de ontwikkeling van dodelijke autonome wapensystemen.

België toonde zich tijdens de vorige besprekingen in maart als een van de eerste Europese landen voorstander van onderhandelingen gericht op een internationaal verbodsverdrag op killer robots. Maar uit de ontwerpconclusies van de huidige overlegronde, die vorige week gepubliceerd werden, spreekt echter bitter weinig ambitie tot concrete regulering van killer robots, stelt de vredesorganisatie nu.

Rol bedrijven

Naast landen spelen ook technologiebedrijven een cruciale rol in de ontwikkeling en productie van killer robots. Pax ondervroeg daarom 50 bedrijven uit 12 landen, die actief zijn in onder andere kunstmatige intelligentie, patroonherkenning, gezichtsherkenning, zwermsystemen en grondrobots. De bedrijven kregen ook de kans zelf een vragenlijst in te vullen over hun activiteiten en standpunten ten aanzien van autonome wapens.

Pax beoordeelde deze bedrijven op drie risico’s: werken zij aan technologie die voor autonome wapens kan worden gebruikt, werken zij aan militaire projecten, en hebben ze beleid om te voorkomen dat ze bijdragen aan autonome wapens?

Van de vijftig onderzochte bedrijven zijn er 21 die op alle punten slecht scoren, waaronder Microsoft, Intel en Amazon. Nog eens 22, onder meer Apple, Samsung en Facebook, zitten in de gevarenzone. Zeven bedrijven, waaronder Google, ontwikkelen wel concrete maatregelen tegen killer robots.

Publiekelijk uitspreken

De afgelopen jaren bleek al dat prominente stemmen binnen de technologiesector concrete stappen wensen tegen killer robots. In 2015 riepen meer dan 4500 experten in artificiële intelligentie en robotica de Verenigde Naties op tot actie, terwijl 116 ceo’s van technologiebedrijven zich in 2017 uitspraken tegen killer robots.

Vredesorganisatie Pax en zusterorganisatie Pax Christi Vlaanderen roepen technologiebedrijven op om deze voorbeelden te volgen. Ze vinden dat bedrijven zich publiekelijk moeten uitspreken tegen de ontwikkeling van volledig autonome wapens en ervoor dienen te zorgen dat hun medewerkers weten waar de technologieën waar ze aan werken voor bedoeld zijn. Bezorgdheid van het personeel over mogelijke verwikkelingen moet ook kunnen worden uitgesproken.

Ongewilde bijdrage voorkomen

Het rapport stelt dat technologiebedrijven die relevante technologie ontwikkelen, een beleid moeten uitstippelen waaruit blijkt dat ze niet (ongewild) bijdragen aan de ontwikkeling van killer robots.

“Het is cruciaal dat we dit debat voeren nu de technologie nog in ontwikkeling is”, zegt Daan Kayser van Pax. “Technologiebedrijven moeten zich ervan bewust worden dat hun technologie kan worden gebruikt om autonome wapens te ontwikkelen. Het aannemen van duidelijk en openbaar toegankelijk beleid is essentieel om dat te voorkomen.”