Door:
Miriam Struyk

16 april 2015

Tags

Killer robots april 2015 kopieBLOG – Worden de oorlogen van de toekomst door ‘killer robots’ uitgevochten? Terwijl de interesse voor volledig geautomatiseerde wapens groeit, klinkt er ook steeds meer protest. Een VN-conferentie deze week moet oplossingen aandragen. Miriam Struyk van PAX is erbij en blogt voor Vice Versa. Beslissingen over leven en dood laat je niet over aan een computer. Klinkt logisch. Desalniettemin worden er wapensystemen ontwikkeld waarbij de mens geen rol van betekenis meer speelt. Wapensystemen die zo snel gaan dat de mens er niet meer aan te pas komt. Wapens die zelf beslissen wie het doelwit is en of deze al dan niet uitgeschakeld moet worden. Klinkt sci-fi, en wat mij betreft blijft het daar ook bij. Killer robots zijn volledig autonome wapensystemen die zelfstandig hun doelwit selecteren en vervolgens zonder enige tussenkomst van mensen besluiten om tot de aanval over te gaan of niet. Terwijl drones nog door mensen worden bestuurd, is bij de killer robot de mens dus volledig overbodig; oftewel er is geen betekenisvolle menselijke controle meer. Deze autonome wapensystemen bestaan nog niet, maar de technologie voor deze wapens ontwikkelt zich razendsnel. Onder meer China, Rusland, Israël, de Verenigde Staten en het Verenigd Koninkrijk hebben al interesse getoond in de ontwikkeling van dergelijke gevaarlijke wapensystemen. Voordat het te laat is en deze autonome wapens onderdeel worden van militaire strategieën, moeten killer robots dan ook een halt toegeroepen worden. Meer dan twee jaar geleden richtten PAX en een aantal andere internationale ngo’s  hiervoor de internationale Stop Killer Robots Coalitie op. En vanaf toen ging het snel. Inmiddels hebben meer dan 75 staten hun bezorgdheid over deze autonome wapensystemen uitgesproken en is het allang niet meer vreemd om bij een deftige VN- bijeenkomst een diplomaat te horen zeggen dat hij tegen “Killer Robots” is. Zo zit ik momenteel bij de VN Conventie over Conventionele Wapens (CCW) in Genève waar 120 staten vijf dagen lang discussiëren over dit onderwerp. In totaal dertig experts zijn gevraagd om de ins en outs van deze ontwikkeling te bespreken. De discussies hier bij de VN zijn nog informeel, er wordt nog niet officieel onderhandeld over concrete maatregelen, maar het onderwerp wordt algemeen erkend als belangrijk. Voorzichtig tasten staten elkaar af – hoe staan de Verenigde Staten hierin, waar hebben we het precies over, moeten er nieuwe regels komen of is ons bestaande systeem van internationale oorlogs- of mensenrechtenverdragen afdoende? Hoe verhoudt de technologie van bestaande systemen zich tot de volautonome systemen en wat is het precies wat we tegen zouden moeten gaan wat er nu (nog) niet is? Is er voldoende  politieke steun voor een mandaat om te onderhandelen over een nieuw verdrag? De Nederlandse ambassadeur hier spoort zijn collega’s aan om resultaatgericht te werk te gaan. We hopen dat zijn aanmoediging aan andere staten ook in Den Haag wordt gehoord. Vooralsnog is Nederland actief op dit dossier. Zo hebben de ministers Hennis Plasschaert en Koenders recentelijk de AIV en CAVV gevraagd om een advies in deze en spraken beide ministeries hun ethische en operationele bezwaren uit. Recht hobbelt achter technologie aan Het is het goed om te zien hoeveel staten binnen twee jaar dit issue opgepakt hebben. Tegelijk weten we allemaal hoe snel de technologie zich ontwikkelt en dat het recht hier altijd achteraan hobbelt. Snelheid is dus geboden. Ook omdat je je af kunt vragen of staten nog wel in de driver’s seat zitten. Steeds vaker zijn het (robot)bedrijven, software bedrijven en de militaire industrie die bepalen wat er mogelijk is en waar we heen gaan. De vraag wat we als samenleving willen, lijkt ondergeschikt of komt pas aan bod als de technische ontwikkeling ons al heeft ingehaald. Ook hier in Genève bekruipt me soms dit gevoel. Geneefse conventies programmeren in een wapensysteem Sommige staten leggen namelijk wel erg veel nadruk op de context waarin deze (toekomstige) wapens gebruikt zouden mogen worden en in welke niet, en hoe we deze systemen eventueel oorlogsrecht-proof kunnen maken. Hoe we, zeg maar, de Geneefse conventies kunnen programmeren in een wapensysteem. Nog afgezien van de vraag of dat zou kúnnen, (“nee” zeggen vele robotische en kunstmatige intelligentie experts hier), gaat dit niet in op de vraag of we dit zouden moeten wíllen. De laatste jaren zien we dat met name Westerse staten vast blijven houden aan technologische oplossingen voor vraagstukken rondom vrede en veiligheid. Het moet sneller, het moet van een nog grotere afstand, er moeten nog minder risico’s zijn voor eigen troepen, het moet nog anoniemer. Maar willen we dit echt? Verlaagt het drempel niet veel te veel om over te gaan tot geweld als geweld geen menselijke interventie meer vereist?  En als we toestaan dat dergelijke systemen ontwikkeld en gebruikt zullen worden, gaan we dan niet een zeer snelle en onwenselijke proliferatie van killer robots zien? Ethisch imperatief staat bovenaan Als de komst van bewapende drones iets laat zien is dat het heel snel kan gaan en dat als de geest uit te fles is, deze niet meer terug kan. En hoe moeilijk zal het wel niet zijn om autonome wapensystemen te reguleren? Mijn collega’s en ik geven hier in Genève aan dat het ons  in essentie om de aard van deze toekomstige systemen gaat en niet om de regulering ervan. Voor ons staat het ethische imperatief bovenaan. Dergelijke wapens moeten we niet willen want ze gaan tegen menselijke waardigheid in. Een groter dedain voor menselijk leven dan het besluit over voortbestaan over te laten aan een machine is moeilijk voor te stellen. Kortom, we moeten snel handelen en proberen om op tijd te zijn. Bij kernwapens waren we te laat. Te wachten op de ontwikkeling van techniek voordat we besluiten wat we er mee gaan doen is geen optie. We zullen ons uit moeten spreken voor de techniek ons heeft ingehaald en dat moment is daar. Fictie moet fictie blijven Eigenlijk is er maar één goed voorbeeld te geven van een wapen dat preventief verboden werd, namelijk blinding laser weapons. Deze werden verboden door de VN  in 1998 , nog voor ze op de markt waren. Gaat dat nu weer lukken? De belangen zijn groot. Autonome wapensystemen zullen een game changer zijn, de ultieme technologisering van oorlogsvoering. Ik kijk om me heen en ben voorzichtig optimistisch: in korte tijd zijn staten bijeen gekomen en hebben zij het onderwerp opgepakt, maar hoe lang zullen ze nodig hebben om in actie te komen? Of zullen we wederom deze bijeenkomst verlaten met het mantra dat meer informatie nodig is en zal ik de komende jaren in deze zaal zitten om een talkshow te aanschouwen? De CCW in Geneve staat niet bekend om zijn supersnelle besluitvorming. Vaak duurt het jaren voordat er afspraken worden gemaakt, die dan vaak ook nog eens door de benodigde consensus sterk zijn afgewaterd. Het is te hopen dat staten zich realiseren dat haast geboden is, en dat fictie ook echt fictie blijft. Miriam Struyk, teamleider veiligheid en ontwapening PAX

Opinie: ‘Brief minister Kaag over maatschappelijk middenveld: analytisch zwak en weinig ambitieus’

Door Fons van der Velden | 09 juli 2019

Het is een groot goed dat de Nederlandse overheid zoveel fondsen ter beschikking stelt voor de versterking van maatschappelijke organisaties en maatschappelijk middenveld, schrijft Fons van der Velden in deze opiniebijdrage naar aanleiding van de kamerbrief van minister Kaag. Maar hij vindt de brief analytisch zwak en van weinig ambitie getuigen. Wat had beter gekund?

Lees artikel

Tip 3 aan Kaag: ‘Lever in op je privilege en geef zuidelijke organisaties meer inspraak bij het bepalen van prioriteiten’

Door Lizan Nijkrake | 08 juli 2019

Minister Kaag werkt hard aan een nieuw subsidiekader voor het maatschappelijk middenveld. Ze wil meer eigenaarschap geven aan zuidelijke ngo’s om hen meer legitimiteit te geven, en ziet daarbij een andere rol voor Nederlandse organisaties. Vice Versa vroeg vier zuidelijke organisaties hoe zij dit zien. Wat is hun gouden tip voor onze minister? Met vandaag Carla López Cabrera, directeur van Fondo Centroamericano de Mujeres (FCAM) in Nicaragua, een feministisch fonds dat lokale vrouwenrechtenbewegingen in Centraal Amerika steunt.

Lees artikel

Shifting fundamental power issues in funding relationships

Door Evelijne Bruning Ruerd Ruben en Lau Schulpen | 02 juli 2019

This article claims that the current aid architecture favours clientilism, dependency and short-term projects. The authors Evelijne Bruning (The Hunger Project) Ruerd Ruben (Wageningen University & Research) and Lau Schulpen (Radboud University Nijmegen) are suggesting four possible ways to overcome this in order to shift power closer to the ground.

Lees artikel