Nederlandse adviesorganen spreken zich uit over killerbots

Nederlandse adviesorganen spreken zich uit over killerbots

Vorig artikel Volgend artikel

Autonome wapens moeten niet worden gereguleerd. Dat is het advies van twee adviserende organisaties binnen het Ministerie van Buitenlandse Zaken over bijvoorbeeld drones die worden voorzien van geweren. Robots die veranderen in moordwapens, zeker wanneer ze volledig autonoom opereren, moeten worden verboden, zo is het dringende advies.

Killerbots

Gedeeltelijk autonome systemen moeten worden gereguleerd, maar de volledig zelfsturende killerbots moeten worden verboden, dat is in het kort het advies van de AIV (Adviesraad Internationale Vraagstukken) en de CAVV (Commissie van Advies inzake Volkenrechtelijke Vraagstukken. Dit zijn twee adviserende organen binnen het Ministerie van Buitenlandse Zaken.

Ze schrijven: “Volledig autonome wapensystemen zijn niet in staat de kernregels van het internationaal humanitair recht toe te passen en kunnen dus niet rechtmatig worden ingezet. De AIV en de CAVV vinden dat de Nederlandse regering dit verbod explicieter moet uitdragen. Bij gedeeltelijk autonome wapensystemen bestaat er wel een vorm van ‘betekenisvolle menselijke controle’, maar is onduidelijk wat de ethische en juridische kaders zijn voor de ontwikkeling en het gebruik.”

Er wordt daarnaast verder gekeken dan Nederland alleen. Zo wordt er ook stilgestaan bij de landen die volop met deze technologie bezig zijn, waaronder de Verenigde Staten en Rusland. Het wordt ook al toegepast in diverse landen en door verschillende organisaties (waaronder IS). Als je de korte film Slaughterbots hebt gezien (en zijn opvolger), dan is dat een onprettig idee.

Conflict en instabiliteit

Het vorige advies dateert alweer van 2015 en het was de hoogste tijd voor een nieuw advies. Niet alleen omdat het kabinetsstandpunt ook op die informatie wordt gebaseerd, maar ook omdat er over een week een wereldwijde conferentie wordt gehouden over dit onderwerp. Het idee dat er wapens zonder duidelijke internationale regels worden ontwikkeld en zelfs al gebruikt, stemt de adviseurs niet positief. Anna Timmerman van PAX zegt: “Dit zal leiden tot meer conflict en instabiliteit in de wereld.”

Er wordt dan ook gehoopt dat de VN met een verdrag komt dat juridisch bindend is over het produceren en het gebruik van autonome wapensystemen. Het zal echter vooral moeilijk zijn om beslissingen te nemen over de semi-autonome wapens. Het verbieden van wapens die geheel autonoom zijn is op zich vrij makkelijk besloten, maar waar leg je de grens als het bijvoorbeeld gaat om de regelgeving rondom de semi-autonome wapens?

Gereduceerd tot een algoritme

Kortom, de overheid heeft nog wel een flink ei te leggen over hoe het zich zal opstellen waar het gaat om techgadgets die worden voorzien van wapens en erger nog: die niet meer door mensen worden gestuurd, maar door algoritmes. Dat onderschrijft ook PAX: “Het doden van mensen mag niet gereduceerd worden tot een algoritme. Dit druist in tegen de menselijke waardigheid.” Waarschijnlijk denken veel andere landen er ook zo over, maar geldt dat ook voor de Verenigde Staten en Rusland?

Immers denken ze daar heel anders over geweld, maar ook over wapens. Iets waar tot nu toe vooral mensen aan het roer stonden, maar wat als kunstmatige intelligentie en robotica dit overnemen? Volgens AIV en CAVV zijn de autonome wapensystemen tegen de regels van het internationaal humanitair recht. Het roept de Nederlandse overheid op om hier nog meer over te praten en een vuist tegen te maken.

Daarnaast wil het echter ook dat Defensie meer geld investeert in de ontwikkeling van nieuwe technologieën (en het verantwoord gebruik ervan). Het is dus dus tweeledig: enerzijds moet onze overheid zorgen dat er meer techwapens worden ontwikkeld, anderzijds moeten we zorgen dat we duidelijke afspraken maken over het gebruik ervan.

Convention on Certain Conventional Weapons

Het adviesorgaan schrijft: “ In een tijd van geostrategische en technologische uitdagingen neemt het gebruik van (gedeeltelijk) autonome wapens toe, maar ontbreekt heldere regulering. Het advies komt op een belangrijk moment. Van 13 tot 17 december vindt bij de Verenigde Naties in Geneve de vijfjaarlijkse toetsingsconferentie plaats van de Convention on Certain Conventional Weapons waarbij het onderwerp autonome wapens op de agenda staat.”

Nu is het ook door de regering aan AIV en CAVV gevraagd om het advies uit 2015 te actualiseren, dus de kans dat de overheid er ook iets mee gaat doen is groot. Aan de andere kant is het hier wel enorm last minute mee, als het advies pas sinds deze week af is voor een conferentie die volgende week plaatsvindt.

Laura Jenny

Is ze niet aan het tikken, dan zweeft ze ergens in de wondere wereld van entertainment of in een vliegtuig naar een toffe plek in de echte wereld. Mario...