Pleidooi voor verbod op ‘killer robots’
In een open brief aan de Verenigde Naties pleiten 116 bedrijfsleiders uit de robotica en kunstmatige intelligentie (AI) voor een mondiaal verbod op ‘killer robots’, dodelijke autonome wapens. Bij de ondertekenaars horen kleppers als Elon Musk van Tesla en Mustafa Suleyman, de oprichter en het hoofd van toegepaste AI bij Googles Deepmind. Wie ‘Robocop’ of ‘Terminator’ als een verre, onbereikbare fantasie wegzet, heeft het mis. Autonome wapens, die beslissen over leven en dood zonder menselijk ingrijpen, zijn dichterbij dan u denkt. Op de grens met Noord- en Zuid-Korea staan al autonome SGR-A1-mitrailleurs die de omgeving scannen en zelf kunnen vuren op verdachte personen. De mitrailleur scant zijn omgeving en kan zelf vuren op verdachte personen.
Doos van Pandora
Het wapen is ontwikkeld door Samsung en Zuid-Koreaanse universiteiten. Het eveneens Zuid-Koreaanse bedrijf Dodaam Systems heeft al tientallen Super aEgisIImachinegeweren verkocht, onder meer aan een reeks Arabische landen. Dit wapen kan een doelwit identificeren, opsporen en uitschakelen, in theorie zonder menselijke tussenkomst. Tot nu toe hebben de klanten van Dodaam gevraagd om toch een menselijke schakel toe te voegen die de beslissing over leven of dood kan nemen. De opstellers van de open brief vrezen dat ‘killer robots’ een heel gevaarlijke dimensie aan het concept oorlog toevoegt: “Deze autonome wapens dreigen te leiden tot een industrialisering van oorlog en de manier waarop we mensen doden. Als ze deel gaan uitmaken van het militaire industriële complex dan zullen ze uiteindelijk tegen mensen gebruikt worden.” Ze vrezen ook dat als “eenmaal deze doos van Pandora geopend is, het heel moeilijk zal zijn om ze te sluiten.” Normaal gezien zou gisteren een VN-conferentie over deze wapens gestart zijn, maar de vergadering werd geschrapt omdat een veel te klein aantal lidstaten zijn bijdrage had betaald.