In de open brief, gepubliceerd door het Future of Life-instituut, waarschuwen de experts voor de gevaren van een wapenwedloop op het gebied van kunstmatige intelligentie.
“Kunstmatige intelligentie is op het punt waarop de uitrol van [autonome wapens] binnen jaren in plaats van decennia haalbaar is”, schrijven de wetenschappers. “De belangen zijn groot: autonome wapens worden gezien als de derde revolutie in oorlogsvoering, na het buskruit en nucleaire wapens.”
De Kalasjnikovs van de toekomst
Tesla-oprichter Elon Musk waarschuwt al langer voor de gevaren van kunstmatige intelligentie. Ook Apple-oprichter Steve Wozniak spreekt regelmatig over de gevaren, en ondertekende net als wetenschapper Stephen Hawking eerder al een algemene waarschuwing over de gevaren van zelfdenkende computers.
De wetenschappers zeggen dat de voordelen van kunstmatige intelligentie – minder menselijke slachtoffers – niet opweegt tegen de nadelen. Zo verlagen autonome wapens volgens de wetenschappers de drempel tot het starten van een conflict of oorlog.
“Als één wereldmacht begint met de ontwikkeling van autonome wapens zal de rest volgen. De uitkomst van die wapenwedloop ligt voor de hand: autonome wapens zullen de Kalasjnikovs van de toekomst worden”, aldus de brief.
Verbod noodzakelijk
De experts wijzen daarnaast op de lage productiekosten van autonome wapens, waarvoor in tegenstelling tot nucleaire wapens geen schaars materiaal nodig is. Dat zal volgens de brief vervolgens leiden tot zo’n groot aantal autonome wapens dat verkoop op de zwarte markt en aan terroristen niet te voorkomen zal zijn.
“Wij geloven dat kunstmatige intelligentie van groot nut is voor de mensheid”, schrijven de wetenschappers. “Er zijn veel manieren waarop kunstmatige intelligentie het slagveld veiliger kan maken voor mensen, vooral burgers, zonder dat daar nieuwe wapens voor gemaakt hoeven worden”, aldus de wetenschappers.
“Het starten van een militaire wapenwedloop met kunstmatige intelligentie is een slecht idee, en moet voorkopen worden met een verbod op offensieve autonome wapens die buiten menselijke controle staan”, besluiten de experts hun brief.
Experts
Naast Musk, Wozniak en Hawking is de brief ook ondertekend door onder meer de topman van Google Deepmind, een AI-afdeling van Google en Stephen Goose van Human Rights Watch. Daarnaast hebben tal van professoren, onderzoekers en afdelingshoofden van technische universiteiten wereldwijd de brief getekend.
De Verenigde Naties zijn ook al enkele malen in vergadering geweest over de gevaren van kunstmatige intelligentie en autonome wapens. In 2014 werd een verbod op ‘killer robots’ al overwogen.