Onder meer Tesla-ceo Elon Musk en de wereldberoemde natuurkundige Stephen Hawking waarschuwden eerder al voor de mogelijkheid dat mensen de controle verliezen over zelflerende robots en autonome wapens.
De Google-onderzoekers vinden dat veel te vaag. ”Het grootste deel van het debat erg hypothetisch en speculatief”, aldus Google-onderzoeker Chris Olah in een dinsdag gepubliceerde paper (pdf), die samen met de organisatie Open AI en de universiteiten in Stanford en Berkely werd opgesteld.
“Wij denken dat het belangrijk is om een praktische aanpak te ontwikkelen voor het ontwikkelen van AI-systemen die veilig en betrouwbaar werken.” Het onderzoeksteam van Google heeft daarom een aantal kleine praktische problemen in kaart gebracht waarvan het denkt dat het belangrijk is voor elke vorm van kunstmatige intelligentie in de toekomst.
Vaas omgooien
Google wijst nu op concretere risico’s van kunstmatige intelligentie, bij bijvoorbeeld een schoonmaakrobot. Zo moet er worden nagedacht over hoe kan worden voorkomen dat robots valsspelen: ”Hoe zorgen we er voor dat een schoonmaakrobot geen vaas omgooit, omdat het op die manier sneller kan schoonmaken?”, aldus Olah.
Ook moet er volgens hem worden nagedacht over hoe robots in toom worden gehouden bij het experimenteren. “Een schoonmaakrobot zou nieuwe dweilmethoden moeten kunnen uitproberen, maar het moet natuurlijk geen natte dweil in een stopcontact stoppen.”