De wetenschap ontwerpt robots die ons uiteindelijk zullen vermoorden

[wim leenaerts]

Toch had ik na het lezen van dit artikel het gevoel dat dit niet allemaal mogelijk kan zijn. Een robot is een machine. Ik heb nog geen enkele machine geweten dat kan denken

Nu nog niet, maar er wordt wel volop gewerkt aan het ontwikkelen van de eerste echte kunstmatige intelligentie. En ooit komt dat er. Computerprogramma's worden alsmaar complexer en er wordt ook volop gewerk aan nanocomputers en computers die werken volgens de principes van onze hersenen.

Omohundro is overigens niet de eerste die zich hier zorgen om maakt, menig sciencefictionschrijver heeft zich al proberen in te beelden hoe de wereld er zou uitzien met AI die intelligenter is dan wij, met als hoogtepunt The Matrix (daarin wordt ook ineens jouw energievraagstuk op een heel sinistere manier beantwoord).
SF-schrijver Isaac Asimove heeft rond dit idee zelfs een reeks boeken geschreven gebaseerd op zijn oplossing voor het probleem dat Omohundro stelt: nl. programmeurs moeten robotten (of AI) steeds programmeren op basis van volgende 3 wetten:

Eerste Wet: Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
Tweede Wet: Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden,
behalve als die opdrachten in strijd zijn met de Eerste Wet.
Derde Wet: Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

En als laatste. Lees ook eens over de 'technologische singulariteit'. Dat is een begrip in de computerwetenschappen dat kort samengevat neerkomt op 'Het tijdstip waarop de eerste kunstmatige intelligenties of posthumans (verbeterde mensen met een opgevoerde intelligentie) hun verdere ontwikkeling in eigen hand nemen en zich zelf zo snel gaan 'verbeteren' dat de wereld kort daarop eveneens onbegrijpelijk wordt voor hedendaagse mensen.' Heel interessant.

Omohundro is dus niet echt origineel met zijn kritiek/vrees...