De wetenschap ontwerpt robots die ons uiteindelijk zullen vermoorden

[M*rel.Marissen]

Persoonlijk heb ik net als Sofie mijn twijfels over de inhoudelijke correctheid van dit artikel. Ook mij lijkt het erg onwaarschijnlijk dat robots ons uiteindelijk zullen kunnen vermoorden als niemand ze daartoe programmeerd. Ik durf niet te zeggen dat dit onmogelijk is, want daarvoor ken ik te weinig van technologie, maar ik vind het een bijzonder bizar idee.
Langs de andere kant wekt dit artikel bij mij ook wel wat angst op. Wij zijn zoveel bezig met de vooruitgang van de technologie en wij ontwerpen zoveel nieuwe dingen, maar denken we eigenlijk wel voldoende na over de mogelijke negatieve gevolgen hiervan? In het verleden is al vaker gebleken dat bepaalde uitvindingen eigenlijk net slecht zijn voor ons, mensen vb. dynamiet, asbest... In dit artikel spreekt men eigenlijk over het feit dat als we op deze manier de technologie blijven programmeren, we het einde van de mensheid eigenlijk zelf aan het ontwerpen zijn. Natuurlijk is het niet mogelijk om alle mogelijke gevolgen in te zien alvorens we iets nieuws uitvinden, maar ik denk dat we toch iets langer hierover moeten gaan nadenken voordat we iets effectief gaan uitvoeren.
Nu men al weet/vermoedt dat dit gevaar schuilt in het ontwerpen van robots, beschikken wij nog over de mogelijkheid om dit te voorkomen. Ik weet niet hoe ingewikkeld het is om dit aan te passen, maar ik hoop dat het wel lukt. Moest dit artikel dan ook effectief inhoudelijk correct zijn, dan kan er een heuse ramp voorkomen worden door de robots op een andere manier te programmeren.

[wim leenaerts]

Toch had ik na het lezen van dit artikel het gevoel dat dit niet allemaal mogelijk kan zijn. Een robot is een machine. Ik heb nog geen enkele machine geweten dat kan denken

Nu nog niet, maar er wordt wel volop gewerkt aan het ontwikkelen van de eerste echte kunstmatige intelligentie. En ooit komt dat er. Computerprogramma's worden alsmaar complexer en er wordt ook volop gewerk aan nanocomputers en computers die werken volgens de principes van onze hersenen.

Omohundro is overigens niet de eerste die zich hier zorgen om maakt, menig sciencefictionschrijver heeft zich al proberen in te beelden hoe de wereld er zou uitzien met AI die intelligenter is dan wij, met als hoogtepunt The Matrix (daarin wordt ook ineens jouw energievraagstuk op een heel sinistere manier beantwoord).
SF-schrijver Isaac Asimove heeft rond dit idee zelfs een reeks boeken geschreven gebaseerd op zijn oplossing voor het probleem dat Omohundro stelt: nl. programmeurs moeten robotten (of AI) steeds programmeren op basis van volgende 3 wetten:

Eerste Wet: Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
Tweede Wet: Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden,
behalve als die opdrachten in strijd zijn met de Eerste Wet.
Derde Wet: Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

En als laatste. Lees ook eens over de 'technologische singulariteit'. Dat is een begrip in de computerwetenschappen dat kort samengevat neerkomt op 'Het tijdstip waarop de eerste kunstmatige intelligenties of posthumans (verbeterde mensen met een opgevoerde intelligentie) hun verdere ontwikkeling in eigen hand nemen en zich zelf zo snel gaan 'verbeteren' dat de wereld kort daarop eveneens onbegrijpelijk wordt voor hedendaagse mensen.' Heel interessant.

Omohundro is dus niet echt origineel met zijn kritiek/vrees...