Groeten uit 2011

zondag 14 augustus 2011

It is not the strongest of species that survive, nor the most intelligent, but those most adaptive to change – Charles Darwin

Met zijn medewerkerspas opent Jan de schuifdeuren op de verdieping waar zijn reclamebureau is gevestigd. Hij drukt op de knop van de lift, die arriveert binnen enkele seconden. Hij haalt een kauwgom uit het pakje in de binnenzak van zijn maatpak om de druk in zijn oren te verlichten als hij in even zoveel seconden van de veertiende verdieping naar min één suist. Terwijl hij de lift uit loopt opent hij alvast de deuren van zijn auto. Knipperende lichten en een fel ‘bliepbliep’ wijzen hem de weg naar zijn vervoersmiddel. Met zijn medewerkerspas kan hij vervolgens de parkeergarage verlaten om zich aan te sluiten bij de file op de A2. Als hij een half uur later thuis aankomt sterft hij zowat van de honger. Hij pakt een bak boerenkool met worst uit de koelkast en zet die in de magnetron. Met het bord op schoot neemt hij plaats op zijn leren bank en met de behendigheid van een ervaren tv-kijker leidt hij de afstandsbediening naar SBS6 programma gemist om in HD kwaliteit te lachen om zijn soortgenoten in “Groeten uit de rimboe”.

We kunnen het ons haast niet meer voorstellen, dat we zelf onze boerenkool moeten verbouwen en dat we onze eigen rookworst moeten vangen. Onze overlevingskansen worden niet langer bepaald door hoe goed ons lichaam zich aanpast op de omgeving waarin we leven. Wij passen de omgeving aan aan wat ons lichaam nodig heeft. Evolutie heeft ons een brein geleverd waarmee we in staat zijn om bestaande ideeën met elkaar te combineren in ons hoofd. We zien dan voor ons hoe zo’n nieuw idee er uit zou zien en hoe het zou moeten werken. Vervolgens werken we het idee uit, op papier, of op een computer, of we bouwen een nieuw, tastbaar ‘ding’. We zijn een ras van uitvinders. We maken steeds nieuwe dingen om ons eigen leven en dat van anderen makkelijker te maken.

De sleutel tot onze technologische vooruitgang is dat we onze opgedane kennis, onze ideeën die tot uitvindingen leidden, kunnen overdragen naar de volgende generatie; wij kunnen leren van elkaar.[1] Zo kunnen we alsmaar ingewikkeldere dingen uitvinden. Er zijn wetenschappers die voorspellen dat we nog in deze eeuw in staat zullen zijn om dit uitvinders proces van het leren en vervolgens recombineren van bestaande ideeën om tot een nieuw idee te komen na te maken in de vorm van een artificial intelligence. Dat zal een computer zijn waarvan we ons de vorm op dit moment misschien nog niet eens kunnen voorstellen, zoals we ons vijftig jaar geleden ook niet konden voorstellen dat we met een computer in onze broekzak, een smartphone, zouden rondlopen. Deze computer kan een nieuwe computer uitvinden die nog veel beter is in leren en recombineren. Die nieuwe computer kan weer een betere computer uitvinden. En zo bereiken we misschien wel een punt waarop wij mensen de technologische vooruitgang niet meer bij kunnen benen, omdat ons niveau van denken wordt beperkt door de biologische samenstelling van onze hersenen. Dat punt wordt ‘the singularity’ genoemd.

Niet iedereen is het erover eens dat dit gaat gebeuren. De materialen waarvan we computers kunnen maken hebben immers ook beperkingen, net zo goed als onze lichamen dat hebben. Door degenen die wel geloven in the singuarity worden twee scenario’s geschetst. We zouden door technologie kunnen worden ‘weggeëvolueerd’. Zoals wij dieren doden omdat we ze nodig hebben voor voedsel of kleding, zo zou een artificial intelligence wellicht ook een nut vinden voor onze lichamen.[2] Het zou ook nog kunnen dat we per ongeluk sterven omdat we niet goed hebben nagedacht over hoe een artificial intelligence met zijn eigen doelen en motivaties ons kan helpen. Nick Bostrom noemt een voorbeeld waarbij we een machine zichzelf laten evolueren om zo goed en efficiënt mogelijk paperclips te fabriceren.[3] Wanneer deze machine superintelligent wordt, zou hij het zomaar eens voor elkaar kunnen krijgen om de hele aardbol om te vormen tot een paperclipfabriek. Ten slotte zouden machines ons ook bewust kunnen uitroeien als ze ons als een bedreiging zouden ervaren, zoals wij virussen laten uitsterven.

Er zijn ook mensen die positievere scenario’s voor zich zien. De meest prominente van hen is misschien wel Ray Kurzweil. Hij voorspelt dat we onsterfelijk zullen worden. Superintelligente ‘machines’ zullen niet naast ons bestaan, maar binnen in onze lichamen. Er zullen computers zijn die zo groot zijn als een lichaamscel. Deze kunnen dus in onze bloedvaten of in onze zenuwen worden opgenomen. Zo kunnen we onze sterfelijke lichamen met hun beperkte mogelijkheden uitbreiden en verbeteren. We kunnen met onze geest verbonden zijn met het internet en zo direct onze gedachten communiceren. We kunnen meer weten dan we ooit in onze menselijke hersenen zouden kunnen opslaan doordat we met onze hersenen niet alleen ons eigen natuurlijke geheugen kunnen doorzoeken, maar het hele internet, en mischien zelfs het geheugen van anderen. Zo kunnen we ook zorgen dan onze eigen herinneringen niet verloren gaan als ons fysieke lichaam sterft en kunnen we doorleven in een machine. Bovendien zou die bovenmatige intelligentie die na de singularity zal ontstaan ook gebruikt kunnen worden om de medische wetenschap verder te helpen. Zo kunnen we aan het eind van deze eeuw misschien wel het verouderingsproces volledig stopzetten, zodat we niet alleen mentaal, maar ook fysiek onsterfelijk zijn.

Met zulke tegengestelde toekomstvisioenen zijn wetenschappers gedwongen om zich bezig te houden met de vraag of we de singularity wel moeten nastreven. Er worden verschillende initiatieven genomen, waaronder het Singuarity Institute for Artificial Intelligence,  om te onderzoeken hoe we het eerste doemscenario kunnen voorkomen en het utopiaanse tweede scenario kunnen stimuleren. Het onderzoeksveld van Friendly Artificial Intelligence doet expliciet onderzoek naar  hoe we kunnen zorgen dat zichzelf ontwikkelende superintelligente computers voldoende motivatie hebben en houden om de mens geen kwaad te doen, of om hem zelfs te helpen. Wie weet kunnen we over enkele tientallen jaren, als we de singularity hebben overleefd, wel lachen om ‘Groeten uit 2011‘ als de zoon van Jan moet ontdekken dat hij de lift niet met zijn gedachten kan besturen, dat hij zijn eten niet met zijn ogen kan opwarmen en dat je een film alleen op een zogenaamde televisie kan zien, een apparaat zo groot dat het een centrale plek in de huiskamer opeist en dat slechts tweedimensionale beelden kan laten zien!

---

[1]Sir Peter Medawar noemt dit exogenetische erfelijkheid om een vergelijking te maken met biologische evolutie via (endogenetische) erfelijkheid, zie http://cscs.umich.edu/~crshalizi/Medawar/technology-and-evolution/

[2] Eliezer Yudkowsky schreef: “The AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else.”

[3] Zie http://www.nickbostrom.com/ethics/ai.html