Uit Knack – Jan Stevens
Een superintelligente machine die de macht over de planeet overneemt, het doet denken aan het scenario van een goedkope rampenfilm, maar sciencefiction is het volgens Bostrom zeker niet. ‘Er zijn overvloedig veel aanwijzingen dat die machine eraan zit te komen. Computerwetenschappers zijn het erover eens dat binnen dit en vijftig jaar een computer gebouwd zal worden die even slim is als de mens. De tijd dat neurowetenschappers alle finesses van het menselijke brein zullen doorgronden, is niet ver meer af. De volgende stap is dat onze hersenen zullen worden gescand, gekopieerd, verbeterd én ingeplant in machines. Zodra we in dat stadium aanbeland zijn, is het hek van de dam.’
Vanwaar dat doemdenken? ‘De artificiële intelligentie zal steeds slimmer worden en steeds sneller kunnen rekenen, terwijl ons eigen brein hopeloos zal blijven achterophinken. Maar software die sneller denkt dan de mens, kan ook aan zichzelf sleutelen en zichzelf verbeteren, waardoor zijn snelheid van denken gradueel wordt opgedreven tot hij op hol slaat. Zo belandt de programmatuur in de fase van superintelligentie en zijn wij er alle controle over kwijt. Die superintelligentie zal zich dan gedragen als een kind dat cowboy en indiaan speelt met een geladen pistool. Superintelligente machines zullen helemaal op zichzelf bestaan, nieuwe ontdekkingen doen en nieuwe technologieën ontwikkelen.’
Bostrom is er ook van overtuigd dat die superintelligente machines zullen uitgroeien tot een nieuwe ‘soort’. ‘Bij superintelligentie gaat het niet om een nieuw stuk gereedschap, maar om “iets” wat zich qua slimheid tegenover ons zal verhouden zoals wij tegenover de gorilla.’ En Bostrom gaat nog een stap verder. De nieuwe soort zou volgens hem de mens wel eens kunnen uitroeien. ‘Ze zou onze laatste uitvinding kunnen zijn. Mensen lijken zich vooral zorgen te maken over de dreiging van de natuur, met vulkaanuitbarstingen, meteorietinslagen of aardbevingen. Maar natuurrampen hebben we altijd al overleefd en dat zal ook zo blijven. Bij artificiële intelligentie daarentegen hollen we achter de door ons zelf gecreëerde feiten aan. In die zin houdt artificiële intelligentie een existentieel risico voor de mens in. We moeten ons reppen om onze eigen softwarecreaties te blijven snappen, en dat lukt steeds minder goed.