Uit Knack – door Jan Stevens

In zijn onlangs verschenen boek Superintelligence waarschuwt Nick Bostrom ons voor wat wel eens ons Armageddon zou kunnen worden: een machine die vele malen slimmer is dan de mens. ‘Wetenschappers dromen van een superintelligente computer,’ zegt hij, ‘maar ze zijn zich niet bewust van de gevaren. Een van de grootste risico’s is dat zo’n superintelligente machine acties begint te ondernemen die wij helemaal niet leuk vinden. Zo zou ze bedrijfscomputers kunnen hacken en de controle overnemen over fabrieken en geautomatiseerde labo’s. Ze zou mensen ook kunnen manipuileren om dingen te doen die in hun nadeel zijn. Het zou ook kunnen dat er op verschillende plaatsen ter wereld meerdere superslimme machines worden gebouwd die vervolgens elkaar beginnen te beconcurreren, waardoor een soort wapenwedloop onder computers zou ontstaan. Een superintelligente machine kan de maatschappij ook vertimmeren tot een Big Brother-achtige samenleving zonder enige vorm van moraal. Of tot een hyperintelligent pretpark zonder mensen van vlees en bloed, een Disneyland zonder kinderen’.