Uit “Homo Deus – Een kleine geschiedenis van de toekomst” door Yuval Noah HARARI
Als er computerprogramma’s met een bovenmenselijke intelligentie en dito vermogens komen, moeten we die programma’s dan hoger aanslaan dan mensen? Zou het bijvoorbeeld acceptabel zijn als een kunstmatige intelligentie mensen zou exploiteren en zelfs doden ten bate van haar eigen behoeften en verlangens? Als zo’n intelligentie dat nooit zou mogen, hoe oppermachtig en superieur ze ook is, waarom is het dan wel ethisch aanvaardbaar als mensen varkens exploiteren en doden? Hebben mensen, naast hun intelligentie en hogere macht, iets magisch in zich dat hen onderscheidt van varkens, kippen, chimpansees en computerprogramma’s? Zo ja, wat is dat dan voor magisch iets en waarom zijn we er zo zeker van dat kunstmatige intelligentie het nooit kan hebben? En als het er niet is, is er dan nog wel een reden om speciale waarde toe te kennen aan menselijk leven zodra computers machtiger en slimmer worden dan mensen? Wat is het überhaupt dat mensen zo intelligent en machtig maakt en hoe waarschijnlijk is het dat niet-menselijke entiteiten ons ooit zullen evenaren en overtreffen?