Sorry dat ik het vraag:ben jij echt?

Sorry dat ik het vraag:ben jij echt?
Niet lang geleden belandde oud-politicus en strateeg Henry Kissinger (95) in een panel over artificiële intelligentie (AI), normaal niet zijn ding. Maar de eerste spreker ving zijn aandacht met de voorspelling dat een computer binnenkort in het strategische bordspel go de topspelers zou verslaan. Dit spel is moeilijker dan schaken, waar de computer al sinds 1997 heerst. De machine had het zichzelf geleerd. Het brein van de Duits-Amerikaanse historicus begon te tollen. Welke impact hebben zelflerende machines op de geschiedenis? Staan we op een punt van de menselijke beschaving dat vergelijkbaar is met dat van de Inca’s aan de vooravond van de Spaanse invasie, een voor hen onbegrijpelijke en schrikwekkende cultuur?

In een essay voor The Atlantic uitte Kissinger de zorg dat we een tijdperk binnen rommelen waaraan we geen zin of betekenis meer weten te geven. Dus moeten ook menswetenschappers en politici zich dringend om AI bekommeren. Natuurlijk, zelflerende machines, van zelfrijdende auto’s tot chatbots, dienen medische kennis, schone energie en het milieu. Dus willen wetenschappers en technici vooral vooruit en zien commerciëlen de dollars rollen, maar wie bekommert zich om de schaduwzijden? Artificiële intelligentie kan met eigen oordelen over de toekomst de doelen aanpassen (een verschil met automatisering, waar de doelen vastliggen en het om betere middelen gaat). Dus kan AI tot onbedoelde resultaten leiden, de boel kan ontsporen – een geliefd gevaar in de sf-literatuur. Maar Kissinger wijst op twee problemen die ook kunnen optreden wanneer AI binnen de paden blijft. Ten eerste beïnvloedt AI onze kijk op het menselijk denkvermogen. Als computers steeds meer dingen beter kunnen dan wij, is ons denken dan echt enkel een kwestie van rekenen en geheugen – of is er toch iets meer? Ten tweede kan het gebeuren dat AI beoogde doelen bereikt zonder ons nog de onderliggende redenen voor de conclusies te kunnen uitleggen. Dan zou AI de kracht van menselijke taal en rede te boven gaan, alles waarop we sinds de Renaissance vertrouwen om onze verhouding tot de natuur, de tijd en onze medemens te bepalen. Daar zit Kissingers diepste zorg: de intrede in een wereld die ons vreemd is. Als historicus met wijde blik brengt hij ons tot de drempel. Om te voelen hoe het aan gene zijde zou kunnen zijn, hebben we Ian McEwan en de literatuur.

Wat als je een nieuwe vriendin hebt en haar na twee heerlijke weken in bed eindelijk vraagt: „Ben je wel echt?” In een hilarisch verhaal voor de New York Review of Booksspringt de Engelse romanschrijver naar een tijd waarin mensen en androïden door elkaar wonen. Gelukkig nam de dame in kwestie er geen aanstoot aan: „Ik dacht dat je het wist, ik ben gemaakt in Düsseldorf, net als mijn ouders. Maar de neef in dat restaurant, die komt uit Taiwan.”

In het verhaal hebben robots gelijke rechten, na een slaven-emancipatie-achtige strijd. Ze hebben ook recht op privacy; die tactloze vraag aan zijn minnares stelde de verteller heel lang geleden. Zoiets zou nu not done zijn.

Is de minister-president een mens of een robot? Gaan er nog Nobelprijzen naar mensen? Niemand weet het nog. De verteller besluit: „Mijn generatie overspant een van de diepste kloven in de bergketen die we de moderniteit noemen. En geloof me, als je nooit excuses hebt gemaakt aan een machine voor die indiscrete vraag, dan heb je geen idee van de historische afstand die mijn generatie en ik hebben afgelegd.”