DE UITDAGING OM MENS TE ZIJN IN HET TIJDPERK VAN ARTIFICIAL INTELLIGENCE

Redenatie is ons belangrijkste middel om de wereld te begrijpen. Hoe verandert dat als machines denken?

Vertaald uit The Wall Street Journal
Door Henry KissingerEric Schmidt en Daniel Huttenlocher
Nov. 1, 2021 6:35 pm ET

De Adviesraad voor Wetenschap en Technologie van het Witte Huis heeft opgeroepen tot een wet om Amerikanen te beschermen tegen "een door AI aangedreven wereld". De zorgen over AI zijn bekend en gegrond: dat het de privacy schendt en de transparantie in gevaar brengt en dat beïnvloedde invoergegevens vooringenomen resultaten zullen opleveren, ook op gebieden die essentieel zijn voor individuele en maatschappelijke bloei zoals geneeskunde, wetshandhaving, werkgelegenheid en leningen.

Maar AI zal een nog fundamentelere verandering afdwingen: het zal de menselijke redenatie uitdagen. In de geschiedenis hebben mensen geprobeerd de werkelijkheid en onze rol daarin te begrijpen. Sinds de Verlichting beschouwen we onze redenatie - ons vermogen om te onderzoeken, te begrijpen en uit te werken - als ons belangrijkste middel om de wereld te verklaren, en door het verklaren aan de wereld bij te dragen. De afgelopen 300 jaar, in wat historici het ‘Tijdperk van de Redenatie’ zijn gaan noemen, hebben we ons overeenkomstig gedragen; verkennen, experimenteren, bedenken en bouwen.

Nu maakt AI, een product van menselijke vindingrijkheid, het primaat van de menselijke redenatie overbodig: het onderzoekt en begint aspecten van de wereld sneller en anders waar te nemen dan wij en soms op dusdanige wijze die wij niet kunnen begrijpen.

In 2017 creëerde Google DeepMind een programma genaamd AlphaZero, dat een schaakspel kon winnen door het spel te bestuderen zonder menselijke tussenkomst en een onmenselijke strategie te ontwikkelen. Toen schaakgrootmeester Garry Kasparov het schaakspel van het programma aanschouwde, beschreef hij dat hiermee het spel compleet was opgeschud. Niet omdat het snel of efficiënt had geschaakt, maar omdat het programma het schaken opnieuw had uitgevonden.

GPT-3, het taalmodel van het onderzoeksbureau OpenAI - dat traint door internettekst te consumeren - produceert originele tekst die overeenkomt met de standaard van Alan Turing om "intelligent" gedrag te vertonen dat niet te onderscheiden is van dat van een mens.

De belofte van AI is diepgaand: talen vertalen; het opsporen van ziekten; klimaatverandering tegengaan – of in ieder geval klimaatverandering beter modelleren.

Dat geeft voor mensen de noodzaak om onze rol in de wereld te definiëren - of misschien opnieuw te definiëren. Al 300 jaar wordt het ‘Tijdperk van de Redenatie’ geleid door de stelregel "Ik denk, dus ik ben". Maar als AI ‘denkt’, wat zijn wij dan?

Als een AI het beste scenario van het jaar schrijft, moet het dan de Oscar winnen? Als een AI de meest ingrijpende diplomatieke onderhandelingen van het jaar simuleert of uitvoert, zou hij dan de Nobelprijs voor de Vrede moeten winnen? Of behoort die prijs toe aan de menselijke uitvinders? Kunnen machines "creatief" zijn? Of vereisen hun processen een nieuwe vocabulaire om te beschrijven?

Als een kind met een AI-assistent deze als een 'vriend' gaat beschouwen, wat zal er dan terechtkomen van zijn relatie met leeftijdsgenoten, of van zijn sociale of emotionele ontwikkeling?

En als een AI in oorlog een bevel geeft die schade of zelfs slachtoffers zou veroorzaken, moet een commandant daar dan gehoor aan geven?

Deze vragen vormen zich nu, terwijl wereldwijde netwerkplatforms zoals Google, Twitter en Facebook, AI gebruiken om meer informatie te verzamelen en te filteren dan hun gebruikers of werknemers kunnen. AI neemt dus beslissingen over wat belangrijk is - en in toenemende mate ook over wat waar is. Dat Facebook weet dat aggregatie en filtratie desinformatie en psychische aandoeningen verergert, is de fundamentele bewering van klokkenluider Frances Haugen.

Het beantwoorden van deze vragen zal gelijktijdige inspanningen vergen. Men moet niet alleen rekening houden met de praktische en juridische implicaties van AI, maar ook met de filosofische: als AI aspecten van de realiteit waarneemt die mensen niet kunnen waarnemen, hoe beïnvloedt dit dan de menselijke perceptie, cognitie en interactie? Kan AI bevriend raken met mensen? Wat zal de impact van AI zijn op cultuur, menselijkheid en geschiedenis?

Deze vragen zouden ook - buiten ontwikkelaars en regelgevers - moeten worden gesteld aan deskundigen op het gebied van geneeskunde, gezondheid, milieu, landbouw, zaken, psychologie, filosofie, geschiedenis en andere gebieden. Het doel van beide inspanningen zou moeten zijn om extreme reacties te vermijden - ofwel AI uitstellen of er weerstand tegen bieden - en in plaats daarvan een middenweg zoeken: AI vormgeven met menselijke waarden, inclusief de waardigheid en morele keuzevrijheid van mensen. In de VS zou een commissie moeten worden opgericht, beheerd door de overheid, maar bemand door veel denkers in vele domeinen. De vooruitgang van AI is onvermijdelijk, maar de uiteindelijke bestemming is dat niet.