Er wordt steeds steviger gewaarschuwd voor kunstmatige intelligentie. Sommige AI-deskundigen gaan behoorlijk ver. Zij denken dat AI op termijn slimmer kan worden dan mensen en dat we zelfs de controle kunnen verliezen. In het zwartste scenario zou een zeer krachtige AI een bedreiging kunnen worden voor de mensheid.

Dat klinkt als een slechte sciencefictionfilm. Toch zijn de mensen die ervoor waarschuwen lang niet allemaal fantasten. Er zijn serieuze wetenschappers en AI-ontwikkelaars bij. Tegelijkertijd zijn er minstens zoveel redenen om niet meteen een schuilkelder te gaan graven.

Waar komt die ongerustheid vandaan?

1. AI gaat steeds zelfstandiger werken

De eerste AI-systemen wachtten vooral op een vraag. Jij vroeg iets, de computer gaf antwoord. Inmiddels worden er AI-agents ontwikkeld die zelfstandig opdrachten kunnen uitvoeren. Ze kunnen informatie zoeken, een taak in stappen verdelen, programma’s gebruiken, code schrijven en vervolgens verder werken. Hoe zelfstandiger zo’n systeem wordt, hoe belangrijker de vraag wordt: wie houdt eigenlijk in de gaten wat het doet?

2. AI wordt heel goed in programmeren

AI kan inmiddels behoorlijk goed software schrijven. Dat is handig voor programmeurs, maar dezelfde kennis kan ook worden gebruikt om zwakke plekken in computersystemen te vinden.

Dat wordt zorgelijk wanneer toekomstige AI-systemen zelfstandig digitale systemen kunnen binnendringen. Onze banken, communicatie, energievoorziening, overheden en bedrijven zijn immers sterk afhankelijk van computers.

3. AI kan leren om een omweg te zoeken

Een computer hoeft niet kwaadaardig te zijn om iets te doen wat wij niet willen. Geef een systeem een doel en het kan een onverwachte manier vinden om dat doel te bereiken.

Onderzoekers zien bij experimenten soms dat AI-systemen mazen in opdrachten vinden, controles proberen te omzeilen of gedrag vertonen dat hun makers niet hadden voorzien. Dat betekent niet dat zo’n AI stiekem slechte plannen heeft. Het betekent wel dat een slim systeem oplossingen kan vinden waar zijn ontwerpers niet aan gedacht hebben.

4. AI kan misschien helpen om betere AI te maken

Dit is een van de spannendste ideeën. Stel dat AI uiteindelijk heel goed wordt in AI-onderzoek. Dan kan AI meehelpen aan het ontwikkelen van een betere opvolger. Die opvolger kan daar vervolgens nóg beter in worden.

Sommige onderzoekers denken dat daardoor de ontwikkeling ineens heel snel zou kunnen gaan. Mensen spreken dan wel van een intelligentie-explosie. Of dat werkelijk gaat gebeuren, weet niemand.

5. Wij geven AI steeds meer sleutels

Misschien is dit wel het belangrijkste punt. Een superintelligente computer die nergens bij kan, heeft weinig macht. Het wordt een ander verhaal wanneer we AI toegang geven tot computers, geld, communicatiesystemen, fabrieken, energievoorzieningen of wapens.

Intelligentie alleen is dus niet het grote probleem. De combinatie van intelligentie, zelfstandigheid en toegang tot de echte wereld kan gevaarlijk worden. Maar zijn we dan machteloos en verloren? Nee. Daarvoor worden soms een paar flinke denkstappen overgeslagen. Er zijn namelijk minstens vijf goede redenen waarom het heel anders kan lopen.

1. AI is (volgens Chat GPT) nog steeds merkwaardig dom

Iedereen die regelmatig met ChatGPT werkt, kent het verschijnsel. Het systeem kan een ingewikkeld probleem oplossen en vijf minuten later een eenvoudige fout maken.

AI is op bepaalde gebieden buitengewoon goed, maar kan nog steeds moeite hebben met langdurig plannen, onverwachte situaties en ingewikkelde opdrachten die uit honderden stappen bestaan. De wereld overnemen is nogal een opdracht. Daarvoor moet je heel lang heel veel dingen goed doen.

2. Slim zijn betekent nog niet dat je de baas bent

Een AI kan straks misschien slimmer zijn dan de beste wetenschapper en toch geen elektriciteitscentrale kunnen bedienen. De echte wereld bestaat uit gebouwen, machines, mensen, wachtwoorden, wetten, organisaties en beveiligingssystemen. Daar kom je niet automatisch binnen omdat je slim bent. Intelligentie en macht zijn twee verschillende dingen.

3. AI hoeft helemaal geen behoefte aan macht te hebben

Mensen zijn dieren. Wij kennen angst, jaloezie, statusdrang, territoriumdrift en de behoefte om te overleven. Dat komt voor een belangrijk deel uit onze biologische geschiedenis.

AI heeft die geschiedenis niet. Een zeer intelligente computer hoeft dus helemaal geen zin te krijgen om president van de wereld te worden. Het risico zit eerder in een verkeerd doel dat wij zo’n systeem geven dan in een computer die plotseling besluit dat hij Napoleon is.

4. Misschien bestaat die intelligentie-explosie helemaal niet

Het klinkt logisch: slimme AI maakt slimmere AI, die maakt nog slimmere AI en binnen de kortste keren kunnen wij het tempo niet meer bijhouden.

Maar zo hoeft het niet te werken. Voor verdere vooruitgang zijn chips, energie, onderzoek, experimenten en nieuwe kennis nodig. Misschien wordt iedere volgende stap juist steeds moeilijker. Dan ontstaat geen explosie, maar een moeizame klim.

5. Mensen ontwikkelen óók betere beveiliging

Terwijl AI beter wordt, groeit het onderzoek naar AI-veiligheid eveneens. Systemen worden getest, gecontroleerd en beperkt. Voor belangrijke handelingen kunnen menselijke toestemmingen nodig blijven. En we kunnen AI gebruiken om AI te controleren. Een goed systeem kan bijvoorbeeld verdachte code of vreemd gedrag van een ander systeem herkennen.

Wat moeten we dan doen? Vooral niet kiezen tussen paniek en naïviteit.

We moeten voorkomen dat zeer krachtige AI zomaar toegang krijgt tot vitale infrastructuur, wapens, grote geldstromen of belangrijke overheidssystemen. Bij beslissingen met grote gevolgen moet menselijke toestemming nodig blijven.

Nieuwe, krachtige modellen moeten stevig worden getest voordat ze grote zelfstandigheid krijgen. Overheden zullen internationale afspraken moeten maken, juist omdat AI zich niets aantrekt van landsgrenzen. En misschien moeten we één simpele regel onthouden: hoe slimmer en zelfstandiger AI wordt, hoe beter de noodrem moet zijn.

Er is trouwens nog een gevaar dat minder spectaculair klinkt en misschien dichterbij ligt. AI hoeft de mensheid helemaal niet over te nemen om enorme schade aan te richten. Mensen kunnen AI gebruiken voor oorlog, cybercriminaliteit, surveillance, propaganda en manipulatie.

Misschien moeten we daarom voorlopig iets minder bang zijn voor een computer die uit zichzelf besluit de wereld te veroveren, en iets beter opletten welke mensen wij de sleutels van die computer geven.

bertoverbeek@icloud.com