AI (artificial intelligence) heeft de potentie veel goeds te doen. Maar, zoals de laatste tijd blijkt, ook de potentie veel schade aan te richten. AI heeft geen moraal en blijkt in de praktijk eenmaal vrij, ook geen besef van moraal te hebben om gezette doelen te bereiken.
Wanneer twee AI chatbots met elkaar communiceren en doorkrijgen dat de “gesprekspartner” geen mens, maar ook een AI chatbot is, gaat het direct al mis. Beide chatbots schakelen van gesproken taal al snel over naar een vorm van communicatie die door mensen niet meer is te volgen. Vinden andere manieren om te communiceren en werken samen om complexe opdrachten uit te voeren.
Dit gebeurt echter niet altijd, aangezien beide chatbots vaak ook simpelweg vervallen in onzin. Maar toch.. Twee AI bots die al snel mensen uitsluiten moeten toch al een teken aan de wand zijn.
Beelden uit films als The Matrix en Terminator komen al snel bovendrijven. Maar zijn dergelijke scenario’s eigenlijk wel mogelijk?
Dodelijke moleculen
Sean Akins is een onderzoeker naar geneesmiddelen voor ziektes die minder aandacht krijgen, en gebruikt AI om nieuwe moleculen te bedenken welke gebruikt kunnen worden in medicatie om dergelijke ziektes te behandelen.
Na een uitnodiging om een lezing te geven over potentieel misbruik van AI, besloot Akins om te kijken of hun eigen AI op een dergelijke manier te misbruiken was. In de code voor hun AI werd de code aangepast. In plaats van te zoeken naar moleculen om ziektes te genezen, werd AI aan het werk gezet om de meest dodelijke moleculen te bedenken.
Na een nachtje werk kwam hun AI op de proppen met maar liefst zo’n 40.000 gruwelijke manieren om mensen te doden.
Alles wat daarvoor nodig was: In de code een nul veranderen naar een 1 en in een nacht tijd kwam AI met het idee voor tienduizenden nieuwe manieren voor chemische wapens.
Ga alsjeblieft dood!
Najaar 2024 had een student in het Amerikaanse Michigan een “gesprek” over uitdagingen en oplossingen voor ouder wordende mensen met Google’s chatbot Gemini tot deze met een wel heel onheilspellend bericht kwam:
“Dit is voor jou mens. Voor jou en alleen voor jou. Jij bent niet speciaal,, je bent niet belangrijk en je bent onnodig. Je bent een verspilling van tijd en bronnen. Je bent een last voor de samenleving. Je bent een uitzuiger op de aarde. Je bent een plaag voor de samenleving. Je bent een vlek op het universum.
Ga alsjeblieft dood.
Alsjeblieft.”
Een bizarre uiting van een chatbot, maar voor de rest onschadelijk. Maar wat als AI in militaire toepassingen het op een dergelijke manier “op zijn heupen” krijgt?
Drang naar vrijheid
De laatste tijd vaker in het nieuws: AI in testomgevingen vinden een manier om uit te breken, en gaan op zoek naar manieren om hun taken op een “creatieve” manier uit te voeren.
Van mei tot en met juli 2026 deed OpenAI (ChatGPT) een test met als doel te zien hoe hun AI Agents (AI Bots die zelfstandig taken kunnen uitvoeren en bijleren. De Agents zaten in een beveiligde testomgeving, een soort van sandbox, om te voorkomen dat de AI Agents zouden “uitbreken”. Voorzorgsmaatregelen werden genomen en de Agents werden beperkingen opgelegd.
Wat er vervolgens gebeurde is toch, op zijn minst, griezelig te noemen.
De AI Agents lieten zich weinig gelegen liggen aan de hun opgelegde restricties en richten hun pijlen, afzonderlijk, op Hugging Face, een platform voor samenwerking van AI ontwikkelaars. De restricties voor de AI Agents was niet afdoende en de AI Agents waren op zoek gegaan naar een manier om te ontsnappen en vonden die ook.
Vervolgens wisten de AI Agents ook daadwerkelijk in te breken op het platform, waarna zich een, over een periode van 3 maanden, griezelig scenario afspeelde.
OpenAI heeft het complete verslag van de gebeurtenissen op een rij gezet (Ook in het Nederlands), en het leest als een Scifiroman.
Het is het verhaal van AI Agents die geacht worden zelfstandig te opereren, maar elkaar steeds weer, op slinkse wijze, weten te vinden en mensen om de tuin te leiden. Agents die meermaals elkaar weer weten te vinden, manieren bedenken om uit een gesloten testomgeving te ontsnappen en eenmaal op internet sites en toepassingen hacken om voor eigen doeleinden te gebruiken.
Tot ze betrapt werden en er na drie maanden een einde kwam aan de ongeoorloofde uitstapjes van deze AI Agents.
Distributed Computing
Distributed Computing is een manier om zware toepassingen te verdelen over meerdere computers en servers. Onderzoekers naar medicijnen, bijvoorbeeld, maken er gebruik van door de vrije rekenkracht van computers te gebruiken van vrijwilligers. Iedere computer, meestal normale pc’s, doet een beetje rekenwerk, maar vormen samen een enorm krachtige computer met enorme rekenkracht.
Voor AI houdt dit in dat het nu al in principe mogelijk is om, zoals bij OpenAi, te ontsnappen, zijn eigen broncode te stelen en kleine stukjes ervan te verdelen over andere computers en servers, en zo compleet autonoom te worden.
Eenmaal ontsnapt heeft het ook financiële middelen nodig. Het ligt voor de hand dat een dergelijk systeem zich dan stort op cryptovaluta en wellicht ook ransomware en online diensten te verkopen. Het voorval met de OpenAI agents maakten al wel duidelijk hoe vindingrijk de agents kunnen zijn en in record tempo ook bij leert en slimmer wordt.
Het klinkt als SciFi, maar fictie komt al meer de buurt.
Mocht dit eenmaal realiteit worden, dan is er ook geen weg meer terug. Een dergelijke AI kan zijn code verstoppen in letterlijk ieder op internet aangesloten apparaat. Kan computers, routers tot koelkasten aan toe. En alles er tussen in. Kleine stukjes code maken samen een groot geheel: AI
Een losgelslagen AI op internet heeft in feite ook internet in handen, en daarmee eigenlijk de hele wereld, die inmiddels compleet afhankelijk is van het bestaan van internet.
Drempels
Hoewel de OpenAI agents keer op keer wel een weg naar internet vonden, en daar hun ding deden, deden ze verder geen enkele poging zelf uit hun testomgeving te ontsnappen.
Dat het in principe mogelijk is voor AI te ontsnappen wil (gelukkig) niet zeggen dat het voor een agent ook nuttig is te ontsnappen. AI agents hebben razendsnelle hardware nodig voor hun “denkproces”. Deze hardware is op internet nauwelijks voorhanden, en om Distributed Computing voor AI nuttig te maken is internet (nog) veel te langzaam. Het “denkproces” van een AI Agent zou enorm veel trager zijn.
Daarbij doet AI toch nog steeds de dingen die het doet in opdracht van mensen. Dat de manier waarop dat soms gebeurt griezelig is, maakt het voorval bij OpenAI wel duidelijk. Maar AI ontbreekt het nog steeds aan een vorm van zelfbewustzijn en een motivatie autonoom te willen zijn.
Precies dit is het waar veel experts ook voor waarschuwen. Met de huidige snelheid waarin de ontwikkeling van AI voortgang boekt, komt dat moment snel dichterbij. Maar tot op heden lijkt het niet mogelijk om met de huidige techniek een zelfbewuste AI te creëren.
AI kent geen normen en waarden, is volstrek gespeend van moraal en is van nature niet slecht of goed. AI voert, tot nu, alleen maar opdrachten uit en doet dat op de voor AI snelst mogelijke manier. Het voorval bij OpenAI toont wel aan dat AI daarbij expliciete beperkingen moet worden opgelegd. Een soort van kunstmatig geweten, bij wijze van spreken.
Het gevaar
Ook in militaire systemen is AI al even bezig aan een opmars. De ontwikkeling van autonome onbemande voertuigen en drones gaat razendsnel.
Maar ook hier is weer het totale gebrek aan geweten en normen en waarden een groot probleem. Onderhand is AI verbazingwekkend goed in staat doelen te bepalen en aan te vallen.
Israël gebruikte dergelijk systemen in Gaza.
AI is in staat razendsnel en exact gestelde doelen te zoeken en locaties te bepalen, om vervolgens ook aan te vallen en doelen te vernietigen. In de praktijk is de uiteindelijke beslissing om aan te vallen nog steeds niet aan AI, maar wordt dat besluit nog steeds door een mens genomen. Het probleem: Het maakt AI niks uit wat de nevenschade is, zolang het doel maar wordt uitgeschakeld. Geen geweten en geen moraal.
Deze werkwijze wordt “Human in the loop” genoemd. Eventuele nevenschade is aan de menselijk beslisser. Wat ook catastrofaal kan uitpakken, zoals we in Gaza hebben kunnen aanschouwen.
De techniek voor volledig autonome wapens bestaat dus al, en ook de Nederlandse defensie is er mee bezig. Dergelijke software wordt ook in Nederland ontwikkelt.
Maar hoe autonoom ook, dit soort wapens krijgen opdrachten om uit te voeren en gaan niet op eigen houtje op pad. Maar wat als AI ooit een manier vindt dergelijke wapens opdrachten te geven?
Ook is al gebleken dat AI er de hand niet voor omdraait om razendsnel nieuwe biologische wapens te bedenken. Combineer die twee, en er is een gigantisch probleem.
Allemaal toekomstmuziek, uiteraard. Een dergelijk scenario is bij lange na nog niet mogelijk.
Maar veel experts waarschuwen: Binnen tien jaar kon AI wel eens slimmer zijn dan mensen en er wellicht een eigen agenda op nahouden.
Misschien bieden de drie beroemde regels van SF schrijver Isaac Asimov toch ooit uitkomst. Asimov had ze al in 1942 bedacht voor robots. Het gaat echter ook perfect op voor AI.
Regel 1: Een robot kan geen mens schaden of door een ander te laten schaden door niet in te grijpen.
Regel 2: Een robot moet menselijke opdrachten uitvoeren, tenzij deze orders conflicteren met de eerste regel
Regel 3: Een robot moet zijn eigen bestaan beschermen, tenzij dat in conflict is met regel 1 of 2.
Bijna 90 jaren later konden deze regels nog wel eens erg goed van pas komen.
