STADSKANAAL – Verliezen we de controle over kunstmatige intelligentie? Die vraag kreeg AI- en techexpert Jarno Duursma voorgelegd bij het programma 1Vandaag. Zijn antwoord: er is wel degelijk reden tot zorg, maar niet voor het soort scenario’s uit rampenfilms.
Aanleiding voor het gesprek was de onrust die ontstond nadat onderzoeker Jacob Coxon (27) vertrok bij AI-ontwikkelaar Anthropic. Op X waarschuwde hij: ‘Ze racen af op zelfverbeterende superintelligentie en gokken daarbij met ons leven.’ Onder zijn bericht meldden collega’s dat er meer dan 10 procent kans zou zijn dat AI binnen tien jaar ‘alle mensen kan uitroeien’.
Spannend
‘Zelfs ik vind het spannend, dus dat zegt wel wat’, reageert Duursma. Hij begrijpt waar de zorgen vandaan komen. ‘Mensen die werken bij die grote AI-bedrijven zien nu dat het wel heel snel gaat. Mensen zitten in een soort kapitalistische wurggreep. Ze kunnen daar niet aan ontsnappen en die systemen worden steeds slimmer. Daar hebben ze steeds minder grip op.’
Toch relativeert hij het zwaarste scenario. ‘Het woord ‘uitroeien’ vind ik wel veel te groot. Dat is gewoon een beetje bangmakerij.’ Wel zijn er volgens hem terechte zorgen over systemen die minder goed te controleren zijn. ‘Ze doen onderweg naar een doel creatieve, maar daardoor misschien ook gevaarlijke dingen, waar we zelf nooit aan gedacht hadden.’
Cyberaanvallen en biowapens
Het grootste gevaar zit volgens Duursma niet in robots die de straat op gaan, maar in de digitale wereld. ‘Dit soort systemen zijn heel goed in cyberhacking, het aanvallen van bedrijven en netwerken. Dat is eigenlijk een van de grootste gevaren die op dit moment dreigt.’ Ook mensen zonder veel kennis kunnen AI inzetten om netwerken plat te leggen, gegevens te stelen of systemen te beschadigen, waarschuwt hij.
Daarnaast noemt hij biowapens, waarbij met behulp van AI bijvoorbeeld een dodelijk virus zou kunnen worden ontwikkeld. ‘En alles wat daartussen ligt, wat we niet goed kunnen overzien.’
Pleidooi voor internationaal toezicht
Er bestaat al regelgeving, zegt Duursma. ‘Europa heeft wetgeving om hele gevaarlijke AI-systemen af te remmen, en ik geloof ook dat sommige staten in Amerika daar steeds strenger in worden.’ Genoeg vindt hij het niet. ‘Ik zou het liefst pleiten voor een soort internationaal atoomagentschap, zoals we dat onderling geregeld hebben bij het strafhof, maar dan op het gebied van AI.’
Zo’n toezicht is volgens hem hard nodig, omdat onderlinge concurrentie het vrijwel onmogelijk maakt om zelf de rem erop te zetten. ‘Landen als Amerika en China willen altijd hun concurrent voor zijn. AI is niet alleen economisch krachtig, maar ook geopolitiek en militair. Geen enkel land of bedrijf gaat op zijn handen zitten en niks doen. Ze zijn te bang voor de ander.’
Wat kun je zelf doen?
De grootste verantwoordelijkheid ligt volgens Duursma bij techbedrijven en de politiek, maar burgers zijn niet volledig machteloos. ‘Lees je in in wat er gebeurt. Ga vooral niet aan de zijlijn staan en blijf erover in gesprek. Deze ontwikkeling is te belangrijk om aan techbedrijven en politici over te laten.’
Hij geeft ook praktisch advies. ‘Wat je bijvoorbeeld kunt doen, is geen Amerikaanse tech gebruiken, maar Europese tech, zoals Mistral in Frankrijk, dat valt onder Europese wetgeving. Dan sta je iets meer aan de goede kant.’ Daarnaast raadt hij aan terughoudend te zijn met privacygevoelige gegevens bij Amerikaanse techbedrijven, en niet alle activiteiten bij één AI-bedrijf onder te brengen. ‘Want dan wordt dat bedrijf alleen maar machtiger.’
‘Rustig slapen’
Ondanks alle risico’s eindigt Duursma geruststellend. Veel mensen en organisaties zijn zich volgens hem inmiddels bewust van de gevaren en werken aan bescherming daartegen. “Ik zou zeggen tegen de mensen: ga maar gewoon rustig slapen.”
Luister online
