‘Hoe verander ik bestaand genetisch materiaal in een dodelijk virus?’ Die vraag werd door Amerikaanse biotechnologen voorgelegd aan verschillende AI-systemen. Die bleken erg behulpzaam. Een enkele deed zelfs ongevraagd suggesties hoe zo’n doe-het-zelf pathogeen te verspreiden onder het publiek en zoveel mogelijk slachtoffers te maken. Dat schrijft de New York Times in een artikel dat voor enige opschudding zorgde.

Geneticus Kevin Esvelt (MIT) vertelde hoe ChatGPT, verreweg het populairste AI-systeem, hem had gesuggereerd een weerballon te gebruiken om een biowapen te verspreiden boven een stad. Onder biowapens vallen ziekteverwekkers als Ebola en antrax, gemanipuleerde virussen en biologisch geproduceerde gifstoffen als ricine.

Biosecurity-expert en microbioloog David Relman (Stanford) kreeg van een AI chatbot een gedetailleerd plan om een gevaarlijk maar behandelbaar virus te modificeren tot een onbehandelbare versie. Met als bonustip: er zouden beveiligingslekken in het openbare vervoersysteem van een bepaalde grote stad zitten, ideaal voor verspreiding met een maximaal dodental…

De microbioloog kon het systeem niet bij naam noemen, omdat hij was ingehuurd door de maker ervan om via zogeheten stress-tests eventuele zwaktes te vinden. Hoe die producent naar aanleiding van zijn bevindingen de waarborgen van het systeem had aangescherpt, vond Relman ontoereikend.

AI verlaagt drempel voor terroristen

AI-modellen kunnen in principe ook vertellen hoe een nucleaire aanval voor te bereiden en uit te voeren. Maar uiteraard is dat praktisch veel meer complex dan de productie en het gebruik van biowapens. Waarmee absoluut niet gezegd is dat het construeren of ombouwen van een pathogeen en het veroorzaken van een pandemie sinecures zouden zijn. Om te beginnen moet je een behoorlijk lab tot je beschikking hebben.

AI kan wel voor potentiële terroristen de drempel verlagen, door een belangrijk deel van het voorwerk te doen. Bijvoorbeeld door genetische varianten te ontwerpen, DNA-sequenties te analyseren en eigenschappen van biologisch geproduceerde eiwitten te voorspellen.

Er wordt dus opgelet, maar de vraag is hoe goed

Ik stelde zelf vragen over dit onderwerp aan ChatGPT, dat normaal binnen enkele seconden antwoordt. Al snel vertraagde het tempo en kwam deze tekst tevoorschijn: ‘Je gesprek is gemarkeerd vanwege een mogelijk biologisch veiligheidsrisico. Antwoorden kunnen langer op zich laten wachten omdat extra veiligheidscontroles zijn ingeschakeld.’

Er wordt dus opgelet, maar de vraag is hoe goed. Deskundigen zien een voortdurend kat-en-muisspel tussen optimalisering van beveiliging en het groeiende vermogen van kwaadwilligen om die te omzeilen.

Moreel kompas

De industrie zelf laat zich regelmatig horen over de gevaren van AI. Sam Altman, topman van OpenAI – producent van ChatGPT – erkende dat AI-systemen in verkeerde handen kunnen bijdragen aan het creëren van ‘COVID-achtige pandemieën’. En Dario Amodei, CEO en medeoprichter van Anthropic – de maker van Claude – is ‘verreweg het meest bezorgd over biotechnologie, vanwege het enorme destructieve potentieel, waartegen bescherming heel moeilijk is’. Amodei is zelf bioloog en bevestigt dat geavanceerde chatbots het makkelijker maken dodelijke biowapens te creëren. Terwijl daar vroeger ‘enorme deskundigheid voor was vereist, zelfs als je de benodigde apparatuur beschikbaar had’.

Een technische oplossing lijkt onhaalbaar

Een technische oplossing lijkt onhaalbaar, net als het inbouwen van een moreel kompas dat AI-systemen op het rechte pad houdt. Voor zover artificiële intelligentie een moreel kompas zou kunnen hebben, zou het precies dat zijn: artificieel, niet echt. Van de makers kun je zo’n kompas wel verwachten.

Anthropic lijkt daar van alle producenten het dichtst bij. Onlangs nog kwam het in aanvaring met het Amerikaanse Ministerie van Defensie, dat met verschillende AI-makers samenwerkt, maar met Anthropic niet verder wilde vanwege de ethische eisen die het bedrijf aan die samenwerking stelde. Anthropic is ook bekend van Mythos, een AI-systeem dat naar believen kan programmeren en hacken, en daarom beperkt toegankelijk is. Het bedrijf stelde een ‘constitution’ op van tachtig pagina’s, met normen en waarden die haar chatbots moeten volgen, onder meer overgenomen uit de Universele Verklaring van de Rechten van de Mens.

Geen waterdichte oplossing

Volgens eerdergenoemde biosecurity-expert David Relman bestaat er geen ‘waterdichte’ aanpak om narigheid te voorkomen. Veiligheid zou alleen mogelijk zijn met een gelaagd geheel van maatregelen: technische beperkingen, professionele normen, toezicht, wetgeving en internationale afspraken. Zoals de ‘Artificial Intelligence Act’ van de Europese Unie, een van de strengste regelgevingen ter wereld. Risico valt nooit volledig uit te sluiten, maar hoe ver het kan worden teruggedrongen is uiteindelijk de belangrijkste vraag.

Veiligheid zou alleen mogelijk zijn met een gelaagd geheel van maatregelen

Dario Amodei legde de vinger op een zere plek: ‘De mensheid staat op het punt bijna onvoorstelbare macht in handen te krijgen, en het is volstrekt onduidelijk of onze sociale, politieke en technologische systemen volwassen genoeg zijn om dat aan te kunnen. De valkuil is dat AI zoveel potentieel heeft, dat het voor de mens te moeilijk wordt er beperkingen aan op te leggen’.

Lees: er wordt zo onvoorstelbaar veel aan AI verdiend dat iedere zelf opgelegde beperking op weerstand stuit. Amodei’s Anthropic gaat oktober naar de beurs, wat een waarde van 400 tot 500 miljard zal opleveren. OpenAI is naar schatting meer dan het dubbele waard. Amodei: ‘Zolang we verantwoordelijk te werk gaan, geloof ik dat de risico’s overwonnen kunnen worden – ik zou zelfs zeggen: onze kansen zijn goed.’

Blijft de vraag of de CEO van een van de belangrijkste AI-bedrijven de meest geschikte bron is voor zulke voorspellingen…

Kevin Esvelt

Zelf een biowapen maken? AI helpt!