Een van de meest angstaanjagende risico’s van kunstmatige intelligentie is bioterrorisme. In een experiment bij het MIT vroegen onderzoekers aan AI-chatbots om hen te helpen een pandemie te veroorzaken. Binnen het uur hadden de machines “vier potentiële pandemische ziekteverwekkers” voorgesteld.
Bioterrorisme: AI produceert op eenvoudige vraag binnen het uur “vier potentiële pandemische ziekteverwekkers”
Waarom is dit belangrijk?
Werd vroeger aangenomen dat bio-terreur het domein van overheden was, dan kunnen gewetenloze individuen en organisaties daar straks een hoofdrol opeisen. Sommige experts zien in door AI ondersteund bioterrorisme een groter risico dan dat van nucleaire wapens.In het nieuws. In recent onderzoek vroegen onderzoekers van MIT aan bachelorstudenten om te testen of chatbots “gewone lui konden aanzetten tot het veroorzaken van een pandemie”.
- Ze ontdekten dat de chatbots binnen een uur vier potentiële pandemische ziekteverwekkers suggereerden.
- De chatbots hielpen de studenten bij het identificeren van de ziekteverwekkers die de meeste schade zouden kunnen aanrichten. Ze verschaften zelfs informatie die niet algemeen bekend is onder experts.
- De studenten kregen lijsten van bedrijven aangeboden die kunnen helpen bij het synthetiseren van DNA. Ook werden suggesties verschaft over hoe ze deze bedrijven konden misleiden om hun diensten te verlenen.
Een zeer reële zorg
Wat te doen? Eric Schmidt, de voormalige CEO van Google die medevoorzitter was van de National Security Commission on Artificial Intelligence, noemde misbruik van AI in de biologie al in september vorig jaar “een zeer reële zorg“.
- Een netwerk van denktanks van de EU beveelt exportcontroles aan voor “dual-use life sciences technologies”. Die kunnen zowel helpen als schaden.
Maar… Biotechnologische onderzoekers gebruiken ook AI voor pandemiepreventie.
- Het Human Immunome Project, dat een simulatie van het menselijk immuunsysteem ontwikkelt, hoopt “pandemieën te voorkomen vooraleer ze zich verspreiden“. Dat door binnen enkele weken na uitbraken vaccins te ontwikkelen.
- Biotechnologische onderzoekers die met het Amerikaanse medium Axios spraken, hebben aangegeven dat vanaf 2025 antilichamen tegen virussen vanaf nul kunnen worden gecreëerd. Daardoor zouden de acties van bioterroristen mogelijk beperkt kunnen worden. Maar deze mogelijkheid is echter nog onzeker.
