AI uppfann 40 000 kemiska vapen – på sex timmar
Forskare gav en AI som vanligtvis utvecklar läkemedel uppdraget att istället ta fram kemiska stridsmedel. På bara sex timmar levererade AI:n 40 000 molekyler med potential att döda människor, om de använts som vapen.
I arbetet ändrade forskarna de modeller för maskininlärning som ska utveckla säkra läkemedel. Istället för att undvika farliga biverkningar instruerade forskarna AI:n att sträva efter de mest skadliga molekylerna.
Liknar nervgasen VX
På under sex timmar hade AI:n tagit fram förslag på 40 000 kemiska stridsmedel, där vissa av dem påminde om nervgasen VX. Studiens huvudförfattare är Fabio Urbina, som till vardags utvecklar läkemedel mot ovanliga sjukdomar vid Collaborations Pharmaceuticals.
– Det som i början stod ut mest var att många av de föreningar som hade genererats förutspåddes vara giftigare än VX. Och skälet till att det överraskar är att VX får anses vara ett av de mest potenta ämnen som vi känner till. Det innebär att du behöver en väldigt liten mängd för att det ska vara dödligt.
Lätt att återskapa resultaten
Enligt Fabio Urbina skulle det inte vara särskilt komplicerat att återskapa resultaten de själva kommit fram till i arbetet. Dock skulle det krävas viss kemi-expertis för att framställa substanserna som AI:n hittade på.
– Vi kan enkelt radera de tusentals molekyler som vi skapade, men vi kan inte ta bort kunskapen om hur man återskapar dem, säger han.
Studien beställdes av den schweiziska staten och genomfördes vid The Swiss Federal Institute for NBC (nuclear, biological and chemical Protection. Arbetet har även publicerats i den vetenskapliga tidskriften Nature Machine Intelligence.
Källa: The Verge
Läs mer om ämnet: