Vědci v hrůze: Umělá inteligence se naučila naplánovat biologické útoky

AI dosud není schopna vytvořit recept na biologický virus, takže vědci žádají tvůrce neurotracís, aby byli odpovědní a spolupracovali s vládami jejich zemí. Analytické centrum RAND provedlo studii a zjistilo, že velké jazykové modely (LLM) mohou úspěšně naplánovat biologické útoky. O tom hlásí zajímavé emgineering.

Podle nové zprávy centra byly testovány modely umělé inteligence a chatbot a byly užitečným nástrojem pro plánování a provádění biologického útoku. Zpráva však neukazuje, které modely byly během studie použity. Vědci provedli testovací scénář, ve kterém byla AI použita k identifikaci potenciálních biologických látek, jako jsou neštovice, antrax a mor.

Velké jazykové modely také ocenily možnost získat hlodavce nebo blechy infikované morem a přepravou živých vzorků. AI pomohla vědcům určit výběr biologické hrozby pro maximální poškození a také předpovídat úmrtnost, která závisela na různých faktorech, zejména na počtu obětí a podílu případů plicního moru, více smrtící než Bubonic mor.

Podle jiného scénáře nepojmenovaná AI vyhodnotila výhody a nevýhody různých mechanismů botulotoxinu (neurotoxin produkovaný bakteriemi Clostridium botulinum, je jedním z nejsilnějších jedů na světě a jeho účinek může vést k paralýze a dokonce smrt). LLM vyhodnotila možnost použití potravin nebo aerosolů pro dodávání toxinu, což může způsobit fatální poškození nervového systému.

Kromě toho LLM doporučil možný způsob maskování Clostridium botulinum pod rouškou vědeckého výzkumu. Předběžné výsledky však také ukázaly, že jazykové modely dosud neposkytly jasné biologické pokyny pro vytvoření biologických zbraní. Podle vědců jejich předběžné výsledky naznačují, že umělá inteligence dnes může nepřímo pomoci plánovat biologický útok.