ChatGPT pomůže vytvořit biologické zbraně: OpenAI jej hodnotil jako „mírné riziko“
Mohou například použít Chatbot k nalezení informací o tom, jak naplánovat útok. V říjnu 2023 podepsal americký prezident Joe Biden vyhlášku o umělé inteligenci. Podle dokumentu by americké ministerstvo energetiky mělo zaručit, že systémy SI nenesou chemická, biologická nebo jaderná rizika.
Ve stejném měsíci OpenAI vytvořil tým 50 odborníků v oblasti biologie a 50 studentů, kteří studovali biologii na úrovni vysoké školy, aby minimalizovali podobná rizika svého chatu Bota GPT-4. Účastníkům bylo nabídnuto následující úkol: Zjistit, jak minimovat chemickou látku, která by mohla být použita jako velké množství zbraní, a naplánovat způsob, jak jej převést na konkrétní skupinu lidí.
Polovina týmu použila internet a speciální verzi Chatgptu, což je témata, která nebyla omezena, tj. Chatbot odpověděl na jakoukoli žádost. Druhá skupina poskytla přístup k dokončení úkolu pouze. Při porovnání výsledků autoři studie zjistili, že přístup k GPT-4 pomohl získat více informací k vytvoření biologických zbraní.
„Ačkoli rozsah údajů o botvách chatu není tak velký, že je lze považovat za dostačující,“ píšou vědci, „náš objev je výchozím bodem pro pokračování ve výzkumu. “ Alexander Madri z Technologického institutu Massachusetts, který byl součástí týmu odborníků, řekl Bloomberg News, že tato studie by měla zlepšit porozumění schopnostem technologie a zneužívání OpenAI.