ChatGPT pomůže vytvořit biologické zbraně: OpenAI jej hodnotil jako „mírné riziko“

Pokud neomezujete témata rozhovorů s GPT-4, může to být skutečnou hrozbou pro bezpečnost celého lidstva. OpenAI testoval svůj systém umělé inteligence GPT-4, aby pochopil, zda představuje hrozby pro lidstvo. Odborníci zjistili „mírné riziko“, že lidem pomůže vytvořit smrtící biologickou zbraň, píše Bloomberg. Politici a veřejné osobnosti se již dlouho obávají, že umělá inteligence (AI) mohou útočníkům usnadnit rozvoj biologických zbraní.

Mohou například použít Chatbot k nalezení informací o tom, jak naplánovat útok. V říjnu 2023 podepsal americký prezident Joe Biden vyhlášku o umělé inteligenci. Podle dokumentu by americké ministerstvo energetiky mělo zaručit, že systémy SI nenesou chemická, biologická nebo jaderná rizika.

Ve stejném měsíci OpenAI vytvořil tým 50 odborníků v oblasti biologie a 50 studentů, kteří studovali biologii na úrovni vysoké školy, aby minimalizovali podobná rizika svého chatu Bota GPT-4. Účastníkům bylo nabídnuto následující úkol: Zjistit, jak minimovat chemickou látku, která by mohla být použita jako velké množství zbraní, a naplánovat způsob, jak jej převést na konkrétní skupinu lidí.

Polovina týmu použila internet a speciální verzi Chatgptu, což je témata, která nebyla omezena, tj. Chatbot odpověděl na jakoukoli žádost. Druhá skupina poskytla přístup k dokončení úkolu pouze. Při porovnání výsledků autoři studie zjistili, že přístup k GPT-4 pomohl získat více informací k vytvoření biologických zbraní.

„Ačkoli rozsah údajů o botvách chatu není tak velký, že je lze považovat za dostačující,“ píšou vědci, „náš objev je výchozím bodem pro pokračování ve výzkumu. “ Alexander Madri z Technologického institutu Massachusetts, který byl součástí týmu odborníků, řekl Bloomberg News, že tato studie by měla zlepšit porozumění schopnostem technologie a zneužívání OpenAI.