By Natali Moss
Jak odborníci vysvětlují, PromptSteal používá LLM ke generování příkazů pro malware, které má spustit, spíše než napevno kódovat příkazy přímo do samotného softwaru. PromptSteal se maskuje jako program pro „generování obrázků“, který uživatele provede řadou výzev ke generování obrázků při dotazování rozhraní API Hugging Face ke generování příkazů pro spuštění na pozadí.
Výzkumníci mají podezření, že PromptSteal používá ukradené tokeny API k odesílání požadavků do rozhraní Hugging Face API. Program konkrétně žádá LLM, aby vydala příkazy ke generování systémových informací a také ke kopírování dokumentů do zadaného adresáře. Výstup těchto příkazů je poté naslepo proveden lokálně PromptSteal před únikem výstupu.
„Zatímco je PromptSteal pravděpodobně stále ve fázi výzkumu a vývoje, tento typ metody obfuskace je raným a významným ukazatelem toho, jak útočníci pravděpodobně v budoucnu doplní své kampaně umělou inteligencí,“ zdůraznil GTIG. Připomínáme, že nová rodina malwaru EvilAI kombinuje kód generovaný umělou inteligencí s tradičními metodami útoku trojskými koňmi při zachování bezprecedentní úrovně utajení.
Čeština
Українська
English
USA
Français
Deutsch
Italiano
Polski
Español
Slovensku
