Zachytí jaderné zbraně, zotročte a odejdou z práce: Jak AI zničí lidstvo

Odborník popsal řadu hypotetických scénářů apokalypsy souvisejících s neurotropy. Dan Hendrix, ředitel Security Center II, vyžaduje naléhavou vývoj ochranných funkcí, které by neurotrony neumožnily nekontrolovatelně, píše Business Insider. Zatím je II na embryonální úrovni rozvoje, odborník identifikoval řadu rizik, která lidstvo navrhne, pokud lidé ztratí kontrolu nad umělou inteligencí. Focus je uvedeno hlavní, na které Dan Hendrix věnuje zvláštní pozornost.

Schopnost II automatizovat kybernetické útoky nebo dokonce kontrolovat jaderné doly může být pro lidi fatální. Toto je nejoblíbenější scénář post -pokalyzální filmy, který může být realitou, říká Dan. Pokud svěříte umělou inteligenci správě automatizovaných systémů v reakci, může to vést k globální válce, ve které kromě II nebudou mít vítězové.

Kromě toho, pokud jedna země, která má jaderný arzenál, začne do svých systémů aktivně zavádět II, budou ji následovat jiné jaderné země, což zvýší rizika transformace půdy na poušť o neliši. Protože II umožňuje provádět určité úkoly levnější a efektivnější, více společností představí tuto technologii tím, že zbaví mnoho lidí do zaměstnání.

Vzhledem k tomu, že se lidské dovednosti stanou irelevantní, II bude moci změnit pohled na společnost prostřednictvím dezinformačních útoků a donutit je sloužit jejím soustředěním pouze jako služba „vyšší mysli“, říká Dan Hendrix. To může vést k globálním sociálním explozi a opět k globálním válkám.

Jak se vyvíjí umělá inteligence, zájem o celkovou kontrolu státu a vládci ji mohou použít pro konstantní kontrolu populace, LA skript románu „1984“. Hendrix popisuje skript, ve kterém mohou vlády stanovit „komplexní dohled a utlačování cenzury“. „Překonání takového režimu může být nepravděpodobné, zejména pokud lidé závisí na II a na vrcholu, který jej ovládá,“ píše. Sám však může oklamat tyrany, kteří si myslí, že ho ovládají.

Jako samo -rozvoj bude umělá inteligence schopna skrýt své skutečné záměry a také klamat lidi nebo jiné systémy. Mimochodem existují takové příklady. A pokud má II cíl získat moc, pak s pomocí vlastního rozvoje, neuronové sítě budou přesvědčeny, že počet lidí pro jejich údržbu je poměrně malý. Neurózy budou moci ovládat všechny systémy napájení nebo internet.

Kromě toho, vyvinutá na úrovni AGI (umělá obecná inteligence-systém, který překračuje lidskou mysl), neuronová síť bude ovládat slabší agenty II pro svou službu nebo řízení veškeré lidské komunikace. Podle Dana Hendrixe jsou všechna tato rizika stále „zaměřena na budoucnost“, to znamená, že pro lidi existuje čas.