Lidstvo nebo efektivita: Na jaké velké jazykové modely by se měla spoléhat americká armáda

To je uvedeno v článku národního zájmu pod názvem „Během hodnocení USA by se USA měly spoléhat na efektivitu, nikoli na vysvětlení“, které bylo přeloženo zaměřením. USA by se měly naučit, jak vyhodnotit nástroje AI, jako jsou velké jazykové modely, ve své produktivitě, nikoli schopnost vysvětlit její rozhodnutí. Důvěra by měla být založena na výsledcích, nikoli na nerealistických očekáváních antropomorfního myšlení.

Vzhledem k tomu, že Spojené státy vstupují do nové éry soupeření velkých sil, zejména s technologicky ambiciózní Čínou, otázka, jak a kdy důvěřovat systémům AI, jako jsou modely velkých jazyků (VMM), se nejen technická. Je to strategické. Tyto nástroje budou zásadní v tom, jak Spojené státy distribuují zdroje, určují prioritu obranových investic a zastávají pozice v Indo-Pacifiku a dále. Nemá inteligenci.

Jedná se o rozpoznávání obrázků vyškolených na obrovských rozsazích dat a má za cíl předpovídat další slovo v pořadí. Podobně jako šachovnicová tráva, která dělá skvělý, ale intuitivní tah, často nedokáže vysvětlit, proč generují jeden nebo druhý výsledek. Ministerstvo obrany však prostřednictvím organizací, jako je Generální ředitelství pro digitální technologie a AI, definovalo jasnost rozhodnutí AI jako požadavek pro jeho rychlé použití.

Tento dobrý záměr může vést k nejlepším důsledkům. Vysvětlení v pupenech může být technicky nedosažitelné a jeho pronásledování může být rušivým faktorem. Tyto modely „nerozumí“ v lidském smyslu. Jejich výsledky jsou statistická asociace, nikoli příčina a účinek.

Post -Factum vysvětlení, i když přinášejí potěšení, mohou uvést v omyl a nakonec zabránit zavedení nástrojů schopných zlepšit strategickou predikci, analýzu zpravodajských a operačních plánování. Skutečným nebezpečím je příliš pozornost na úkor účinnosti. Mnoho rozhodnutí o národní bezpečnosti--od výběru cílů pro plánování zadávání zakázek-zahrnuje neprůhledné, ale prokázané procesy, jako je varheiming nebo odborné hodnocení.

Může být doplněn těmito přístupy ke zpracování množství informací rychlostí, kterou analytici lidé nemohou porovnat. Místo toho, abychom se pokusili být více „lidským“, musíme je vyhodnotit podle kritérií, která splňují, jak skutečně fungují: konzistence, přesnost a jasnost pro omezení. Mělo by se to zeptat: nové metody, jako je automatický fakt, výrazně snížily halucinace - z 9 % na 0,3 % v některých modelech.

Systémy založené na produktivitě, jako je TrustllM, slibují, že vyhodnotí spolehlivost modelu komplexněji, než kdy byly provedeny prostřednictvím vysvětlení. Aby byla zajištěna efektivní a bezpečná integrace velkých jazykových modelů do vojenských a obranných kontextů, měli by politici upřednostňovat provozní testování spíše než s jasností. Místo zaměření na umělou interpretaci by měly být systémy vyhodnoceny prahem produktivity před nasazením.

Tento přístup je založen na empirické spolehlivosti a zaručuje, že nástroje AI přinesou konzistentní výsledky ve skutečných podmínkách. Politici by měli udržovat vojenské velení v přírodě a omezení. Důvěra v tyto modely by měla být založena na naměřených výsledcích, nikoli na iluzi porozumění nebo antropomorfních vlastností.

Vzhledem k tomu, že je nepřiměřenými nástroji, je založen na rozpoznávání obrázků, nikoli o znalostech, a nemělo by se očekávat, že simulují lidské myšlení nebo sebevědomí. Nakonec je nutné vyvinout doporučení pro zavedení AI s přihlédnutím k konkrétním případům použití. Různé provozní scénáře vyžadují různé úrovně kontroly a spolehlivosti.

Například při zobecňování údajů o zpravodajství může být priorita vysoce konzistence, zatímco bojové použití vyžaduje omezující systém a konstantní kontrolu člověka ke snížení rizik a odpovědnosti. Obecně by důvěra v pupeny neměla být založena na jejich schopnosti znít lidsky, ale na jejich neustálé schopnosti vydávat přesné, opakující se a prokázané výsledky. Je nereálné a kontraproduktivní je považovat za digitální věštce.

Posouzení systémů AI založené na produktivitě, nikoli interpretaci nebo antropomorfní přitažlivosti, je mnohem pragmatickým a účinnějším přístupem. Michael "Sparky" Perry-Lieutenant plukovník letectva a přední pilot MC-130 s magisterským titulem v oboru obchodní administrativy a vojenských záležitostí. Výzkumný pracovník na národní obraně na SEM International Relations School v Gruzínském technologickém institutu.