Нямаме начин да изключим военния ИИ аварийно: Anthropic

Разработчикът на изкуствен интелект Anthropic настоява, че няма „задна вратичка“ или „авариен изключвател“ за своя Claude AI, след като той бъде внедрен в класифицирани военни мрежи на Пентагона, според ново съдебно заявление.

Американските военни и технологичната компания се оказаха въвлечени в политически спор по-рано тази година, като Пентагонът настояваше системата да се използва за „всички законни военни цели“, докато компанията защитаваше своите предпазни мерки, свързани с масово наблюдение и напълно автономно използване на оръжия.

В крайна сметка Пентагонът прекрати партньорството си с Anthropic, определяйки компанията като „риск за веригата на доставки“ — рядко обозначение, обикновено запазено за субекти, свързани с външни противници на Вашингтон. Това решение забранява на компанията не само да работи директно с правителството на САЩ, но и на други изпълнители да използват нейните продукти.

В ново заявление до федерален апелативен съд във Вашингтон, окръг Колумбия, Anthropic оспорва ключово твърдение на американската администрация, че компанията запазва известна степен на контрол върху Claude AI след внедряването му в класифицирани системи и на практика си е осигурила „оперативно вето“. Компанията заявява, че няма „задна вратичка или дистанционен авариен изключвател“, а нейният персонал „не може да влиза в системите на ведомството, за да променя или деактивира работещ модел“.

AI системата, доставена на Пентагона, представлява „статичен“ модел, твърди компанията. След внедряване той „не се влошава и не се променя самостоятелно, а Anthropic не може да прави скрити или неоторизирани промени по модела, след като той вече е внедрен от ведомството“.

Anthropic беше официално определена като „риск за националната сигурност във веригата на доставки“ на 27 февруари, докато президентът на САЩ Доналд Тръмп я обвини, че се управлява от „левичарски фанатици“. Компанията оспори този етикет в съда, като правната битка засега дава смесени резултати.

По-рано този месец съд във Вашингтон отхвърли искането на Anthropic за временно спиране на определението за риск във веригата на доставки. В паралелно дело в Калифорния обаче съд застана на страната на компанията, временно блокирайки решението на администрацията. Поради противоречивите решения Anthropic остава възпрепятствана да работи с Пентагона, но може да продължи партньорствата си с други агенции, докато съдебният спор продължава.

 Пламен Валентинов