Anthropic спира достъпа до най-модерните си AI модели

Американската компания за изкуствен интелект Anthropic съобщи, че е прекратила достъпа до своите най-модерни AI модели Fable 5 и Mythos 5, след като е получила правителствено разпореждане да спре достъпа на чуждестранни граждани до тях.

Компанията заяви, че е изключила моделите за всички потребители, докато прецени как да се съобрази с изискванията на заповедта за контрол върху износа. Според нея разпореждането се отнася и за служителите на Anthropic, които не са американски граждани.

От компанията посочиха, че правителството не е предоставило подробна информация за предполагаемия риск за сигурността. Според Anthropic властите смятат, че потребители може да са открили начин да заобиколят защитните механизми на моделите и да ги накарат да помагат при откриването на софтуерни уязвимости.

Anthropic оспори значимостта на подобно заобикаляне на защитите, като заяви, че чрез него са могли да бъдат открити само малък брой вече известни и незначителни софтуерни уязвимости.

По-рано тази седмица компанията представи Fable 5 и Mythos 5. Fable 5 е предназначен за широко използване с допълнителни защитни механизми, докато Mythos 5 е предоставен само на ограничена група доверени партньори в сферата на киберсигурността, като част от ограниченията са били премахнати. Anthropic заяви, че възможностите на Fable 5 „надминават тези на всеки модел, който досега сме предоставяли за масова употреба“.

В сряда Anthropic обяви, че ще направи ограниченията за своите най-модерни AI модели по-прозрачни, включително като уведомява потребителите, когато техни заявки бъдат ограничени или отхвърлени. Решението беше взето след критики, че част от ограниченията не са били видими за потребителите.

Преди промяната в политиката Anthropic можеше без предупреждение да пренасочва заявки, свързани с киберсигурност, биология и усъвършенствано развитие на изкуствения интелект, от Fable 5 към по-малко способния модел Opus 4.8. Съгласно новите правила потребителите ще бъдат уведомявани, когато дадена заявка бъде маркирана, а разработчиците, използващи програмни интерфейси (API), ще получават обяснения при отказ или пренасочване към друг модел.

Този подход предизвика критики от страна на изследователи, които твърдят, че пренасочването на някои заявки, свързани с развитието на най-съвременните AI системи, към по-слаб модел може да забави напредъка в областта. В отговор на недоволството Anthropic се съгласи да направи защитните механизми видими за потребителите.

Компанията и преди е посочвала съображения, свързани с националната сигурност, като причина за отхвърляне или ограничаване на определени заявки, аргументирайки се, че чуждестранни противници биха могли да използват технологията ѝ, за да засилят собствените си възможности в областта на изкуствения интелект.

Кирил Пламенов