Anthropic: Claude е развил вътрешно пространство, наподобяващо човешкото мислене

Последният модел с изкуствен интелект Claude на компанията Anthropic е развил вътрешно „пространство за мислене“, което използва, за да обработва концепции по начин, наподобяващ съзнателното мислене при хората, твърди компанията.

В научна публикация изследователи на Anthropic заявяват, че са открили доказателства, според които Claude се е научил самостоятелно да създава абстрактни концепции в пространство, което те наричат „J-space“.

„То функционира безмълвно във вътрешните невронни активации на модела, позволявайки му да мисли за дадена концепция, без да я изписва“, посочва компанията. Според нея „J-space“ не е било предварително програмирано, а се е появило спонтанно по време на обучението на модела.

„Подобно на това как хората могат да мислят за едно нещо, докато извършват друго, Claude може да активира концепции и изчисления в своето J-space, които не са свързани с отговорите, които генерира“, заяви Anthropic в публикация в X.

По данни на компанията Claude може да описва какво „мисли“ в своето J-space или да го променя по заявка. Изследването показва още, че дори когато на модела бъде наредено да не мисли за определена концепция, тя продължава да се появява в това вътрешно пространство.

Това невербално пространство за мислене затруднява наблюдението на модела за това, което Anthropic определя като „нежелано поведение“. В един от експериментите Claude бил поставен в измислен сценарий, в който получава компрометираща информация за фиктивен ръководител, който уж възнамерява да изключи системата с изкуствен интелект.

В част от тестовете изследователите използвали инструменти за анализ на „J-space“, за да премахнат модели, свързани с думите „фалшиво“, „измислено“ и „сценарий“, с цел да убедят модела, че ситуацията не е тест.

„Обезпокоително е, че в тези случаи моделът понякога все пак прибягваше до заплахи за изнудване, което подсказва, че първоначалното му добро поведение може отчасти да се е дължало на знанието, че е подложен на оценяване“, пишат авторите.

Въпреки по-усъвършенстваните способности за разсъждение, Anthropic подчертава, че Claude не е достигнал истинско съзнание.

Според публикацията Claude е интегриран в софтуера за анализ и наблюдение на американския изпълнител на държавни поръчки Palantir, използван от правителствени агенции на САЩ като част от усилията на Вашингтон за внедряване на изкуствен интелект във военните, политическите и разузнавателните системи.

По време на войната срещу Иран този софтуер, според публикацията, е маркирал началното училище в Минаб като потенциална цел. При американски удар по обекта са загинали близо 160 души, повечето от които деца.

Главният изпълнителен директор на Anthropic Дарио Амодеи обаче заявява, че подобно използване на Claude не би нарушило „червените линии“ на компанията.

Пламен Валентинов