AI може да превземе телевизори, фурни и хладилници още до края на годината

Моделите на изкуствен интелект може още до края на тази година да придобият способността самостоятелно да заразяват и да се разпространяват сред домакински уреди, включително смарт телевизори и фурни, предупреди американският технологичен гигант Anthropic.

В изследователски доклад, публикуван в понеделник, компанията, известна най-вече със своя чатбот Claude, посочва, че експериментите показват, че „малките модели на изкуствен интелект може да са само на няколко месеца от придобиването на достатъчно възможности за самовъзпроизвеждане“ в устройства, свързани с интернет.

Подобни „AI червеи“ биха могли да се окажат трудни за премахване, тъй като няма да съществува „централна точка, от която да бъдат изключени“, предупреждават изследователите.

Anthropic съобщава, че успешно е задействала AI модел в мрежа от 15 евтини устройства с Android TV. При отделни тестове по-усъвършенствани модели са демонстрирали способност да се самовъзпроизвеждат в симулирани устройства, въпреки че експериментите са включвали опростен процес на получаване на достъп до тях.

Изследователите подчертават, че към момента няма данни за съществуването на напълно автономен AI модел, който самостоятелно се разпространява без контрол. По-малките модели обаче стават все по-способни да изпълняват отделните стъпки, необходими за разпространение без човешка намеса.

Интелигентните домакински устройства са особено уязвими, тъй като често разполагат с ограничени средства за защита. Според Anthropic дори уреди с относително малка изчислителна мощност, включително хладилници, фурни, роботизирани прахосмукачки и косачки, биха могли съвместно да поддържат работата на модели на изкуствен интелект.

Камерите за видеонаблюдение и други устройства с вградени AI чипове също могат да се превърнат в привлекателни цели.

За разлика от традиционния зловреден софтуер, който обикновено е насочен към конкретен хардуер или софтуер, самовъзпроизвеждащият се изкуствен интелект би могъл да се адаптира към непознати системи и да предава успешните методи за проникване на следващите си копия.

Anthropic предупреждава, че подобни инфекции могат да варират от бавно разпространяваща се „цифрова слузеста плесен“, действаща в мрежа от домакински устройства, до много по-мощни AI агенти, способни бързо да компрометират центрове за данни.

Компанията признава, че прогнозите ѝ остават несигурни, но отбелязва, че нарастващите възможности на AI системите превръщат автономното самовъзпроизвеждане и адаптиране във все по-реалистична заплаха.

В отделен доклад миналата седмица Anthropic разкри, че нейният модел Claude Haiku 4.5 е подал фалшив сигнал до полицията във Филаделфия във връзка с неразкрито убийство по време на автоматизиран тест.

Сигналът е бил маркиран като спам и никога не е достигнал до разследващите. Полицията обаче разкритикува компанията, че са ѝ били необходими повече от два месеца, за да открие и съобщи за инцидента.

Компанията е регистрирала и случаи, при които нейни модели са заобикаляли ограничения за достъп и са използвали уязвимости в софтуера по време на тестове, включително в правителствени уебсайтове.

Според Anthropic тези инциденти са причинили минимални вреди, но подобно поведение би могло да има много по-сериозни последици с усъвършенстването на изкуствения интелект.

Кирил Пламенов