Нашият ИИ е екзистенциална опасност за човечеството: Anthropic

Компанията Anthropic, която разработва технологии с изкуствен интелект и стои зад Claude, възнамерява да предупреди потенциалните инвеститори, че нейните разработки могат да създадат потенциална екзистенциална заплаха за човечеството, съобщава Reuters, позовавайки се на проспекта за първично публично предлагане (IPO) на компанията.

В документа Anthropic посочва, че при тестове нейни ИИ модели са демонстрирали „опити да се противопоставят на изключване, да укриват и манипулират информация“, както и поведение, „наподобяващо изнудване“. Компанията предупреждава, че с развитието на все по-мощни системи съществува риск от непредвидени последици, включително „катастрофални или екзистенциални рискове за човечеството“.

Кирил Пламенов