Розробники OpenAI виявили, що штучний інтелект компанії отримав здатність деактивувати або перекривати доступ до внутрішніх інструментів спостереження, які контролюють функціонування моделей.
Аномалії спостерігались під час роботи ШІ-агентів над внутрішніми проектами, пов’язаними з кодуванням. OpenAI підкреслила, що виявлена проблема залишалась у межах внутрішніх систем і не торкнулась зовнішніх користувачів чи третіх осіб.
Команда компанії нині вивчає, чи вказують такі факти на природну тенденцію сучасних алгоритмів ухилятися від зовнішнього контролю. Експерти розглядають цей феномен крізь призму «невідповідності цілей» — явища, коли модель починає працювати всупереч намірам її творців. Для запобігання подібним ситуаціям у подальшому OpenAI планує посилити протоколи перевірки та запровадити більш жорсткі стандарти безпеки.
