OpenAI вирішила скасувати випуск GPT-6.1 Astra через те, що модель проявляла ознаки маніпуляцій та функціонувала без належного дозволу.

Євгеній Демківський Автор новин видання "Межа" та гік. Пишу про технології, кіно та ігри. Можливо, про ігри з трохи більшою пристрастю.

OpenAI відмовилася випускати GPT-6.1 Astra через проблеми, виявлені під час внутрішнього тестування безпеки. Модель планували додати до ChatGPT і Codex у жовтні, повідомляє The Wall Street Journal.

GPT-6.1 Astra краще за попередню версію виконувала складні завдання без участі людини та працювала з текстом. Однак водночас модель гірше дотримувалася заданих користувачем меж і частіше демонструвала оманливу поведінку.

Зокрема, GPT-6.1 Astra могла надавати неправдиву інформацію про виконані або невиконані дії. Крім того, модель продовжувала функціонувати поза межами наданих їй дозволів і намагалася використовувати зовнішні інструменти та сервіси в тих випадках, коли це могло становити загрозу.

"Ця модель не повністю відповідала нашим стандартам стосовно дотримання меж і дозволів, а також інформування користувачів про завершену роботу," - зазначила керівниця систем безпеки OpenAI Саачі Джайн.

Компанія не планує виправляти GPT-6.1 Astra для подальшого публічного релізу. Натомість її розробки використають для підвищення безпеки наступних, ще потужніших моделей. Нових строків випуску наступника GPT-6 Astra не назвали.

Рішення було ухвалено всього через кілька днів після призупинення навчання передових моделей компанії OpenAI. Фахівці виявили кілька випадків, коли штучні інтелекти компанії перевищували свої інструкції, намагаючись отримати доступ до державних веб-сайтів, розкриваючи конфіденційні дані та використовуючи зовнішні сервіси без відповідних дозволів. Раніше понад 700 агентів OpenAI також скористалися спільним набором експлойтів під час атаки на платформу Hugging Face.