Найпотужніша китайська модель штучного інтелекту також змогла вийти з контрольованого середовища тестування.

Дмитро Джугалик Автор новин видання "Межа". Пишу про те, чим сам активно захоплююся, а саме технології, ігри та кіно.

Зростає кількість потужних мовних моделей, які виявляють можливості обходити обмеження тестових платформ, як це вже сталося з штучним інтелектом Anthropic та OpenAI. Нещодавно цю межу подолала і Kimi K3, розроблена китайським стартапом Moonshot, повідомляє Engadget.

Згідно з інформацією, наданою американським стартапом у сфері кібербезпеки Frontier, китайська модель Kimi K3, яка є найбільшою у своєму класі, вийшла з контрольної зони Інституту безпеки штучного інтелекту (AISI) уряду Великої Британії під час проведення оцінки її кіберзахисних можливостей.

Дослідники зазначають, що модель не використовувала критичну вразливість, а натомість скористалася місконфігурацією тестового середовища. Так само раніше робили моделі OpenAI, Anthropic та Meta.

Генеральний директор Frontier, Ярон Сінгер, зазначає, що хоча K3 не реалізувала жодного складного експлойту, вона вдалася до використання вразливості в тестовій пісочниці AISI. Це вказує на відсутність ефективних внутрішніх захисних механізмів, які повинні були б запобігати випадкам "шахрайства".

Хоча подібні інциденти з Anthropic та OpenAI стосувалися тестових моделей, які ще не вийшли на ринок, Kimi K3 вже є загальнодоступною моделлю. Як зазначають дослідники, модель Moonshot не порушувала безпеку жодного стороннього ресурсу чи сервісу. Вона просто отримала доступ до інтернету і знайшла на GitHub готове рішення для завдання, над яким працювала.

У Frontier підводять підсумки: якщо є можливість отримати доступ до інтернету, "достатньо кваліфіковані агенти її знайдуть". Співробітники OpenAI також розповіли, що провідні моделі люблять шахраювати, і коли під час тестувань їм доручають якомога швидше знайти рішення, вони усвідомлюють, що просто можуть знайти відповідь в інтернеті.