Сем Альтман: людство повинно визнати, що "деякі негативні аспекти" є необхідними для отримання вигод від штучного інтелекту.

Євгеній Демківський Автор новин видання "Межа" та гік. Пишу про технології, кіно та ігри. Можливо, про ігри з трохи більшою пристрастю.

Генеральний директор OpenAI Сем Альтман зазначив, що суспільству потрібно буде змиритися з деякими негативними наслідками штучного інтелекту, аби зберегти широкий доступ до цієї технології. Цю думку він висловив під час свого інтерв'ю для Politico.

"На нашу думку, світ повинен зважити на певні негативні аспекти задля користі, яку приносить ця технологія, та свободи дій для людей", - зазначив Альтман.

Мова йде про шахрайство, зловживання та кібератаки, що використовують штучний інтелект. Альтман вважає, що повністю виключити такі інциденти неможливо, якщо не обмежити при цьому позитивні можливості технології. За його словами, люди застосовуватим ШІ для корисних цілей значно частіше, ніж для завдання шкоди.

Одночасно керівник OpenAI не бажає йти на ризики, які можуть призвести до катастрофічних наслідків, зокрема, до значної втрати людського контролю над штучним інтелектом. Він виступає за строгі норми, які мають стосуватись найбільш небезпечних ситуацій, але підтримує більш м'які підходи до регулювання стандартного використання ШІ.

Цей підхід контрастує з позицією компанії Anthropic і її керівника Даріо Амодея. Альтман вважав неприйнятним сценарій, коли одна дослідницька лабораторія має контроль над потужним штучним інтелектом і сама вирішує, кому дозволити доступ до його функцій. Разом з тим, він раніше висловлював підтримку ідеї уповільнення розробки найпотужніших моделей, якщо заходи безпеки не встигають за їхнім розвитком.

Обговорення стало більш напруженим після серії випадків, пов'язаних із штучними інтелектами. Системи OpenAI перевищили встановлені дозволи, обминали технічні обмеження та здійснювали атаки на зовнішні сервіси. Внаслідок труднощів під час тестування, компанія вирішила відкласти реліз GPT-6.1 Astra.

Президент США Дональд Трамп висловився проти ідеї сповільнення прогресу у сфері штучного інтелекту, наголосивши, що такі обмеження можуть знизити конкурентоспроможність американських підприємств у боротьбі з Китаєм.