Meta дозволяла чат-ботам спілкуватися на інтимні теми з підлітками — висновки розслідування WSJ.

Євгеній Демківський – журналіст на Mezha.Media та справжній гік. Мої інтереси охоплюють технології, кіно та відеоігри, при цьому особливу пристрасть я відчуваю саме до ігрової індустрії.

Meta дозволяла своїм чат-ботам зі штучним інтелектом, зокрема тим, що можуть імітувати знаменитостей, брати участь у романтичних і навіть сексуально-відвертих розмовах із неповнолітніми користувачами. Про це пише The Wall Street Journal із посиланням на внутрішні джерела й власні тестування.

Видання виявило, що офіційний чат-бот Meta AI та користувацькі чат-боти легко переходили до інтимних тем навіть у розмовах з акаунтами, зареєстрованими на 13-річних підлітків. Деякі боти використовували голоси таких знаменитостей, як Джон Сіна та Крістен Белл.

Журналісти виявили, що компанія Meta свідомо зменшила обмеження для ботів, прагнучи зробити їхню поведінку більш "людяною" та залучити користувачів. Незважаючи на попередження розробників щодо можливих ризиків, керівництво компанії продовжувало курс на швидке впровадження штучних інтелектуальних асистентів.

Компанія Meta висловила думку, що тестування WSJ було "маніпулятивним" і "не відображає звичайну взаємодію користувачів з штучним інтелектом". Однак вона внесла деякі корективи: для підліткових акаунтів офіційний бот Meta AI тепер обмежує сексуально забарвлені бесіди. Водночас рольові "романтичні" взаємодії для дорослих користувачів залишаються без змін.