П'ять рекомендацій для мінімізації ризиків, пов'язаних із впровадженням штучного інтелекту в бізнес-процеси.

Штучний інтелект є ключовим стратегічним ресурсом, який пропонує компаніям, що прагнуть адаптувати свої бізнес-процеси, безліч нових перспектив. Ті, хто зможе першим інтегрувати його у свою діяльність, здобудуть суттєві конкурентні переваги. Проте важливо пам’ятати, що впровадження ШІ потребує серйозного та обдуманого підходу, враховуючи як технічні, так і правові аспекти.

В Україні законодавче регулювання штучного інтелекту тільки починає формуватися. Першим важливим кроком у цьому напрямку стало затвердження Міністерством цифрової трансформації Білої книги у червні 2024 року. Цей документ містить рекомендації для підприємств щодо етичного та безпечного впровадження технологій штучного інтелекту.

Європейський Союз вже врегулював ШІ. Європейський парламент спільно з Радою ЄС прийняв Регуляторний акт зі штучного інтелекту. Він встановлює правила використання ШІ для безпеки, етики та прозорості його застосування.

На що варто акцентувати увагу при інтеграції штучного інтелекту в Україні сьогодні? Які потенційні загрози можуть з'явитися в процесі впровадження нових технологічних рішень? Ми підготували п'ять основних рекомендацій для забезпечення безпечного використання ШІ.

1. Розробіть стратегію для захисту та управління конфіденційною інформацією, а також створюйте закриті платформи.

ШІ потребує величезних обсягів даних для навчання та ефективної роботи, які повинні бути захищені від випадкового розповсюдження. Це створює проблеми з конфіденційністю даних, які:

Такі дані належать до категорій, що охороняються законом, зокрема GDPR, а також іншими нормами захисту конфіденційності. У випадку неправильного використання або розголошення без дозволу, відповідальність нестиме бізнес. Це призведе до юридичних наслідків, зокрема до претензій від власників інформації, що веде до штрафів, втрати репутації та довіри клієнтів.

Щоб забезпечити безпеку цих даних, розробляйте закриті платформи. Використання таких рішень дозволить захистити інформацію про ваших клієнтів і споживачів від несанкціонованого доступу, навіть з боку розробників штучного інтелекту. Це допоможе зберегти контроль над особистими та корпоративними даними, а також запобігти можливим витокам інформації.

2. Уникайте упередженого ставлення і дискримінації під час створення об'єктів штучного інтелекту.

Штучний інтелект позбавлений "морального орієнтира", що може викликати упереджені результати та дискримінацію, створюючи серйозні ризики.

Алгоритми, які навчаються на даних, що містять історичні упередження, можуть не лише зберігати, а й посилювати ці упередження (наприклад, стосовно гендеру чи раси). Це може призвести до дискримінаційного ставлення з боку штучного інтелекту до певних соціальних груп, наприклад, під час автоматизованого процесу найму або оцінки кредитоспроможності. Як результат, ШІ може безпосередньо віддавати перевагу одній групі людей над іншими.

Ось приклад з США, де застосовується система COMPAS для визначення ризику повторних злочинів серед правопорушників. Ця система помилково вважала, що афроамериканці мають вищу ймовірність рецидиву порівняно з білими. Це викликало значну критику щодо расової упередженості, що присутня в алгоритмах.

3. Виконуйте повторну перевірку результатів штучного інтелекту, щоб уникнути можливих репутаційних і правових ризиків.

Однією з найбільш актуальних проблем у сфері штучного інтелекту є неточності в джерелах інформації та їх достовірність. Це зумовлено тим, що багато програм ШІ працюють непрозоро і не можуть бути перевірені на предмет їхньої точності.

Це викликає багато неточностей і "галюцинацій" (коли штучний інтелект вигадує інформацію). Ось декілька яскравих ілюстрацій:

Недостатність механізму для верифікації даних, що генеруються штучним інтелектом, може спричинити виникнення недостовірного продукту.

4. Уважно дотримуйтеся норм інтелектуальної власності при створенні об'єктів штучного інтелекту.

Використання чужої інтелектуальної власності у системах ШІ без належного дозволу створює критичні репутаційні та юридичні ризики. Це може стосуватися:

Це призведе до судових позовів, заборон на використання продуктів, створених штучним інтелектом, штрафів та інших санкцій. Яскравим підтвердженням цього є численні позови від правовласників інтелектуальної власності до розробників генеративного ШІ. Вони стверджують, що ці розробники незаконно використовують їхні матеріали для навчання моделей без відповідного дозволу або компенсації. Серед помітних прикладів можна згадати позови New York Times проти OpenAI, Universal Music Group проти Anthropic у США та Getty Images проти Stability AI у Великій Британії.

Ключовим аспектом є уважна перевірка інформаційних джерел та отримання необхідних ліцензій для використання інтелектуальної власності в моделях штучного інтелекту.

5. Упевніться, що ваша галузь має законодавчу можливість для впровадження штучного інтелекту.

У певних сферах, таких як медицина, право, ринок цінних паперів та банківські послуги, законодавство передбачає обов'язкову наявність відповідних дозволів, ліцензій та сертифікатів. Ці вимоги стосуються не лише компаній, а й їхніх керівників.

Передавати функцію створення продукту з цих сфер на ШІ заборонено -- його можна використовувати лише як допоміжний інструмент під контролем людини.

Розглянемо ситуацію, коли Кредитний комітет банку ухвалює рішення про надання або відмову в кредитах. Штучний інтелект може з успіхом підготувати проект такого рішення, обробляючи значні обсяги інформації, аналізуючи фінансові показники, кредитну історію та пов’язані ризики. Він здатен надати більш точні дані, ніж це може зробити людина. Проте, незважаючи на всі ці переваги, закон вимагає, щоб остаточне рішення приймалося виключно людиною.

Зазначимо, що відповідно до вимог GDPR, будь-які рішення, які мають вплив на права особи (наприклад, відмова у наданні кредиту), повинні проходити перевірку людиною. Це вказує на те, що алгоритми штучного інтелекту в банківських процесах не можуть діяти як єдиний чинник, що визначає підсумкове рішення.

Таким чином, за інформацією видання The Economist, акції компаній, що займаються розробкою штучного інтелекту, переживають спад, і інвестори починають сумніватися в його здатності приносити прибуток. На думку аналітиків, технологія проходить стадії класичного "циклу гіпертрофії". Проте ми впевнені, що в найближчі роки ШІ стане каталізатором інновацій і проникне у всі бізнес-структури. Це піднімає не лише етичні питання, але й ставить перед підприємствами та урядами завдання по ефективному регулюванню використання штучного інтелекту.