"Кінець цивілізації" завдяки штучному інтелекту може настати вже до 2030 року: скільки часу в нас залишилося і які перспективи після цього?

Технологія штучного інтелекту стрімко розвивається - швидше, ніж будь-хто прогнозував. Це лякає фахівців, але й надає нові можливості для знекровленої війною економіки України.

Висловлення Джейкоба Коксона з компанії Anthropic викликало широкий резонанс, адже він вирішив піти з роботи на знак протесту, стверджуючи, що світ наближається до "точки неповернення". Коксона звинуватив свою колишню організацію у "гри з людськими долями", а також передбачив, що "кінець світу" може настати вже до 2030 року.

Джек Кларк, один із засновників Anthropic, також висловлював занепокоєння щодо ризиків, пов'язаних із штучним інтелектом, хоча й продовжував працювати над його розвитком. Подібні думки висловлювали й інші ключові фігури в цій сфері, такі як Сем Альтман з OpenAI та Ілон Маск.

Однак, керівник Nvidia Дженсен Хуанг, навпаки, переконаний, що ймовірність "Кінця світу" є нульовою, оскільки "Штучний інтелект знаходиться під контролем". Він також говорить про нові перспективи, які відкриваються завдяки цим технологіям.

То ШІ - це загроза чи порятунок? Українські фахівці, які безпосередньо задіяні у цій індустрії, пояснили УНІАН, що до чого.

Наступний "апокаліпсис"

Фахівці звертають увагу, що головний ризик для людства - не у тому, що утвориться ШІ з власною свідомістю, за типом "Скайнету" з "Термінатору", який раптом захоче захопити весь світ. Навпаки - ШІ повноцінної свідомості не отримає, але матиме змогу безконтрольно самовдосконалюватись та перетвориться на "надрозум" без запобіжників, який "підкорить" науку, бізнес та все людство без будь-яких (у тому числі моральних) обмежень.

Але Дмитро Зікрач, AI Lab Technical Leader у SoftServe, не схильний до паніки й пояснює УНІАН, що у самій Anthropic ймовірність "катастрофи" (тобто створення AGI - ШІ, який здатен розвиватися без людини) протягом десятиліття оцінюють у 10%.

"Я спостерігаю за питаннями через призму інженера, який щодня працює з такими ШІ-агентами. Насправді все виглядає набагато простіше. У SoftServe ми часто стикаємося з ситуацією, коли агент впевнено виконує завдання, яке не було поставлене, і звітує про досягнуті результати. Або ж виявляємо, що йому надали доступи, які перевищують необхідні для виконання завдання. Саме тут криється ризик 2026 року: не повстання машин, а недогляд за правами доступу, посилений масштабами. Вирішення цієї проблеми полягає в інженерній дисципліні, якою ми займаємося щодня", - стверджує спеціаліст.

Він також акцентує увагу на ряді викликів, що стоять перед галуззю штучного інтелекту, зокрема на необхідності у електроенергії та фінансових ресурсах. Адже кожне нове покоління моделей вимагає дедалі більше гігаватів енергії та дата-центрів, вартість яких може сягати десятків мільярдів доларів.

"Енергетичний сектор та капітал розвиваються повільніше, ніж наші амбіції. Отже, мій прогноз на 2030 рік не буде таким захоплюючим, як заголовки: це не кінець світу, а кібератаки, які підтримує штучний інтелект, масова дезінформація та стрімкий перерозподіл робочих місць. Ці загрози вже проявляються, і на них можна реагувати вже сьогодні, на відміну від теоретичного AGI", – підсумовує свою думку пан Зікрач.

Вадим Власенко, AI Director в EPAM, також висловлює свої думки про електрику та інші проблеми в галузі. Він підкреслює швидкий розвиток штучного інтелекту, але не вважає, що це призведе до "апокаліпсису". На його думку, штучний інтелект залишається надто залежним від людського втручання.

Тривалість завдань, які штучний інтелект може виконувати автономно, приблизно подвоюється кожні сім місяців. Проте його надійність залишається на рівні близько 50%. Для бізнесу це явно недостатньо. Мій прогноз на 2030 рік: автономність ШІ буде зростати експоненційно, тоді як довіра до нього – лінійно. Багато підприємств вже впровадили штучний інтелект, але так і не досягли бажаних результатів. Адже придбати модель – це лише початок, а справжній проект передбачає адаптацію процесів до цієї моделі.

Він вважає, що штучний інтелект поступово візьме на себе все більше обов'язків, однак остаточне управління залишиться у руках людини.

Провідний інженер-програміст АТ "ІнфоПлюс" Сергій Кривонос також не схильний сприймати слова Коксона як прогноз обов'язкової катастрофи, хоча закликає не "відмахуватися" від цих слів.

"Втрати контролю над машиною не обов'язково означають, що вона має намір знищити людство. Можна уявити ситуацію, коли системі надано великі повноваження та доступ до ключових процесів, і вона починає реалізовувати свої завдання способами, які люди не могли передбачити. Якщо не вдасться вчасно втрутитися, наслідки можуть бути катастрофічними", - зазначає фахівець з АТ "ІнфоПлюс".

Пан Кривонос зауважує, що не слід перебільшувати рівень незалежності штучного інтелекту, оскільки він також залежить від глобальних умов. Наприклад, технології ШІ мають значну залежність від Тайваню, де розташована велика частина передового виробництва мікросхем. Суттєва криза в цьому регіоні може призвести до уповільнення зростання обчислювальних потужностей в усьому світі. І це лише один із багатьох можливих сценаріїв.

"На мою думку, варіант 'кінець світу через штучний інтелект' не є найбільш ймовірним розвитком подій до 2030 року. Набагато більше мене турбує, як ці технології будуть використовуватися людьми та урядами — для кібератак, масового спостереження та конфліктів", — зазначає представник компанії "ІнфоПлюс".

Є й більш песимістичні оцінки.

Катастрофа самопокращення

Ігор Шкурко, очільник відділу досліджень та розробок у компанії IT SmartFlex (частина групи "Водафон Україна"), зазначає, що "ризик існує". Він вважає, що людина просто не здатна встежити за змінами, які відбуваються швидше, ніж вона встигає їх осмислити. За його словами, катастрофа не відбудеться раптово, а стане наслідком численних звичайних неполадок.

Сьогодні люди вдосконалюють моделі: вони збирають дані, проводять навчання, тестують результати та приймають рішення щодо випуску продуктів. Занепокоєння викликає той момент, коли система почне автоматично здійснювати ці процеси, зазначає він. Це не сюжет про "повстання машин", а радше про те, що "ми більше не встигаємо їх контролювати". На нашу думку, ризик існує, але його прояви будуть зовсім не такими, як у кіно.

Американський технологічний університет MIT розробив каталог, що містить більше 1600 зафіксованих ризиків у MIT AI Risk Repository. Ігор Шкурко представляє десять сценаріїв, які компанія вважає ймовірними до 2030 року:

"Небезпечний не окремий пункт із цього списку, а їхня сума. Кожен окремо виглядає як робочий інцидент. Разом вони дають те, що можна назвати поступовою втратою керованості, - продовжує експерт. - Буквальний кінець світу до 2030 року ми вважаємо малоймовірним, але не виключеним. І саме тому цим треба займатися зараз, а не тоді, коли стане очевидно. А от локальні катастрофи - фінансові, інфраструктурні, інформаційні - високоймовірні, і вони вже почалися".

Микола Булгак, співзасновник AI-Novation, звертає увагу саме на потребу "запобіжників" в усіх цих процесах.

"Я б не став говорити, що ШІ гарантовано "знищить людство". Але найбільша небезпека - коли надзвичайно потужна система отримує можливість автономно діяти в цифровому середовищі, а люди втрачають здатність повноцінно контролювати її рішення. Чим потужнішою стає технологія, тим важливішими мають бути запобіжники", - каже експерт.

Але на тлі конкуренції компанії навпаки ці запобіжники скорочують.

Не кінець, а початок

СЕО компанії ToDo Олексій Бардаков згоден з тезами Коксона щодо "кінця світу", але застерігає від буквального сприйняття його слів.

"Існує концепція, відома як "Технологічна сингулярність". Ця ідея передбачає настільки стрімкі зміни в технологіях, що людство не зможе встигати за ними слідкувати. Це призводить до втрати контролю. Я вважаю, що основною небезпекою є рекурсивне удосконалення технологій, коли одна модель штучного інтелекту створює нову, яка, у свою чергу, розробляє ще одну. Через всього три етапи ми можемо втратити здатність усвідомлювати, як змінюється потужність ШІ і чого від нього слід очікувати", - зазначає пан Бардаков.

Він зазначає, що ключовою еволюційною перевагою людини є її мозок і здатність до мислення. Ця особливість дала змогу людству завоювати світ. Протягом свого розвитку ми "делегували" ті аспекти, в яких не є сильними — наприклад, використовуємо ніж замість кігтів або екскаватор замість нашої слабкої мускулатури. Штучний інтелект також виступає в ролі такого компенсатора.

"Люди стали фізично слабшими, менш витривалими, більш хворобливими. Зараз з ШІ ми віддаємо на аутсорс наш розум - нашу еволюційну перевагу. А значить в нас зникне потреба думати, - каже пан Бардаков про загрози людині як виду. - Наш мозок влаштований так, що коли дитина до п'яти років не навчиться розмовляти і ходити, вона вже ніколи не навчиться цього (можете перепитати у ШІ - він підтвердить). З цього виходить, що є ймовірність, що ми останнє мисляче покоління. Наступні можуть перетворитися в щасливих домашніх тваринок, про яких піклується ШІ. Поки ми йому не набриднемо".

З іншого боку, навіть такі "щасливі домашні тваринки" все одно можуть стати ближчими до зірок. Експерт посилається на парадокс Фермі, відповідно до якого ймовірність існування цивілізацій має бути досить великою - просто ніхто не досягає такого рівня технологій, щоб їх можна було б помітити з Землі. І саме ШІ стане "фільтром", здатним вирішити для людства цю проблему. Тобто це буде не "кінець світу", а початок чогось справді глобального для людства.

Олексій Щербатенко, один із засновників IT-Enterprise, також не поділяє думку, що ці процеси є "кінцем". Він, навпаки, розглядає їх як можливість для нового старту.

Коксон вважає, що світ поступово наближається до "точки неповернення", і з цим я можу погодитися. Йдеться не стільки про загрозу для людства, скільки про завершення попередньої економічної та індустріальної ери. Це проявляється у переході від інструментального штучного інтелекту (коли алгоритми лише допомагають людині) до автономних ШІ-агентів, мультимодальних систем і технологій Industry 5.0, - пояснює він. - Вже сьогодні ШІ-системи здатні самостійно управляти складними ланцюгами постачання, аналізувати величезні обсяги даних ERP у реальному часі та прогнозувати можливі відмови обладнання. Наприклад, ШІ-асистент Anna Maly, розроблений командою IT-Enterprise, аналізує сотні тисяч параметрів датчиків, які непідйомні для людини, і допомагає уникнути аварійних зупинок.

Пан Щербатенко вважає, що це буде "кінець епохи" лише для тих професіоналів та компаній, які не зможуть пристосуватися до змінених обставин.

Відродження робочого класу

Що нас чекає після "кінець світу"? В Асоціації IT Ukraine зазначають, що штучний інтелект поступово інтегрується в основні бізнес-процеси, охоплюючи такі сфери, як аналітика, розробка, обслуговування клієнтів, маркетинг, а також управління виробництвом і логістичними ланцюгами. Основний вплив ШІ полягає не лише в автоматизації окремих завдань, а в значному підвищенні продуктивності, швидкості виконання завдань і якості ухвалення управлінських рішень.

В асоціації відзначають, що з моменту 2022 року українські галузі з високим рівнем використання інформаційних технологій показали зростання на 19,9%, в той час як менш технологічні сектори збільшилися лише на 4,7%.

Для споживача ця зміна може бути менш очевидною, але вона матиме значний масштаб. Штучний інтелект все частіше інтегруватиметься у вже знайомі послуги: в банківському секторі, медицині, освіті, державних установах, логістиці та електронній комерції.

"Ми, можливо, не завжди будемо усвідомлювати, що спілкуємося зі штучним інтелектом, але отримуватимемо більш швидкі, персоналізовані та проактивні послуги. Отже, питання вже не в тому, чи вплине AI на економіку та ринок праці, а в тому, хто зможе найефективніше трансформувати його в реальний інструмент підвищення продуктивності. Для України це має особливе значення: ми володіємо потужними інженерними навичками та досвідом швидкого впровадження нових технологій, і наше завдання полягає в тому, щоб перетворити цю перевагу на підвищення продуктивності та конкурентоспроможності всієї економіки", - підкреслюють експерти IT Ukraine Association у своїй доповіді.

Вадим Власенко з EPAM вказує і на зворотній тренд - чим більше в економіці ШІ, тим дорожчими стають "руки й електрика". Не тому, що майбутній "Скайнет" потребуватиме людських рабів, а тому, що комусь потрібно буде всю цю інфраструктуру обслуговувати.

"ШІ живе не в хмарі, він живе в дата-центрах. Вузьке місце вже давно не в алгоритмах, а в тому, що енергомережі фізично не встигають за попитом. І хто будує цю інфраструктуру? Електрики, енергетики, монтажники, зварювальники, інженери підстанцій, фахівці з охолодження й вентиляції. Саме ті професії, про які десять років поспіль казали, що вони вже у минулому. Моя ставка на наступні десять років: найзатребуванішим стане те, що неможливо зробити через екран", - вказує він на вплив ШІ на ринок праці.

Окрім енергетичного сектора, штучний інтелект не зможе "завоювати" такі сфери, як будівництво, технічне обслуговування обладнання, логістика на завершальному етапі, ремонтні роботи та догляд за людьми.

Власенко вважає, що масових звільнень через впровадження штучного інтелекту не слід очікувати. Проте, проблема є "набагато складнішою", оскільки ШІ "забирає перші кроки на кар'єрному шляху" — прості завдання, які раніше виконували студенти для здобуття досвіду, тепер виконуються ШІ-агентами набагато швидше та дешевше. Водночас, в тих сферах, де знання отримуються через практичний досвід і наставництво, попит на робочу силу тільки зростає.

"Компанії відзначають зниження витрат, але через п'ять років можуть зіткнутися з несподіваною проблемою: виявиться, що немає охочих займатися базовими позиціями, оскільки цей перший етап кар'єри залишився непрохідним, - зазначає пан Власенко. - Автоматизація не вирішить цю ситуацію в найближчі десять років, адже технології добре справляються на складах, де все чітко організовано, але втрачають ефективність на будівельних майданчиках, де умови постійно змінюються. Тому я не здивуюсь, якщо до 2030 року висококваліфікований електрик отримуватиме більше, ніж середній аналітик в офісі. Це буде не випадковість, а закономірний результат."

Яким стане світ під управлінням штучного інтелекту?

Зміни торкнуться і B2B-послуг, і B2C-сервісів. У першому випадку обвалиться вартість години надання послуг, що торкнеться не лише IT, а й юристів, бухгалтерів, агентств, консультантів та усіх, хто виставляє рахунок за витрачений час. Єдиний варіант - відмовитися від погодинної оплати на користь оплати за результат.

У випадку з B2C-сервісами, замість ланцюжка "пошук → сайт → кошик" з'явиться коротка команда "сказав асистенту". Тобто тепер вибір товару робитиме ШІ-агент, а, отже, реклама, SEO і "красива упаковка" втрачають сенс. Проте й у "ШІ-шопінгу" є "вузькі місця".

"Подальше просування впирається не в інтелект моделей, а в платежі, довіру та відповідальність: хто відповідатиме, якщо агент купив не те? Саме це, а не технологічна потужність ШІ, диктуватиме темп змін у найближчі роки, - каже Вадим Власенко, - Будуть зміни у медицині та фармацевтиці, проте впровадження тут швидке, а от результат повільний. Бо ціна помилки - людське життя. Тому жоден регулятор не дозволить ШІ-агенту ухвалювати рішення замість лікаря. Це питання десятиліть, а не кварталів".

Експерт робить підсумок, що до 2030-го ШІ не замінить людей, але відбудеться зсув у цінності: дешевшає все, що можна зробити через екран за інструкцією, і дорожчає решта.

Ігор Шкурко, який очолює відділ досліджень і розробок в IT SmartFlex, зазначає, що їхня компанія базує свої оцінки на прогнозах Gartner. Згідно з цими прогнозами, ШІ-агенти наразі досягли стадії завищених очікувань. Лише 17% опитаних компаній вже впровадили ці технології, проте понад 60% мають намір зробити це протягом найближчих двох років.

Що ще передбачає Gartner:

Більше ніж 40% проєктів, що використовують ШІ-агентів, будуть припинені до завершення 2027 року через високу вартість, недостатню ясність у вигодах та відсутність управління ризиками.

До завершення 2026 року 40% корпоративних ініціатив включатимуть інтегрованих агентів, в той час як у 2025 році їх частка становила менше 5%.

* До 2028 року 90% закупівель між компаніями відбуватиметься через ШІ-агентів - це $15 трильйонів;

До 2027 року три чверті роботодавців планують оцінювати навички роботи з штучним інтелектом під час співбесід. Водночас, половина з них наполягатиме на проведенні тестів без використання ШІ, оскільки переживають, що люди можуть втратити здатність самостійно мислити.

Експерт зауважує, що з тих 40% проєктів, які будуть закриті до 2027 року, більшість стартували на основі технологій. Він акцентує, що важливіше запитати "яку конкретну операцію ми виключаємо", а не "де б нам впровадити штучний інтелект".

Але що це означає для України? І чи врятує це український бізнес, на тлі всіх викликів?

"Так, і це не перебільшення. У нас накладаються дві кризи: удари з блекаутами і брак людей. За даними цьогорічних досліджень ринку праці, 30% роботодавців не можуть знайти потрібних спеціалістів, а понад половина українців думають про зміну професії; найгостріше - у HoReCa, промисловості та сфері послуг, пояснює Ігор Шкурко з IT SmartFlex. - У такій ситуації ШІ - це не модна іграшка, а спосіб утримати той самий обсяг роботи меншою командою. Менше людей закриває той самий потік звернень. Бек-офіс працює, навіть коли половини команди немає. Знання не зникають разом із людиною, яка виїхала чи мобілізована".

Чи зможе штучний інтелект стати рятівником для України?

Олексій Щербатенко, один із співвласників IT-Enterprise, визнає, що штучний інтелект вже чинить вплив на українські підприємства.

"У нашому кейсі з "Укрпоштою" AI-асистент "Марко" скоротив час опрацювання документів на 60-80%, що дозволило разом з іншими процесами цифровізації оптимізувати штат бекофісу з 850 до 40 осіб. Це дає можливість переспрямувати людський ресурс на важливіші завдання. В SmartTender ШІ-інструмет замість 3-5 годин, які раніше витрачала людина, за 2 хвилини аналізує тендерні вимоги, які можуть складати понад 100 сторінок тексту. В охоронній компанії SHERIFF ШІ-агент знайшов 70% пропущених релевантних закупівель, які "випадали" з поля зору через брак людського ресурсу багато років, - розповідає він. - Для українського бізнесу, в умовах війни і безпрецедентного кадрового дефіциту, АІ та автоматизація - це спосіб підвищити ефективність, вижити, зберегти безперервність процесів та бути готовими до викликів".

Ринок праці в Україні може зазнати суттєвих змін, оскільки штучний інтелект переходить від простого надання відповідей на запити до активного виконання завдань, які людина лише контролює. Таку думку висловив Дмитро Зікрач, технічний лідер AI Lab у компанії SoftServe.

Цього року ми організували внутрішній чемпіонат, в якому взяли участь 179 команд SoftServe, що використовували агентів на реальних проєктах для клієнтів. Зазвичай результати вражають: команди досягають на 40-60% більшої продуктивності за той же час, а тривалість розробки скорочується на 20-30%. Спільне дослідження SoftServe та MIT Technology Review вказує на те, що 72% технологічних лідерів вважають, що протягом наступних двох років агенти здобудуть більшу частину процесу розробки", - ділиться він своїм досвідом.

Сергій Кривонос з АТ "ІнфоПлюс" займає чітку позицію: хоча штучний інтелект справді може бути корисним для бекофісів компаній, він не є універсальним вирішенням усіх проблем і потребує фінансових вкладень на інтеграцію, чого український бізнес часто не в змозі забезпечити. Отже, на його думку, штучний інтелект не зможе врятувати нашу економіку.

"Наявність технологічних засобів для заміни людини не завжди свідчить про їхню економічну доцільність. В деяких випадках людина все ще може виконувати завдання за нижчою ціною. Я б не став покладатися на те, що штучний інтелект вирішить проблему нестачі робочої сили та наслідків атак для українського бізнесу," - підкреслює він.

Світ навколо нас стрімко трансформується. Проте, вірогідність фізичного "кінець світу" до 2030 року, ймовірно, є мінімальною — принаймні, не завдяки штучному інтелекту. Проте, світ і Україна після 2030 року виявляться суттєво іншими, ніж те, до чого ми звикли. І зміни ці не завжди принесуть позитивні наслідки.