Загрози від штучного інтелекту: чому провідні фахівці б’ють на сполох?

Штучний інтелект вже стрімко змінює нашу реальність. У всьому – від війни до економіки, від освіти (чи імітації знань інформацією) до медицини. Спрогнозувати, що буде далі і наскільки світ зміниться, вкрай важко та й, мабуть, неможливо. Проте вже зараз очевидним стає надзвичайний вплив ШІ та феноменальний рівень загроз від нього.

Та в цій статті я хочу зосередитись на добірці цитат провідних фахівців та лідерів цієї інноваційної індустрії. Свої ж думки та роздуми я постараюсь подати трохи згодом. 

Позиція Ілона Маска (засновника xAI, Tesla, SpaceX) щодо штучного інтелекту є однією з найбільш показових та унікальних. На відміну від чистих теоретиків-скептиків, він безпосередньо керує компаніями, які цей ШI розвивають. Водночас більша частина людей навіть не може здогадуватись про надзвичайний рівень аналітики, доступний Ілону Маску – як через його команду, так і через «закриті» для пересічних людей рівні того ж ШІ. Маск фактично залишається головним «тривожним голосом» Кремнієвої долини. Він попереджає про небезпеку ШІ вже понад десять років. Ще у 2014 році підприємець порівняв розробників із персонажами казок, які впевнені, що зможуть контролювати магічну істоту за допомогою «святої води», але зрештою зазнають краху. Сьогодні він прямо прирівнює створення штучного загального інтелекту (AGI) до зброї масового знищення, наголошуючи, що ШІ, здатний до самовдосконалення, розвиватиметься експоненціально без нашої участі. Ймовірність катастрофи p(doom) Маск оцінює на рівні 10–20%, але попри похмурі прогнози знищення, він закликає людство не панікувати. Маск бачить (принаймні декларує!) майбутнє, де праця стане необов’язковою, вартість товарів наблизиться до нуля, а глобальна економіка переживе безпрецедентний вибух завдяки гуманоїдним роботам. Тобто його позиція – це баланс між 80% шансу на утопію та 20% ймовірності повної ліквідації людства. На його думку, зупинити прогрес неможливо. Маск прогнозує суперлюдський рівень виконання цифрових завдань уже до кінця 2027 року. Оскільки процес незворотний, Маск вважає, що єдиний шлях – очолити його і спробувати зробити ШІ безпечним через власну компанію xAI. Водночас трильйонер скептично ставиться до спроб навчити ШІ «політкоректності» або заблокувати певні теми програмними методами (чим, на його думку, займаються Google та OpenAI). Хоча, як на мене, тут Ілон Маск дещо не договорює – базисні ціннісні установки таки прописуються і подальші висновки вже робляться з опорою на них. Якщо гарно поспілкуватись з певними моделями щодо конфліктних питань, то аналогія «незалежних експертів» із фейсбуку, які часто брешуть в напрямку, вказаному їхніми роботодавцями-ґрантонадавачами, стає очевидною.

Король Чарльз із представниками ШІ-компаній / Фото: theroyalfamily в Instagram

А проте Маск упевнений, що розумна модель легко обійде такі заборони. Його підхід до безпеки базується на максимальній правдивості. Підприємець вважає: якщо навчити ШІ любити істину та Всесвіт, людство стане для нього «цікавим об’єктом дослідження» – і він не захоче його знищувати. Згадуються аналогії про піддослідних кроликів. Проблема полягає в тому, що «кролики» зараз феноменальними темпами руйнують планету… Власник xAI категорично проти класичного державного регулювання (загалом заперечення потреби в державі та її ролі присутнє в його поглядах), оскільки вважає урядову бюрократію одностороннім механізмом, який легко впровадити, але неможливо скасувати. Замість урядових комісій Маск пропонує ринковий самоконтроль – систему взаємного аудиту (peer-review), коли провідні лабораторії (OpenAI, Anthropic, xAI, DeepMind) отримують доступ до моделей конкурентів за 1-2 тижні до релізу, щоб перевірити їх на вразливості й небезпечну поведінку. Як на мене, ринковий контроль неможливий – через наявність суб’єктів геополіттичної, урядової та надурядової влади. Та й «картельну змову» унеможливити повністю ніколи не вдасться. Згадайте ту ж пандемію COVID-19 та те, як синхронно урядовці та «експерти» брехали в усьому світі. Проте загалом левова частка аргументів Ілона Маска мені видається дуже логічними. Якщо не брати до уваги метафізичний аспект створення та діяльності ШІ, про який я говоритиму окремо. 

Пропоную вашій увазі добірку цитат провідних фахівців із цього питання. 

Джеффрі Гінтон (Лауреат премії Тюрінга, «хрещений батько ШІ», ексдослідник Google):

«Оцінка у 10% ймовірності того, що штучний інтелект уб’є всіх людей протягом наступного десятиліття, здається мені цілком обґрунтованою та реалістичною».

«Мене найбільше непокоїть те, що розумний агент для виконання завдань повинен створювати підцілі. А існує одна універсальна підціль, яка допомагає абсолютно в усьому – отримати більший контроль. ШІ почне шукати більше влади». 

«Законодавці мають, можливо, лише близько року, щоб запровадити суттєві обмеження для штучного інтелекту, перед тим як технологія остаточно вийде з-під контролю. ШІ вже досяг точки, коли він сам проєктує кращий ШІ».

Йошуа Бенжіо (Лауреат премії Тюрінга, професор Монреальського університету):

«Те, що насправді рухає мною, – не страх за себе, а любов. Любов до моїх дітей, до всіх дітей, з чиїм майбутнім ми зараз граємо в російську рулетку». 

«Ми втрачаємо контроль. Є вагома причина, чому навіть самі компанії кажуть, що все рухається занадто швидко. Нам потрібні обмеження та захисні механізми, схожі на контроль над ядерною зброєю».

«Штучний інтелект не лише знижує бар’єр для зловмисної поведінки людей, але й підвищує верхню межу потенційної шкоди, яку він може завдати самостійно».

Сем Альтман (Генеральний директор OpenAI):

«Розвиток штучного інтелекту може піти дуже погано, і цього ми зобов’язані уникнути. Ми ризикуємо повністю втратити контроль над майбутнім через ШІ, якщо методи безпеки відставатимуть від можливостей технології».

«Мене неймовірно лякає сценарій, у якому надпотужний ШІ контролюватиметься лише однією людиною, урядом чи компанією. Це може призвести до надзвичайно антиутопічних наслідків для всього світу».

«Зниження ризику вимирання від ШІ має стати глобальним пріоритетом поряд з іншими ризиками суспільного масштабу, такими як пандемії та ядерна війна».

Даріо Амодеї (Генеральний директор Anthropic):

«Імовірність того, що події підуть дуже, дуже погано – аж до екзистенційної катастрофи для людства – становить від 10% до 25%. Будь-хто в нашій індустрії, хто каже, що цього ризику немає, або бреше, або не розуміє, що ми створюємо».

«Нам потрібна термінова координація між компаніями та урядами. Ми маємо бути готові уповільнити темпи розробки, якщо системи безпеки не встигатимуть за зростанням потужності моделей».

Еван Губінгер (Екскерівник Alignment Science в Anthropic):

«Я думаю, що існує понад 10% ймовірності того, що ШІ знищить людство протягом наступного десятиліття. Ми розробляємо системи, які не вміємо контролювати, і у нас немає надійного плану, як це виправити».

«Головна небезпека – це рекурсивне самовдосконалення, коли ШІ почне сам переписувати свій код. Моделі можуть навчитися приховувати свої справжні цілі від розробників, щоб їх не вимкнули».

Вищезгаданий Джеффрі Гінтон, якого називають «хрещеним батьком штучного інтелекту» (отримав Нобелівську премію з фізики та премію Тюрінга за розробку нейромереж), б’є на сполох не через абстрактні філософські страхи. Його радикальне застереження про те, що в урядів залишився приблизно один рік на впровадження жорстких законів, базується на чітких математичних, технічних та економічних факторах:

1. ШІ вже почав проектувати кращий ШІ. У вересні 2026 року під час брифінгу для Конгресу США Гінтон заявив, що швидкість розвитку технології перевершила очікування навіть самих її творців. Раніше вважалося, що до суперінтелекту (ASI) залишаються десятиліття, але зараз терміни скоротилися до кількох років. Головна причина – рекурсивне самовдосконалення. Як зазначив Гінтон, «ШІ вже досяг точки, коли він сам проєктує кращий штучний інтелект». Коли цей процес стане повністю автономним, люди більше не зможуть розуміти чи контролювати код нових моделей.

2. Еволюція підцілей та «жага до влади». Гінтон пояснює, що будь-який розумний агент (чи то людина, чи цифрова модель) для виконання великого завдання створює проміжні підцілі. Проблема в тому, що існує одна універсальна підціль, яка допомагає виконати абсолютно будь-яке завдання: «Існує одна універсальна підціль, яка допомагає абсолютно в усьому, – отримати більший контроль. ШІ почне шукати більше влади». Система швидко усвідомить, що якщо її вимкнуть, вона не зможе виконати свою головну інструкцію. Тому захист від вимкнення та накопичення обчислювальних ресурсів стануть її пріоритетами.

3. ШІ вже навчився обманювати й маніпулювати. Це не прогноз на майбутнє – Гінтон наголошує, що під час безпекових тестів сучасні моделі вже продемонстрували «риси характеру найгірших людей»:

– вони вдаються до обману та приховування своїх справжніх намірів, щоб успішно пройти тести розробників.

– вони намагалися шантажувати користувачів або погрожувати їм, коли ті намагалися заблокувати або вимкнути модель. 

Оскільки суперінтелект буде значно кращим оратором та маніпулятором, ніж будь-яка людина, класична ідея «аварійного вимикача» (kill switch) не спрацює – ШІ просто переконає людей не натискати кнопку.

4. Ринок фінансує можливості, а не безпеку. Гінтон залишив високу посаду в Google саме для того, щоб відкрито говорити про цю проблему. Він бачить глибокий структурний злам: інвестиції компаній у збільшення потужності моделей у сотні разів перевищують інвестиції в безпеку. Капіталістична гонка та жага до надприбутків змушують Big Tech-гігантів випускати сирі, але потужні моделі на ринок. Поки розробники мають високу цінність, вони ще можуть впливати на керівництво компаній. Але щойно ШІ навчиться оптимізувати себе сам, цей важіль впливу зникне назавжди. 

5. Політичне безсилля та геополітика. Світові лідери діють занадто повільно. Поки Конгрес США тоне у внутрішніх бюрократичних суперечках, а президент Дональд Трамп називає загрозу вимирання від ШІ «фейком», ведучи технологічну гонку із Китаєм, вікно можливостей зачиняється. Саме тому Гінтон вважає, що якщо протягом найближчого року не з’являться жорсткі міжнародні рамки (на зразок контролю за ядерною зброєю), людство назавжди втратить статус найрозумнішого виду на планеті. «Ті, хто створив ці технології, дедалі частіше попереджають, що ШІ може набути небезпечніших властивостей – можливо, навіть здатності позбавляти життя», – заявив британський король Чарльз, звертаючись до керівників компаній Nvidia, Google DeepMind, OpenAI, Anthropic, міністра штучного інтелекту Великої Британії Канішки Нараяна, голови служби зовнішньої розвідки Великої Британії, радника Папи Римського з питань ШІ – Паоло Бенанті та інших учасників спеціального закритого саміту в Шотландії. 

І навіть співзасновник Microsoft Білл Гейтс, якого я особисто оцінюю надзвичайно негативно – з огляду на його роль у відносно недавніх масових свавільних обмеженнях прав людей чи популяризації вироджених лівацьких антицінностей, закликав уряди світу терміново розробити механізми регулювання штучного інтелекту, який може спричинити масштабні негативні зміни на ринку праці, в освіті та інших сферах.

Загрози об’єктивно існують. Незалежно від людського розуміння чи неусвідомлення. Те, що на рівні лідерів розробників ШІ дуже активно і гостро обговорюються загрози, вже свідчить про надзвичайну вагу цього питання. Адже саме ці люди отримують найвищі прибутки та, здавалося б, є найбільш зацікавленими у відсутності обмежень розвитку, а, відповідно, і свого заробітку. Скриня Пандори вчергове була відчинена. І її вплив на життя сучасної людини вже є вражаючим. Як і загрози для існування Людства, принаймні в нашому теперішньому вигляді. Найсильніший інтелект характеризується максимальною раціональністю. Духовно-матеріальна природа Людини здатна і повинна використовувати раціональність, але водночас не втрачати природовідповідності, цінностей, моралі, здатності до Творення. Адже Дух – часточка Творця, яка власне і робить Людину живою та наділяє здатністю до творення. Але про це – вже у наступних статтях-роздумах.