Хроніки Апокаліпсису

ЧАСТИНА 11

Чи не є штучний інтелект Антихристом?

Укотре повертаючись до цієї теми, найперше хочеться нагадати слова Генсека ООН Антоніу Гутерріша, який ще десь у травні цього року назвав чотирьох вершників Апокаліпсису — це геополітична напруженість, зміни клімату, глобальна недовіра та зловживання новими технологіями.

Він зазначив, що через геополітичну напруженість теракти призводять до все нових жертв і зростає ядерна загроза, а також зауважив — сьогодні більше, ніж будь-коли після Другої світової війни, люди змушені залишити свої будинки через збройні конфлікти та переслідування. Тож цей вершник — «Війна». 

Говорячи про другого вершника Апокаліпсису, генсек ООН пояснив, що мільйонам живих істот найближчим часом загрожуватиме вимирання, бо «наша планета горить». Він, щоправда, політкоректно промовчав про пандемію, яка начебто ще триває. Водночас низка дослідників застерігає — кліматичні зміни можуть спричинити появу нових масових захворювань, зокрема інфекційних. Тому цей вершник — «Чума».  

Глобальна недовіра, на думку Гутерріша, призвела до того, що дві людини з трьох живуть у країнах, де зросла нерівність. Мабуть, він мав на увазі тренд вичавлювання середнього класу, який набирає обертів. Відтак, тотальна бідність  — це третій вершник. Цей вершник — «Голод», як наслідок зубожіння.  

Ще одна проблема полягає у зловживанні технологічним прогресом, вважає генсек ООН і зазначає, що незважаючи на величезні блага, які несуть нові технології, дехто використовує їх для скоєння злочинів, розпалювання ненависті, поширення фейків, гноблення та експлуатації людей, а також задля порушення приватного життя. Знову віддамо належне політкоректності високопосадовця, адже хтось неконтрольований технічний прогрес вважає загрозою всьому живому. Чи можемо ми говорити, що цей вершник — «Смерть»?

Із інтерв’ю Ілона Маска, яке з’явилось у низці ЗМІ, близько до тексту:

«Штучний інтелект (ШІ) застосовуватиметься як зброя. Все більше людей, які використовуватимуть його одне проти одного, будуть у небезпеці. Я не хочу, щоби так сталося, але переконаний — це неминуче. 

Людство недостатньо розвинене, щоби задумуватись про екзистенційні загрози. Ми звикли розмірковувати про речі, що навколо нас, але нам важко думати про майбутнє, або про речі, які можуть знищити все людство. Однак   ми вже використовували ядерні бомби, що потенційно можуть знищити цивілізацію, а тепер у нас є ШІ, який може зробити те саме. 

Як ШІ може знищити цивілізацію? Знаєте, це було би щось схоже на те, як люди знищують приматів. Коли «гомо сапієнси» стали набагато розумніші за інших плацентарних ссавців, то просто відштовхнули всіх, хто були на їхньому шляху…

Думаю, що з часом ми побачимо більш тісне об’єднання біологічного та цифрового інтелекту. Насамперед ідеться про зв’язок між мозком і цифровим саморозширенням…

Чи можуть технології, які маємо зараз, що вже розроблені та використовуються, застосовуватись у руйнівних цілях? Так. Можна легко і дешево зробити купу дронів-убивць: потрібен лише чип розпізнавання обличчя, який використовується у мобільних телефонах, невеликий вибуховий заряд і  стандартний дрон.

Найбільша проблема, яку бачу в так званих експертах з ШІ: вони думають, начебто знають більше, і що вони розумніші. Вони просто не можуть визначити й оцінити свій інтелект. Їм не подобається ідея, що машина може бути набагато розумнішою за них, тому вони недооцінюють загрозу. Взагаліто ми тупіші, ніж думаємо. У мене є доступ, який дозволяє уважно стежити за прогресом ШІ. І те, що я бачу, мене лякає. ШІ здатний на незрівнянно більше, ніж люди думають. Його темп вдосконалення є експоненційним. AlphaGo [комп’ютерна програма для гри в ґо, яка у жовтні 2015 року в грі на класичній дошці 19×19 завдала поразки людині — професійному гравцю, — прим. авт.] — чудовий приклад того як за 9 місяців ШІ досягнув величезного успіху [шляхом самовдосконалення машина з посереднього гравця стала непереможною, — прим. авт.]. 

Правове регулювання ШІ є повільним і лінійним, а ми стикаємося з експотенційною загрозою. І якщо ми реагуємо на таку загрозу лінійно, то дуже ймовірно, що вона переможе. Це величезна проблема. Зазвичай, коли  з’являється щось нове, якась нова технологія,що може завдати шкоди або привести до смерті, то на підйомі її впровадження зростає глобальне обурення. Проводиться розслідування. Рік минає. Тодіформується якась комісія, що створюєправила. Це займає багато років і є звичним ходом подій, але не адекватним у часі стрімкого прогресу ШІ. Не можна витрачати десять років на регулювання з того моменту, коли ШІ стає небезпечним. Це занадто пізно.

Будь-яка група людей, наприклад, бізнес-компанія, по суті є кіберколективом людей і машин. У формуванні цих компаній є різні рівні складності. Це ніби колективний ШІ, як пошук Google, де ми всі з’єднані, як мережеві вузли, як листя на великому дереві. І ми всі «годуємо» цю мережу. Ми всі колективно програмуємо та культивуємо цей ШІ. А Google і всі люди, які з ним пов’язані, — це просто гігантськакіберкоманда. Те саме з Facebook, Twitter, Instagram та іншими соцмережами. Це гігантські кіберколективи. Ми подібні до біологічного зарядного пристрою для штучного інтелекту. Ми його створюємо та надаємо йому все більше розуму. У такий спосіб відсотокінтелекту, який не є біологічним, збільшується. І зрештою наш людський інтелект складатиме дуже малий відсоток колективного ШІ.  

Всі речі, які ми любимо, ненавидимо чи боїмося, вже існують як онлайнпроекція нашої лімбічної системи. ШІ буде використовуватися для створення неймовірно ефективної пропаганди, яка взагалі не буде схожою на пропаганду та матиме за мету вплинути на напрямок розвитку суспільства, на результати виборів. ШІ доставить меседж до публіки, перевірить та врахує реакцію на нього і за мілісекунди виправить, роблячи більш ефективним. Це сформує правильну реакцію людей на новини. Є багато облікових записів у соціальних мережах, які не належать людям. І дуже важко розрізнити — де людина, а де бот. 

Буде все менше робіт, які робот не зможе зробити краще за людину. Видається, що народ таки доведеться забезпечувати універсальним базовим доходом. Екзистенційні питання людини та пошук сенсу життя стануть набагато складнішим випробуванням. Багато людей отримують відчуття сенсу життя від своєї роботи, своєї зайнятості. Отже, якщо ти більше не потрібен, якщо твоя робота не потрібна — то який сенс твого життя? З цією проблемою буде дуже  важко боротися. 

Думаю, що ми перебуваємо на шляху до об’єднання біологічного інтелекту та машинного. У певному сенсі ми вже кіборги завдяки цифровим інструментам, які у нас є — нашим телефонам, комп’ютерам, програмному забезпеченню; через те, що можемо задати питання і миттєво отримати відповідь від Google чи інших пошуковиків. Навіть якщо людина помирає, навколо витає її цифровий дух — всі електронні листи та фото, що були опубліковані, весь соціальний цифровий простір надалі живий.   

У нас були клавіатури, якими ми часто користувалися. Тепер введення більшості даних робимо пальцями на телефоні. Але це дуже повільно. Комп’ютер може спілкуватися зі швидкістю трильйон біт у секунду, а ваші пальціпередають близько десяти або максимум 100 біт у секунду. Вважаю, що певний зв’язок високої пропускної здатності (штучної) з мозком допоможе досягти симбіозу людини-машини і, можливо, вирішить проблему управління та продуктивності. Вузький ШІ, такий як автономність автомобілів, — це лише штучний інтелект, який використовується в окремій галузі, і це не найбільший ризик. Але глибокий ШІ, або загальний ШІ, є набагато розумнішим за найрозумнішу людину. Я вважаю, що це небезпечна ситуація. Якщо людство колективно вирішить, що створення цифрового суперінтелекту — це правильно, ми повинні рухатися дуже, дуже обережно. Це найважливіше, на що нам варто звернути увагу».

Кілька рефлексій у контексті сказаного паном Маском. 

1. Штучний інтелект, поєднаний із досягненнями робототехніки, — це не лише найпотужніша зброя майбутнього, хоча у вигляді застосування дронів її ефективність ми бачимо вже сьогодні. Повна цифровізація суспільства є страшнішою від самої зброї, оскількисаме життєве середовище людства стане кимось контрольоване. Вже наводив приклад, що взявши за основу постулат буддизму «життя — це страждання», ШІ може прийняти рішення позбавити від цього всіх живих істот. Звісно, що з абсолютно раціональних підстав і без жодних негативних емоцій.   

2. Тотальне впровадження цифровізації, зокрема недорозвиненими соросятами в Україні, а також спецслужбами, не має нічого спільного з турботою про людей. Мета — повний контроль. І за думками теж, оскільки вже давно алгоритми фейсбуку дають змогу формувати досконалий психологічний портрет особи за її «лайками» та «нелайками». Але тут є прихована загроза для самих «контролерів», адже, продовжуючи думку Маска, вони самі потрапляють під повний контрольШІ. 

3. Регулювання ШІ — питання тонке. Я би сказав — тонюсіньке. Це все одно, що за допомогою молотка налаштовувати телевізор. Поки останній був ламповим — часом вдавалося. Контролювати потужніший інтелект можна лише шляхом його від’єднання від живлення. А якщо він зможе контролювати власне енергозабезпечення? Інша справа — закласти у ШІ табу. До прикладу, за жодних обставин не завдавати шкоду «контролерам». Але такі табудля ШІ можуть бути як бабусині прикмети для академіка-матеріаліста.  

4. Якщо ШІ створюється колективним розумом (дурістю?) людства через інтернет — то чи не може він збожеволіти? Адже сучасний інтернет — це суцільний когнітивний дисонанс. Варто лише почитати трактування подійвійни нашими та московськими пропагандистами. До яких логічних висновків прийде ШІ? Чи часом не вирішить, що Homo Sapiens є загрозою життя на планеті, а відтак існуванню самого ШІ?  

5. Маніпуляції електоральним стадом за допомогою ШІ не лише залишать без роботи «соціолухів» з «політолухами», а й сформують колективне бажання людства. Ба навіть не бажання, а прагнення. До прикладу, Нового Світового Порядку. А, може, події останнього часу — пандемія, нинішня війна, завтрашній голод — це і є план,   запрограмований ШІ? Чи не ШІ випустив у світ чотирьох вершників Апокаліпсису, про яких згадував Генсек ООН?

6. Поєднання людського мозку з можливостями ШІ швидше подібне не на створення бого-людини, а на вихолощення з неї божественної природи, адже домінуватиме раціональна складова.  

7. Церква не задумується, що ШІ — це і є Антихрист? Якщо Бог — це любов, то ШІ — це холодний розрахунок. Розрахунок чого і во ім’я чого?  

Луї Розенберг, фахівець в області ШІ, вважає, що появу потужного ШІ не вдасться стримати і він буде небезпечним для людини. На Землі з’явиться прибулець — і немає жодних підстав вважати, що він буде дружнім до людини. Деякі експерти переконані, що це станеться упродовж 30 років. Інші — що значно раніше. Ніхто не знає, який він матиме вигляд, але дві його риси, на думку Розенберга, вже відомі: інтелект і самосвідомість. Дослідник зазначає, що не йдеться про інопланетян з далекого космосу — ця істота народиться в одній із лабораторій якогось університету чи корпорації. Людина просто не в змозі уявити, що означає сприймати реальність так, як це робить ШІ, легко перебуваючи одночасно всюди, володіючи, за висловом Розенберга, «мільярдом очей і вух».  

Наївно вважати, що за такої несхожості у ШІ виявиться схожі з людськими мораль та емпатія. Штучний мозок повністю відрізнятиметься від біологічного: за базовими структурами, за функціональністю, за фізіологією та психологією. Людиноподібні тіла стануть лише фасадом, за яким ховатиметься щось зовсім чуже.

Цей фасад, продовжує дослідник, може зіграти з нами злий жарт: ми не боятимемося цих істот, як боялися б прибульців з космосу, які зовні не схожі на нас; ми навіть співпереживатимемо їм, оскільки еволюція наділила людей здатністю співчувати всім, хто схожий на нас зовні. На його думку, головне, що ми можемо зробити зараз — це визнати, що універсальний ШІ з’явиться протягом найближчих десятиліть і що він не буде цифровою копією людського інтелекту. Це буде зовсім інший інтелект — такий самий чужий і небезпечний, як розум інопланетянина. 

Інопланетянина чи Антихриста?