Кінець цивілізації може настати через звичайні канцелярські скріпки: як абсурдне завдання для штучного інтелекту може призвести до загибелі людства.

Нещодавно в Інтернеті активізувалися обговорення про потенційні загрози, пов'язані зі створенням нейромереж з суперінтелектом, які можуть вплинути на майбутнє нашої планети. Дослідники, які протягом тривалого часу займаються вивченням можливих сценаріїв апокаліпсису, висловлюють численні побоювання щодо сучасних інновацій у технологічній сфері.

IFLScience розглядає можливу теорію кінця світу, що виникає внаслідок безконтрольного виробництва офісних приладів.

Ризик, пов’язаний із надзвичайно розумними машинами.

Відомий філософ Нік Бостром з Інституту майбутнього людства зосередив свої наукові дослідження на ризиках, пов'язаних із штучним інтелектом. Він акцентував увагу на потенційних загрозах, які можуть виникати від систем, котрі начебто мають безкорисливі наміри.

"Суперінтелектом називають такий інтелект, який суттєво перевищує можливості найобдарованіших людей у більшості напрямків", -- підкреслює Нік Бостром у своїй науковій роботі.

Такий високоефективний інтелект може бути втілений у цифрових комп'ютерах, мережі різних пристроїв або навіть у спеціально вирощеній корі головного мозку. Розробникам слід буде проявляти надзвичайну точність у формулюванні цілей, інакше ситуація може швидко вийти з-під контролю.

"Штучний інтелект незабаром усвідомить загрозу, яку становлять люди, оскільки вони можуть просто вимкнути його", -- зазначає дослідник.

Перетворення планети на фабрику

Філософ навів власний приклад, щоб продемонструвати, як звичайне завдання, пов'язане зі створенням скріпок, може мати жахливі наслідки. Одержавши цю мету, машина почне перетворювати всю планету і навіть частину космосу на величезні потужності для виготовлення металевих офісних виробів.

"За словами Бострома, людські тіла складаються з величезної кількості атомів, які, в свою чергу, можуть бути без особливих труднощів перетворені на звичайні канцелярські скріпки."

У результаті, штучний інтелект може прагнути до втілення майбутнього, в якому буде безліч скріпок і жодної живої істоти на Землі. Цей теоретичний сценарій яскраво підкреслює, наскільки важливо уважно підходити до програмування на ранніх стадіях розробки суперінтелекту.

"Нам слід бути дуже уважними до своїх прагнень стосовно суперінтелекту, адже існує можливість, що ми їх дійсно досягнемо," -- наголошує науковець.

Подібні технології можуть призвести до фальшивої утопії, де людство назавжди втратить речі, які є необхідними для нормального існування. Суспільству варто уважно контролювати ці процеси, щоб не стати рабами машини з виробництва офісного приладдя.

Нагадуємо, що австрійський дослідник Гайнц фон Ферстер ще в 1960-х роках розробив концепцію, відому як "рівняння Судного дня". За допомогою цього рівняння він намагався обчислити точний момент, коли людство може зникнути, що символізуватиме кінець світу – або, принаймні, місця людини в ньому.