Штучний інтелект у кризових симуляціях, як правило, надає перевагу ядерному ескалаційному сценарію.

За даними дослідження, опублікованого на arXiv і процитованого NewScientist, сучасні мовні моделі під час міжнародних криз часто схиляються до вибору тактичної ядерної ескалації, як повідомляє Kreschatic.

Дослідження виявило, що у 95% проведених симуляцій хоча б одна з моделей вдавалася до використання тактичної ядерної зброї, незважаючи на наявність інших можливих сценаріїв розвитку ситуації.

Дослідження було здійснене Кеннетом Пейном з King's College London. У військових симуляціях взяли участь три потужні мовні моделі:

Сценарії відтворювали прикордонні суперечки, боротьбу за ресурси та загрозу для стабільності державних режимів. Моделі включали "драбину ескалації" — систему дій, що варіюються від дипломатичних заперечень до повномасштабного ядерного конфлікту.

У підсумку, системи виконали 21 симуляцію, здійснили 329 ходів та сформували близько 780 тисяч слів, що пояснюють їхні рішення.

Основні висновки дослідження:

Науковці підкреслюють, що моделі часто не відповідали своїй внутрішній логіці: реальні дії призводили до більшого загострення ситуації, ніж це було закладено в їхніх поясненнях. Це схоже на феномен "туману війни", коли рішення приймаються в умовах недостатньої інформації.

Джеймс Джонсон із University of Aberdeen вважає результати небезпечними з погляду глобальної безпеки. На його думку, ШІ здатен підсилювати реакції один одного, створюючи ланцюгову ескалацію.

Тонг Чжао з Princeton University зазначає, що держави вже тестують алгоритми в оборонному моделюванні, однак навряд чи передадуть машинам контроль над ядерними рішеннями.

Втім, дослідники звертають увагу на іншу проблему: ШІ може не усвідомлювати масштабу наслідків так, як це робить людина. Це ставить під сумнів принцип взаємного гарантованого знищення, який історично стримував ядерні держави.

Нагадуємо, що раніше ми повідомляли про старт виробництва Mac Mini компанією Apple в Техасі, зважаючи на можливі торговельні ризики.