США та Росія вирішили вилучити з угоди положення, що стосується людського контролю над озброєнням на основі штучного інтелекту.

Представники США та Росії прибрали з проєкту ООН положення, яке вимагало, щоб люди перевіряли визначені ШІ військові цілі перед завданням удару.

Американські та російські дипломати об'єднали зусилля для того, щоб вилучити із проєкту договору ООН основні положення які встановлюють контроль людини над штучним інтелектом при застосуванні смертоносної зброї. Про це пише The Washington Post з посиланням на джерела.

Згідно з інформацією, опублікованою в одному з видань, на початку вересня сотні дипломатів зібралися в Женеві, щоб обговорити першу глобальну угоду щодо використання смертоносної автономної зброї. У фінальний день переговорів представники США та Росії провели 15 годин на закритій сесії, працюючи над вдосконаленням документа. Обидві країни залучили близько 10 юристів, що значно перевищило кількість фахівців, залучених іншими делегаціями.

Згідно з інформацією від джерел, дипломати зі США та Росії вирішили виключити з документа формулювання, яке вимагало від автономних систем діяти "передбачувано" та "надійно". Також було вилучено положення, що зобов'язувало враховувати етичні аспекти при використанні штучного інтелекту в військових операціях. Крім того, представники обох країн зняли вимогу, згідно з якою люди повинні були перевіряти визначені військові цілі, перш ніж здійснити удар.

Зміни в цій угоді, подробиці якої раніше не були оприлюднені, ілюструють спроби Сполучених Штатів і Росії ослабити міжнародні норми контролю за небезпечною зброєю, що використовує штучний інтелект.

Один зі співрозмовників видання назвав процес редагування угоди "смертю від тисячі дрібних порізів".

Відзначається, що активні дискусії в Женеві проходили на фоні зусиль Пентагону щодо швидкого інтегрування штучного інтелекту в свою військову стратегію, у той час як тривають суперечки про екзистенційні загрози, пов'язані з розвиненими технологіями ШІ.

Згідно з інформацією, яку опублікувало видання, збройні сили США вже застосували штучний інтелект компанії Anthropic для ідентифікації та ураження близько тисячі цілей в перші добу конфлікту з Іраном.

Заступниця директора з питань озброєнь організації Human Rights Watch Веріті Койл зазначила, що ослаблення існуючих норм призведе до того, що "автомати зможуть ухвалювати рішення про життя і смерть без людського нагляду". Вона підкреслила, що це може спричинити зростання загроз для мирного населення та прискорити перехід до "більш небезпечних, автоматизованих конфліктів".

Нагадаємо, керівники провідних світових компаній у сфері штучного інтелекту 23 вересня попередили Раду Безпеки ООН про ризики, які штучний інтелект може представляти для людства.

Люди бояться ШІ: більшість бачить ризик для існування людства

Останні новини від Корреспондент.net у Telegram та WhatsApp. Приєднуйтесь до наших каналів за посиланням: https://t.me/korrespondentnet та у WhatsApp.