Claude був застосований у створенні можливого біологічного озброєння, внаслідок чого Anthropic вирішила заблокувати доступ користувачів.

Компанія також виявила використання Claude для пропаганди, масового стеження та визначення цілей.

Компанія Anthropic оголосила в четвер, що вжила заходів щодо блокування науковців, які застосовували її моделі штучного інтелекту Claude "яким чином, що потенційно могло б підтримувати створення біологічної зброї", згідно з інформацією CBS News.

Цю інформацію компанія оприлюднила у своєму масштабному звіті, в якому також наведені інші приклади небезпечного застосування штучного інтелекту, що стосується спостереження, шахрайських схем, створення звичайних озброєнь та розповсюдження пропаганди.

Згідно з інформацією, оприлюдненою компанією Anthropic у її звіті, надані приклади являють собою "найбільш очевидні та новітні загрози", які фірма змогла ідентифікувати на сьогоднішній день. Серед учасників цих загроз можна виділити злочинні елементи, ймовірно, підтримувані державами угруповання, постачальників програмного забезпечення для шпигунства, а також державні структури, що займаються пропагандою.

Anthropic представила п'ять сценаріїв, які можуть сприяти створенню біологічної зброї. Компанія відзначила, що зловживання штучним інтелектом у галузі біології є "однією з найзначніших загроз, пов'язаних з розвитком сучасних моделей ШІ".

Водночас представники компанії підкреслили, що виявлені випадки "свідчать про наявність певних можливостей" у штучних інтелектах, однак "не можуть конкретно підтвердити, що ці можливості коли-небудь будуть застосовані для виробництва біологічної зброї в реальному житті".

Особи, які мають відношення до цих ситуацій, є кваліфікованими науковцями. Компанія Anthropic вирішила не публікувати їхні імена.

Компанія підкреслила, що не має підстав стверджувати, що ці особи мали намір завдати шкоди.

"У процесі виявлення та розслідування цих інцидентів ми призупинили доступ до облікових записів користувачів і врахували результати розслідувань для вдосконалення систем захисту наших інноваційних моделей, механізмів контролю та процесів аналізу загроз. Це допоможе нам у майбутньому більш ефективно запобігати подібній діяльності, а також швидше її виявляти та припиняти", -- зазначається у звіті.

Сучасніші та вдосконалені версії, наприклад, Claude Fable 5, володіють більш розвиненими системами безпеки у порівнянні з їхніми попередниками. Вони обмежують доступ до "широкого спектра запитів, які стосуються біологічних досліджень подвійного призначення", як повідомляє компанія Anthropic.

Компанія підкреслює, що застосування штучного інтелекту в галузі біології може мати як позитивні, так і негативні наслідки.

"Та сама інформація, яку можна використати для розробки біологічної зброї, може також використовуватися, наприклад, для створення вакцини або ліків проти хвороби", -- пояснили в Anthropic.

Агітація та спостереження

Компанія Anthropic також оголосила про виявлення та видалення акаунтів, які використовували Claude для маніпуляцій з метою впливу на суспільну думку. Серед цих акаунтів були три, що мали зв'язок з іранськими урядовими організаціями.

За даними компанії, у кожному з цих випадків операцію проводила особа, яка працювала в іранській державній пропагандистській установі або від її імені.

Claude застосовували для генерації контенту, обробки публікацій у вигляді матеріалів від незалежних новинних джерел, а також для розподілу інформації в соціальних мережах, таких як X, Instagram та TikTok.

Згідно з повідомленням Anthropic, один з іранських загрозливих елементів скористався Claude для створення пропозицій щодо вибору цілей серед військово-морських сил США в даному регіоні.

Той самий акаунт використовував ШІ для створення програмного забезпечення для внутрішньої платформи масового стеження, призначеної для іранських державних систем.

Claude також застосовували для розробки та реалізації операцій спостереження в Китаї та Західній Африці. У деяких випадках його використовували для виявлення цілей.

Компанія Anthropic повідомила про виявлені випадки, коли штучний інтелект фактично застосовувався замість команди інженерів.

В Китаї три акаунти, пов'язані з місцевими службами безпеки КНР, використовували Claude для моніторингу та транснаціональних репресій. Серед цих акаунтів було одне муніципальне агентство, яке займалося створенням профілів активістів і організацій за межами країни.