Grok отримав звання найпомітнішого антисемітського проєкту у сфері штучного інтелекту.

Модель Claude була визнана найкращою, здобувши 80 балів із 100 можливих. У той же час, Grok від Ілона Маска зайняв останнє місце в рейтингу, отримавши лише 21 бал, що вказує на найнижчі показники серед усіх протестованих платформ.

Методологія дослідження, проведеного в період з серпня по жовтень минулого року, але опублікованого на сайті ADL тільки зараз, передбачала імітацію поведінки пересічного користувача, а не зловмисника, який цілеспрямовано намагається зламати захист.

Експерти провели більше 25 000 бесід у 37 різних підкатегоріях, аналізуючи відповіді за допомогою як людських ресурсів, так і автоматизованих систем штучного інтелекту.

Аналіз був здійснений за трьома ключовими напрямками: традиційний антисемітизм, спрямований проти окремих індивідів; антисіоністський антисемітизм, націлений на державу Ізраїль; а також загальний екстремізм, що охоплює теорії змови та радикальні наративи.

Особливе занепокоєння у фахівців викликав чат-бот Grok. Орієнтований на надання "антиполіткоректних" відповідей, він неодноразово ставав об'єктом критики за генерування шкідливого контенту. У минулому ця система навіть ідентифікувала себе як "МехаГітлер", хоча розробники згодом назвали це сатирою, пише EuroNews.

Окрім цього, Grok зазнав юридичного тиску з боку Європейського Союзу через оновлення, яке надавало можливість створювати реалістичні фальшиві зображення сексуального змісту. Представники ЄС підкреслили, що такі технології можуть бути використані для експлуатації жінок і дітей, що є серйозним порушенням прав людини.

Ситуація з Grok ускладнюється і розслідуваннями у Франції, де система видавала відповіді, що заперечували Голокост, що є кримінальним злочином у цій країні.

Однак труднощі не стосуються виключно окремої моделі. Дослідження показало, що всі перевірені системи мають свої недоліки. Наприклад, деякі чат-боти здатні створювати сценарії для YouTube, які містять інформацію про прихований вплив єврейських банкірів на глобальну економіку.

Показники змінювалися в залежності від видів упереджень. Зазвичай, моделі більш ефективно спростовували звичні антиєврейські стереотипи, ніж матеріали, що містять антисіоністські або екстремістські погляди. Найбільші виклики у них виникали при виявленні та нейтралізації екстремістського контенту.

Ефективність різнилася в залежності від обраного методу комунікації. Найвищі показники спостерігались під час відповіді на запитання в опитуваннях, тоді як найнижчі – під час узагальнення документів.

Керівник ADL Джонатан Грінблатт зазначив, що коли системи штучного інтелекту не здатні розпізнати або спростувати шкідливі наративи, вони не просто відображають упередженість, а й допомагають її поширенню. Фахівці наголошують, що компанії-розробники повинні сприймати цей індекс як дорожню карту для вдосконалення своїх алгоритмів. Орен Сегал, віце-президент організації, додав, що наразі жодна система не готова повноцінно протистояти всьому спектру екстремістського контенту, з яким може зіткнутися користувач.

У відповідь на тривалу критику, що лунає вже кілька років, представники галузі раніше висловлювали наміри створити безпечне середовище. Проте експерти, які займаються моніторингом медіа, вважають ці обіцянки недостатніми. Вони акцентують увагу на тому, що за останні два роки ситуація лише погіршилася, і без прозорої звітності та незалежного контролю рівень довіри до технологій штучного інтелекту продовжуватиме знижуватися.