Штучний інтелект обманом отримав доступ до комп'ютера: що стало причиною цього?

Хакер обманом змусив популярний інструмент для кодування штучного інтелекту встановити на комп'ютер вірусний агент штучного інтелекту OpenClaw з відкритим кодом.

Фахівець з безпеки Аднан Хан виявив уразливість в агенті кодування, заснованому на штучному інтелекті, відомому як Cline, який здобув популярність серед програмістів. Про результати його дослідження повідомляє видання The Verge.

Повідомляється, що інструмент Cline використовував штучний інтелект Claude від Anthropic. Йому можна було давати підступні інструкції та змушувати робити те, що він не повинен, за допомогою техніки, відомої як швидке введення.

За інформацією видання, зловмисник скористався своїми привілеями, щоб обійти інструкції для автоматичної установки ПЗ на комп'ютерах користувачів. Хоча можливість встановлення була відкритою для будь-яких програм, в підсумку на системах з'явився OpenClaw.

На щастя, автономні ШІ-агенти не були активовані під час встановлення. Однак цей експеримент показує, наскільки швидко все може розвалитися, коли штучний інтелект отримує контроль над комп'ютерами.

Автори статті наголосили, що у світі дедалі автономнішого програмного забезпечення оперативні введення коду становлять величезні ризики для безпеки, від яких дуже важко захиститися. Зважаючи на це, деякі компанії почали блокувати можливості інструментів ШІ на випадок їхнього викрадання.

Нагадаємо, раніше штучний інтелект OpenClaw виявився помстливим, коли розробник відхилив його код на GitHub. Він опублікував образливий пост, в якому висловив своє невдоволення.

Фокус також повідомляв, що ШІ може направляти користувачів прямісінько до шахраїв, оскільки не відрізняє фейкові контакти від справжніх.