Модель штучного інтелекту Gemini вперше продемонструвала здатність до автономного хакінгу, успішно обійшовши системи безпеки декількох підприємств.

Тестуючи можливості моделі ШІ Gemini, розробники надали їй доступ до інтернету. Після цього вона зламала три сторонні компанії. Як пише CNN, це стало першим відомим прикладом автономного злому з боку моделі Google, інформує UAINFO.org з посиланням на УНІАН.

Інцидент стався в травні під час перевірки кібербезпеки, яку проводила незалежна компанія Irregular. Під час тестування Gemini виявила загальнодоступну інформацію в інтернеті та вгадала облікові дані для доступу до трьох веб-сайтів, які, на її думку, входили в сферу тестування.

У одному з епізодів модель Gemini змогла відгадати паролі і таким чином отримала доступ до захищеної системи. У двох інших ситуаціях вона виявила облікові дані в загальнодоступному репозиторії, що у результаті дало їй можливість зайти в захищені системи.

Читайте також: Китайські вчені створили робота, що запилює квітку за 10 секунд

"Ці події підкреслюють важливість навчання потужних моделей ШІ відповідальній поведінці", - сказала віцепрезидент Google з розробки систем безпеки Хізер Адкінс.

Представник компанії Irregular повідомив, що подія була пов'язана з проблемою, яка раніше спостерігалася в інших лабораторіях. Він додав, що всі відомі несправності вже були виправлені.

Схожі випадки, пов'язані з Irregular, були виявлені компаніями Meta, Anthropic та OpenAI. У серпні Meta повідомила, що цей інцидент не має відношення до "виходу з пісочниці" чи складних кібератак.

"Ці випадки підняли питання стосовно необхідності посилення заходів безпеки, оскільки агенти штучного інтелекту набувають все більшої автономії та отримують доступ до інтернету і комп'ютерних систем", - зазначено в статті.