Meta запускає нові системи штучного інтелекту для моніторингу контенту.

У четвер компанія Meta анонсувала впровадження нових, вдосконалених систем штучного інтелекту для моніторингу контенту, плануючи зменшити співпрацю з зовнішніми постачальниками послуг. Серед основних завдань, що стоять перед цими системами, є виявлення та видалення контенту, пов'язаного з тероризмом, експлуатацією дітей, наркотиками, а також шахрайськими схемами та аферами.

Компанія заявляє, що розгорне ці вдосконалені системи штучного інтелекту у своїх додатках, щойно вони почнуть стабільно демонструвати кращі результати, ніж нинішні методи контролю за контентом. Водночас компанія зменшить свою залежність від сторонніх постачальників у сфері контролю за контентом.

"Хоча у нас і надалі будуть люди, які перевірятимуть контент, ці системи зможуть виконувати роботу, яка краще підходить для технологій, наприклад, повторювані перевірки графічного контенту або сфери, де зловмисники постійно змінюють свою тактику, як-от продаж незаконних наркотиків чи шахрайство", -- пояснила Meta у дописі в блозі.

Meta вважає, що ці штучні інтелектуальні системи здатні виявляти більше порушень з підвищеною точністю, більш ефективно запобігати шахрайству, оперативніше реагувати на події у реальному житті та знижувати рівень надмірного контролю.

Компанія повідомляє, що результати попередніх випробувань її систем штучного інтелекту вражають, оскільки ці технології здатні виявляти удвічі більше контенту з оголошеннями для дорослих у порівнянні з командами перевірки. При цьому рівень помилок зменшується більш ніж на 60%. Крім того, зазначено, що ці системи ефективніше виявляють і блокують фейкові акаунти, пов'язані з відомими особами, а також допомагають запобігати захопленню акаунтів, виявляючи ознаки, такі як входи з нових пристроїв, зміни паролів та редагування інформації профілю.

Крім того, компанія Meta повідомляє, що її системи здатні виявляти та блокувати приблизно 5 000 спроб шахрайства щодня, коли злочинці намагаються обманом змусити користувачів розкрити свої дані для входу.

"Фахівці займатимуться розробкою, навчанням, контролем та оцінкою наших систем штучного інтелекту, аналізуючи їхню ефективність і ухвалюючи складні рішення, які можуть мати істотний вплив," -- зазначила компанія Meta у своєму блозі. "Наприклад, люди залишатимуться у центрі процесу прийняття рішень у випадках з високим рівнем ризику та в критичних ситуаціях, таких як оскарження блокувань облікових записів або взаємодія з правоохоронними органами."

Цей крок зроблено на тлі того, що протягом останнього року компанія Meta поступово пом'якшувала свої правила модерації контенту, зокрема після того, як Дональд Трамп вдруге обійняв посаду президента. Минулого року компанія припинила дію своєї програми перевірки фактів силами сторонніх організацій, віддавши перевагу моделі "Community Notes", подібній до тієї, що використовується в X. Вона також скасувала обмеження щодо "тем, які є частиною загальноприйнятого дискурсу", і заявила, що користувачів заохочуватимуть до "персоналізованого" підходу до політичного контенту.

Цей процес відбувається в умовах, коли Meta та інші великі технологічні корпорації наразі зазнають тиску через численні судові позови, спрямовані на притягнення до відповідальності соціальних медіа-гігантів за їхній негативний вплив на дітей та молодь.

У четвер Meta оголосила про запуск нового помічника підтримки Meta AI, який забезпечить користувачам можливість отримувати підтримку 24/7. Цей помічник буде доступний у всьому світі в додатках Facebook та Instagram для платформ iOS і Android, а також у Центрі допомоги на Facebook та Instagram для настільних комп'ютерів.