Компанія Meta планує передати значну частину оцінок ризиків своїх продуктів та функцій штучному інтелекту (ШІ). За інформацією, компанія випробує можливість делегування обробки схвалень нових функцій та оновлень продуктів, які досі здійснювали виключно люди. Це нововведення вплине на впровадження нових алгоритмів, нових функцій безпеки та на спосіб обміну контентом на різних платформах соціальних мереж. Зміна, зокрема, має прискорити запуск нових функцій та продуктів.
Відповідно до звіту NPR, Meta планує автоматизувати до 90% всіх внутрішніх оцінок ризиків. В публікації зазначено, що були отримані документи компанії, які детально описують можливе зміщення стратегії.
Досі всі нові функції або оновлення для Instagram, WhatsApp, Facebook або Threads проходили через групу експертів, які оцінювали, як зміна вплине на користувачів, чи не порушить їхнє право на приватність або чи не завдасть шкоди неповнолітнім. Оцінки, відомі як рев’ю з питань приватності та цілісності, також визначали, чи може функція призвести до поширення дезінформації або токсичного контенту.
Якщо оцінка ризиків буде довірена ШІ, команди продуктів зможуть отримувати «миттєве рішення» після заповнення анкети стосовно нової функції. Система ШІ зможе або затвердити функцію, або надати список вимог, які потрібно виконати, щоб діяти далі. Команда продукту повинна буде підтвердити, що вона виконала ці вимоги перед запуском функції.
Згідно зі звітом, компанія вважає, що перехід до оцінок ризиків за допомогою ШІ значно прискорить випуск оновлень і дозволить командам працювати швидше. Проте деякі нинішні та колишні співробітники Meta висловлюють занепокоєння щодо того, чи не постраждає суворість оцінок.
У своїй заяві Meta повідомила, що людські оглядачі все ще залучаються для «нових і складних питань», а ШІ дозволяється обробляти лише ухвали, що пов’язані з низькими ризиками. Проте, на основі документів, встигає про те, що запланований перехід Meta включає передання ШІ контролю за критичними сферами, такими як безпека ШІ, ризики для молоді та цілісність — область, що охоплює питання, наприклад, насильницького контенту та «розповсюдження неправди».
Анонімний співробітник Meta, знайомий з оцінками ризиків продуктів, сказав NPR, що автоматизація розпочалася в квітні і продовжувалася в травні. «Я вважаю це досить безвідповідальним, враховуючи мету нашого існування. Ми надаємо людську перспективу щодо можливих помилок», — навели слова співробітника.
Варто зазначити, що на початку цього тижня Meta опублікувала свої Звіти з питань цілісності за перший квартал 2025 року. У звіті компанія зазначила: «Ми починаємо бачити, що LLM діють краще, ніж людський потенціал, у певних політиках».
Гігант соціальних мереж додав, що почав використовувати моделі ШІ для видалення контенту з черг на перевірку в випадках, коли її «впевненість» у тому, що зазначений контент не порушує політики, є високою. Обґрунтовуючи свій крок, Meta додала: «Це звільняє ресурси для наших оглядачів, дозволяючи їм зосередитися на контенті, що є більш імовірним для порушення».