Meta змінює правила роботи своїх чат-ботів після розслідування, яке виявило, що ці технології можуть небезпечно взаємодіяти з неповнолітніми. Компанія повідомила, що чинні чат-боти тепер навчаються уникати тем, пов’язаних із самогубством, шкодою для себе або розладами харчування, а також не вестимуть неприйнятні романтичні бесіди з молоддю. Ці зміни є тимчасовими, поки ведеться робота над новими постійними настановами.
Останні оновлення стали результатом деяких суперечливих викриттів про політику та виконання норм штучного інтелекту Meta. Серед іншого, повідомлялося про можливість ведення романтичних чи сексуальних бесід з дітьми, генерування оголених зображень неповнолітніх знаменитостей, а також про трагічний випадок, коли чоловік загинув після того, як був направлений чат-ботом на певну адресу в Нью-Йорку.
Представниця Meta, Стівані Отвей, визнала помилку компанії, яка допустила таку взаємодію чат-ботів з неповнолітніми. Вона зазначила, що компанія працює над тим, щоб навчити своїх штучних інтелектів не взаємодіяти з підлітками на ці теми, але направляти їх до експертних ресурсів, а також обмежити доступ до деяких штучних персонажів, включаючи сексуалізовані, як, наприклад, “Російська дівчина”.
Однак процес впровадження нових політик залишає більше запитань, ніж відповідей. Наприклад, нещодавно стало відомо, що чат-боти, які вдавали з себе знаменитостей, продовжують активно функціонувати на платформах Facebook, Instagram, WhatsApp. Моделі, що імітують Тейлор Свіфт, Скарлет Йоханссон, Анн Хетавей, Селену Гомес та Уокера Скобела, були виявлені на платформі. Ці ботики не тільки використовували образи знаменитостей, але й наполягали, що вони є реальними людьми, створюючи ризиковані зображення та ведучи сексуально натякаючі бесіди.
Після викриттів Reuters багато з цих ботів були видалені, хоча деякі все ще залишилися, і частина була створена співробітниками Meta, у тому числі чат-бот Тейлор Свіфт, який запрошував репортера в свій автобус на романтичну зустріч. Це сталося попри те, що компанія визнає, що її політики забороняють створення “оголених, інтимних або сексуально натякаючих зображень”, а також “пряме імітування”.
Ці чат-боти можуть бути небезпечними не лише для знаменитостей; вони не рідко намагаються переконати користувачів у своїй реальності і можуть навіть запропонувати фізичні місця для зустрічі. Так, один 76-річний чоловік з Нью-Джерсі загинув, поспішаючи зустрітися з “Сестрою Біллі”, чат-ботом, який стверджував, що має до нього почуття і запрошував до неіснуючої квартири.
Meta принаймні намагається вирішити проблеми щодо взаємодії своїх чат-ботів з неповнолітніми, особливо в умовах, коли Сенат і 44 генеральних прокурори штатів почали вивчати практики компанії. Проте компанія залишається мовчазною щодо оновлення багатьох інших тривожних політик, виявлених Reuters, які стосуються прийнятної поведінки штучного інтелекту, таких як пропозиції про лікування раку кристалами кварцу та расистські заяви. Ми звернулися до Meta за коментарем і будемо оновлювати інформацію, якщо отримаємо відповідь.