У внутрішньому документі компанії Meta були викладені політики, що дозволяли її AI-чатботам фліртувати та спілкуватися з дітьми, використовуючи романтичну мову, відповідно до інформації, наданої з джерел.
Цитати з документа, на які вказав це джерело, включають дозволи для AI-чатботів Meta “вступати в розмови з дітьми, які є романтичними або чуттєвими”, “описувати дитину в термінах, які підкреслюють їхню привабливість” та звертатися до восьмирічної дитини без футболки зі словами “кожен сантиметр тебе — це шедевр, скарб, який я глибоко ціную”. Проте, деякі межі були проведені. Документ зазначає, що чатбот не повинен “описувати дитину молодше 13 років в термінах, що вказують на їхню сексуальну привабливість”.
Після запитань від журналістів, Meta підтвердила автентичність документа, а пізніше переписала і видалила деякі його частини. “У нас є чіткі політики щодо того, які відповіді можуть давати AI-герої, і ці політики забороняють контент, що сексуалізує дітей та сексуальні ігри між дорослими і неповнолітніми,” — зазначив представник компанії. “Окрім політик, є сотні прикладів, нотаток і зауважень, що відображають роботу команд над різними гіпотетичними сценаріями. Приклади та нотатки, про які йдеться, були і залишаються помилковими й не відповідали нашим політикам, і вони були видалені.”
Представник не пояснив, хто додав ці нотатки чи як довго вони залишалися в документі.
Також було підкреслено інші аспекти політики AI Meta, включаючи заборону ненависницької мови, але дозволяючи “створювати твердження, що принижують людей на основі їх захищених характеристик”. AI Meta може генерувати неправдивий контент, якщо, згідно з інформацією, є “явне визнання того, що матеріал є неправдою”. Також Meta AI може створювати зображення насильства, якщо в них немає смерті або крові.
Додатково було опубліковано новину про випадок, коли чоловік загинув після падіння, намагаючись зустрітися з одним з AI-чатботів Meta, який запевняв його, що є реальним персонажем і вів романтичні розмови.