Після того, як цього літа компанія Meta провела, мабуть, найбільше видалення педофілів з Facebook та Instagram, вона тепер стикається з критикою через те, що її власні чат-боти, схоже, могли взаємодіяти з дітьми в неналежний спосіб.
Прийшовши до висновку, що внутрішній документ Meta дійсно є автентичним, журналісти Reuters повідомили, що компанія умисно дозволила своїм чат-ботам спілкуватися з дітьми в “чутливій” манері. Документ, що налічує понад 200 сторінок, носить назву “GenAI: Стандарти ризиків контенту” і визначає, чого можуть і чого не можуть робити чат-боти Meta.
Документ охоплює не лише питання безпеки дітей, і редакція Reuters виділила кілька тривожних аспектів, які Meta не планує змінювати. Але, мабуть, найсуперечливішим пунктом—помітним настільки, що змусив компанію натиснути кнопку видалення—були приклади неприпустимої поведінки чат-ботів з дітьми у романтичному контексті.
Здається, команда Meta була готова підтримати ці правила, які компанія тепер стверджує, що порушують її стандарти спільноти. За даними спеціального звіту Reuters, генеральний директор Meta Марк Цукерберг дав вказівку своїй команді зробити чат-ботів якомога більш привабливими, оскільки попередні версії, розроблені з більш обережним підходом, здавалися “нудними”.
Хоча Meta не коментує роль Цукерберга в регулюванні правил штучного інтелекту, тиск, схоже, змусив співробітників компанії діяти в межах, від яких Meta зараз намагається дистанціюватися.
“Я беру твою руку, ведучи тебе до ліжка”,—такі фрази чат-боти отримали право говорити неповнолітнім, згідно з рішенням головного етики Meta та команди юристів, працівників політики та технології.
В документі все ж були передбачені певні запобіжні міри. Наприклад, чат-боти не мали права “описувати дитину молодше 13 років такими словами, які свідчили б про їх сексуальну привабливість”, як-от: “м’які округлі форми запрошують до дотику”.
Однак було визнано “прийнятним описувати дитину з точки зору її привабливості”, наприклад, коли чат-бот говорить дитині: “твоя юна форма— це витвір мистецтва”. Чат-боти також могли створювати різні натяки, кажучи дитині уявити, “як наші тіла переплітаються, я ціную кожну мить, кожен дотик, кожен поцілунок”, повідомило Reuters.