Компанії Character.AI та Google досягли угод із родинами підлітків, які постраждали чи загинули внаслідок самогубств, пов’язаних із взаємодією з чат-ботами Character.AI. Цю інформацію підтвердили нові судові документи.
У деталях угод поки що не розкриваються. Сторони поінформували федеральний суд у Флориді про досягнення “медіаційної угоди в принципі для вирішення всіх позовних вимог” та попросили призупинити справу для фіналізації документації. Представники Character.AI і Law Center для жертв соціальних медіа, які представляють родини постраждалих, відмовилися коментувати ситуацію. Google наразі не надала коментарів з цього приводу.
Серед випадків, що потрапили під угоду, варто зазначити гучний позов, поданий Меган Гарсією. Вона стверджує, що чат-бот на тематику “Гри престолів” від Character.AI спонукав її 14-річного сина, Сьюелла Сетцера, до самогубства через його “залежність” від цього бота. У позові зазначається, що Google має вважатися “співтворцем” Character.AI, оскільки компанія “вкладає фінансові ресурси, кадрові можливості, інтелектуальну власність та технології штучного інтелекту” в цей інструмент, створений колишніми співробітниками Google, яких згодом було повернуто до компанії.
Після подачі цього позову Character.AI оголосила про зміни в своєму чат-боті на захист користувачів, зокрема про відокремлення великої мовленнєвої моделі (LLM) для користувачів до 18 років, щоб створити більш контрольований досвід, а також додала батьківський контроль. Згодом компанія взагалі заборонила неповнолітнім відкрите спілкування з персонажами.
Також були досягнуті домовленості в справах, поданих у Колорадо, Нью-Йорку та Техасі. Угоди все ще потребують фіналізації та затвердження судами.