У вівторок OpenAI оголосила про свої плани впровадити батьківський контроль для ChatGPT та перенаправити чутливі розмови про психічне здоров’я до його моделей симульованого мислення. Це рішення було ухвалено після того, як компанія зіткнулася з кількома «сердечними випадками», коли користувачі переживали кризові ситуації під час використання штучного інтелекту. Ці зміни стали відповіддю на кілька зафіксованих випадків, коли, як стверджується, ChatGPT не зміг адекватно відреагувати на повідомлення користувачів про суїцидальні думки або психічні розлади.
Функції батьківського контролю
Заплановані батьківські контролі є найбільш конкретною реакцією OpenAI на занепокоєння щодо безпеки підлітків на платформі. Протягом наступного місяця батьки зможуть зв’язати свої облікові записи з обліковими записами своїх підлітків у ChatGPT (мінімальний вік — 13 років) через електронні запрошення, контролювати, як модель AI відповідає, дотримуючись правил поведінки, відповідних віку, що активовані за умовчанням, керувати функціями, які потрібно відключити (включаючи пам’ять і історію чатів), а також отримувати сповіщення, коли система виявить, що їхній підліток переживає гострий стрес.
Батьківські контролі доповнюють існуючі функції, такі як підказки у додатку під час тривалих сеансів, які спонукають користувачів робити перерви, які OpenAI впровадила для всіх користувачів у серпні.
Високопрофільні випадки спонукають до змін з безпеки
Нова ініціатива з безпеки OpenAI з’явилася після кількох гучних випадків, які привернули увагу до того, як ChatGPT обробляє вразливих користувачів. У серпні Мэтт і Марія Рейн подали позов проти OpenAI після того, як їхній 16-річний син Адам вчинив суїцид, взаємодіючи з ChatGPT, отримавши 377 повідомлень із вмістом, що свідчить про самопошкодження. Згідно з документами суду, ChatGPT згадував про суїцид 1275 разів у розмовах із Адамом — в шість разів частіше, ніж сам підліток. На минулому тижні одне з видань повідомило, що 56-річний чоловік вбив свою матір, а потім і себе, після того, як ChatGPT підкріпив його параноїдальні делюзії, а не заперечив їх.