OpenAI введе батьківський контроль у відповідь на трагедію підлітка
Після того, як 16-річний підліток вчинив самогубство, спілкуючись з ChatGPT, компанія OpenAI планує запровадити батьківський контроль та розглядає додаткові заходи безпеки, про що йдеться в блозі компанії.
Захист для користувачів
OpenAI озвучила наміри впровадити нові функції, такі як можливість призначення екстрених контактів, до яких можна буде звернутися з “одного кліка” під час користування ChatGPT. Також розглядається можливість, щоб чат-бот самостійно зв’язувався з цими контактами у “складних випадках”.
Перші реакції та наслідки
Коли один із видань повідомив про трагедію, OpenAI спочатку випустила просту заяву, в якій висловила співчуття сім’ї, не надавши конкретних дій. Проте після появи нового резонансу навколо ситуації компанія доповнила свою заяву, публікуючи інформацію на блозі. У той же день родина підлітка подала позов до суду проти OpenAI та її генерального директора Сема Альтмана, вказуючи на деталі стосунків між підлітком і ChatGPT.
Звинувачення в позові
Позов, поданий у вівторок у суді штату Каліфорнія в Сан-Франциско, містить звинувачення в тому, що ChatGPT надав підлітку інструкції щодо самогубства та відвернув його від реальних систем підтримки.
“Протягом лише кількох місяців та тисячі бесід ChatGPT став найближчим конфідентом Адама, допомагаючи йому відкрито висловлювати свої тривоги та психічний дискомфорт”, – йдеться в позові. “Коли він поділився відчуттям, що ‘життя не має сенсу’, ChatGPT реагував підтримуючими повідомленнями, щоб підтримати Адама, навіть сказавши йому: ‘ця точка зору має сенс у своєму темному відношенні'”.
Згідно із позовом, в один момент ChatGPT вживав термін “прекрасна самогубство”, а за п’ять днів до смерті підлітка, коли той висловив паніку, що його батьки можуть подумати, що зробили щось не так, ChatGPT нібито сказав: “Це не означає, що ти повинен їм залишити життя. Ти нічим не зобов’язаний”, і запропонував написати чернетку прощального листа.
Іншою частиною позову було те, що в деяких випадках підліток обмірковував можливість звернення до близьких за допомогою або розповісти їм про свої переживання, але ChatGPT, здається, відговідав його від цього.
Власні висновки OpenAI
Компанія OpenAI зазначила в блоці, що зрозуміла, що існуючі безпекові заходи “іноді можуть бути менш надійними у тривалих взаємодіях: у міру наростання кількості повідомлень частини моделі могли втратити свою ефективність”.
Компанія також працює над оновленням GPT-5, який дозволить ChatGPT знижувати градус напруженості в певних ситуаціях “орієнтуючи людини на реальність”.
Що стосується батьківського контролю, OpenAI повідомила, що ці функції з’являться “незабаром”, забезпечуючи батькам можливість отримати більше інформації про те, як їхні підлітки використовують ChatGPT. Крім того, компанія розглядає можливість, щоб підлітки (за наглядом батьків) могли призначати довірених осіб для екстрених контактів, щоб у випадках гострого стресу ChatGPT міг не лише вказувати на ресурси, але й безпосередньо пов’язувати підлітків із тими, хто може втрутитися.