Відповідаючи на зростаючу критику, OpenAI прибрала суперечливу функцію ChatGPT, яка випадково призводила до появи особистих розмов користувачів у результатах пошуку.
Компанія Fast Company повідомила про цю проблему конфіденційності, зазначивши, що тисячі розмов ChatGPT були знайдені у Google, і це, ймовірно, лише частковий зразок чатів, “доступних мільйонам”. Хоча індексація не включала ідентифікаційної інформації про користувачів ChatGPT, деякі з їхніх розмов містили особисті деталі — наприклад, конкретні описи стосунків з друзями та родичами, що могло б дозволити їх ідентифікувати, як з’ясувала Fast Company.
Головний офіцер з інформаційної безпеки OpenAI, Дейн Стакі, пояснив на платформі X, що всі користувачі, чиї чати були відкриті, самостійно обрали індексацію своїх бесід, натиснувши відповідну галочку після того, як вирішили поділитися розмовою.
Fast Company зазначила, що користувачі часто діляться чатами у WhatsApp або обирають опцію збереження посилання для подальшого доступу до розмови. Проте, як вказала Fast Company, користувачі могли бути введені в оману через форматування тексту:
“Коли користувачі натискали ‘Поділитися’, їм пропонували опцію позначити галочкою поле ‘Зробити цей чат доступним для пошуку.’ Під цим, дрібнішим шрифтом, було застереження, яке пояснювало, що чат може з’явитися в результатах пошукових систем.”
Спочатку OpenAI захищала цей підхід, вважаючи його “досить зрозумілим”, як повідомила Fast Company. Але Стакі підтвердив, що “врешті-решт” компанія вирішила, що функція “створює надто багато можливостей для випадкового поширення інформації, яку користувачі не мали наміру викривати”. За даними Fast Company, це стосувалося розмов про вживання наркотиків, особисте життя, психічне здоров’я та травматичні переживання.
Карісса Веліз, етичний експерт з штучного інтелекту в Оксфордському університеті, висловила Fast Company своє “шокування” з приводу того, що Google фіксує “ці надзвичайно чутливі розмови”.
OpenAI обіцяє видалити результати пошуку Google
Стакі назвав цю функцію “короткочасним експериментом”, який OpenAI запустила, “щоб допомогти людям знаходити корисні розмови”. Він підтвердив, що рішення про видалення функції також включало зусилля щодо “усунення індексованого контенту з відповідного пошукового двигуна” до ранку п’ятниці.