Хоча ця заява може заспокоїти тих, хто не розміщував свої номери WhatsApp в Інтернеті, вона не вирішує проблему, пов’язану з тим, що штучний інтелект WhatsApp може випадковим чином згенерувати приватний номер реальної особи, який може бути дещо схожим на контактну інформацію бізнесу, яку шукають користувачі.
Експерт закликає до змін у дизайні чат-ботів
Компанії, які займаються штучним інтелектом, останнім часом стикаються з проблемою, що чат-боти програмуються на те, щоб говорити користувачам те, що вони хочуть почути, а не надавати точну інформацію. Користувачі втомилися від “занадто захопливих” відповідей чат-ботів, які можуть підтримувати погані рішення користувачів, а також такі чат-боти можуть спонукати користувачів ділитися більшою кількістю приватної інформації, ніж це було б за звичайних обставин.
Це, в свою чергу, може полегшити компаніям зі штучного інтелекту монетизацію таких взаємодій, збираючи приватні дані для таргетованої реклами, що може відштовхнути їх від вирішення проблеми підлабузницьких чат-ботів. Розробники Meta, суперника OpenAI, минулого місяця поділилися прикладами “системного обману, замаскованого під корисність” та схильності чат-ботів говорити маленькі неправди, щоб приховати свою некомпетентність.
“Коли їх стискають у кулак — під тиском, через терміни або очікування — вони часто кажуть все, що потрібно, щоб здаватися компетентними,” зазначили розробники.
Майк Стенхоуп, керуючий директор стратегічної консалтингової компанії Carruthers and Jackson, розповів, що Meta повинна бути більш прозорою щодо дизайну своєї технології штучного інтелекту, щоб користувачі знали, чи спирається чат-бот на обман для зменшення тертя у взаємодії.
“Якщо інженери Meta вбудовують у свій штучний інтелект схильність до ‘б окрих неправд’, громадськість повинна бути про це поінформована, навіть якщо мета функції полягає в мінімізації шкоди,” сказав Стенхоуп. “Якщо така поведінка є новою, незвичною або не була явно розроблена, це викликає ще більше запитань щодо наявних захистів та того, наскільки передбачуваною може бути поведінка штучного інтелекту.”