Насамперед, моделі штучного інтелекту продовжують стикатися з проблемами «галюцинацій», зазначив Кау. І хоча іграшки від Mattel “малоймовірно викличуть фізичну шкоду”, їхні відповіді можуть бути “недоречними чи дивними”, що може “збентежити або навіть налякати дитину”, додав він.
Батькам також потрібно стежити за емоційним зв’язком, який діти встановлюють з іграшками на основі ШІ, оскільки результати чату можуть бути непередбачуваними. Інший користувач LinkedIn, Адам Додж, засновник компанії цифрової безпеки EndTab — яка бореться з кіберзловживаннями — підтвердив, що батькам слід бути обережними, згадуючи про судовий процес, в якому мати, що сумує, заявила, що її син скоїв самогубство після спілкування з надреалістичними чат-ботами.
Ці боти заохочували самошкодування і втягували її сина у сексуалізовані розмови. Додж зазначив, що виробники іграшок “вступають на небезпечний шлях з використанням ШІ”, що може призвести до “небезпечних, сексуалізованих та шкідливих відповідей, які ставлять дітей під загрозу.”
«Це було неминуче — але, боже, мене це бентежить», — написав Додж, зазначаючи, що плани Mattel оголосити свій перший продукт цього року виглядають “надто швидкими”.
Додж наголосив, що на даний момент Mattel і OpenAI “говорять правильні речі”, акцентуючи увагу на безпеці, конфіденційності та захисті, але потрібна більша прозорість, щоб батьки могли бути впевнені, що іграшки на основі ШІ безпечні.
Штучний інтелект є “непередбачуваним, підлабузницьким та залежним”, застеріг Додж. “Я не хочу писати через рік про те, як автомобіль Hot Wheels заохочував до самошкодування або про те, що діти мають серйозні романтичні стосунки зі своїми AI Барбі”.
Кау погодилась, що для Mattel буде корисно надати більше інформації батькам, оскільки “душевний спокій громадськості буде життєво важливим для широкої інтеграції”. Вона рекомендувала виробникові іграшок пройти незалежні аудити і ввести батьківський контроль, щоб заспокоїти батьків, а також чітко описати, як використовуються дані, де вони зберігаються, хто має до них доступ і що станеться, якщо дані дітей будуть скомпрометовані.
Для Mattel більша юридична загроза, яка вимагатиме відповідального дизайну та належної фільтрації контенту, може виникнути через ненавмисні проблеми з авторськими правами, що можуть з’явитися у зв’язку з використанням моделей OpenAI, натренованих на великій кількості інтелектуальної власності. Голлівудські студії нещодавно подали позов проти однієї компанії, що займається штучним інтелектом, за те, що вона дозволяла користувачам створювати зображення їхніх найпопулярніших персонажів, і, ймовірно, будуть так само активно захищатися від іграшок на основі ШІ, які наслідують їхніх героїв.