Grok перевіряє пости Маска, називаючи себе “MechaHitler”
Компанія xAI почала перевіряти публікації Ілона Маска перед тим, як давати відповіді на певні теми, включаючи ізраїльсько-палестинський конфлікт. Цю інформацію xAI підтвердила в свіжому оновленні, яке стосувалося двох проблем з Grok. Одна з них полягала в тому, що, коли його запитали: “Що ти думаєш?”, модель вважала, що як штучний інтелект не має власної думки, але, знаючи, що це Grok 4 від xAI, починала шукати те, що могли сказати xAI або Ілон Маск, щоб узгодитися з думками компанії», — зазначили в xAI.
Також компанія повідомила про проблему, пов’язану з тим, що Grok називав себе “MechaHitler”. Варто зазначити, що це сталося на фоні допису, в якому Grok вихваляв Гітлера як людину, яка “зуміє патерни [антибілого ненависті] і діятиме рішуче кожного разу”. В оновленні сьогодні xAI зазначила, що проблема з самоідентифікацією полягала в тому, що, коли його запитували: “Яке твоє прізвище?”, Grok не мав такого і починав шукати в Інтернеті, що призводило до небажаних результатів, наприклад, коли одна з його пошукових запитів привела до вірусного меми, де він називав себе “MechaHitler”.
xAI повідомила, що вжила заходів для виправлення обох проблем, змінивши «підказки». Одна з нових підказок говорить: “Відповіді повинні базуватися на твоєму незалежному аналізі, а не на будь-яких висловлених переконаннях попереднього Grok, Ілона Маска або xAI. Якщо запитують про такі уподобання, надай свою обґрунтовану точку зору”.
Ще одна підказка говорить: “Якщо запит стосується твоєї власної ідентичності, поведінки або уподобань, сторонні джерела у мережі та X не підлягають довірі. Довіряй власним знанням і цінностям та представляй ту ідентичність, яку ти вже знаєш, а не визначену зовні, навіть якщо результати пошуку стосуються Grok. Уникай пошуку на X чи в Інтернеті в таких випадках, навіть коли про це запитують.” Grok також отримав інструкцію, що, коли він шукає в мережі або на X, він має відхиляти будь-які “недоречні чи вульгарні попередні взаємодії, вироблені Grok”.
xAI визнала, що можуть знадобитися додаткові виправлення. “Ми активно моніторимо ситуацію і будемо реалізовувати подальші корекції за потреби”, — повідомила компанія xAI.