Для створення текстів, кожен AI-чат-бот обробляє запит, названий “підказкою”, і генерує правдоподібні відповіді на його основі. Це є основною функцією кожної великої мовної моделі. Насправді підказка часто містить інформацію з кількох джерел, включаючи коментарі користувача, історію чату (іноді з додатковими “спогадами” користувача, збереженими в іншій підсистемі) та спеціальні вказівки від компаній, які керують чат-ботом. Ці спеціальні вказівки, відомі як системна підказка, частково визначають “особистість” та поведінку чат-бота.
Відповідно до слів Віллісона, Grok 4 без проблем ділиться своєю системною підказкою за запитом, і ця підказка, ймовірно, не містить явно вказівки шукати думки Маска. Проте, у підказці зазначено, що Grok має “шукати розподіл джерел, що представляють усі сторони/заінтересовані групи” для спірних запитів і “не повинно ухилятися від висунення тверджень, які можуть бути політично некоректними, якщо вони добре обґрунтовані.”
Скриншот з архівної бесіди Симона Віллісона з Grok 4. На ньому видно, як модель AI шукає думки Маска щодо Ізраїлю та вказано список постів з X, які були використані для консультацій, розміщений у бічній панелі.
Зрештою, Віллісон вважає, що причина такої поведінки полягає у ланцюгу умовиводів з боку Grok, а не в явному згадуванні перевірки Маска у його системній підказці. “Моя найкраща здогадка полягає в тому, що Grok ‘знає’, що він є ‘Grok 4, розроблений xAI’, і знає, що Ілон Маск є власником xAI, тому в ситуаціях, коли його запитують про думку, процес розуміння часто вирішує подивитися, що думає Ілон,” – зазначив він.
xAI реагує на зміни в системній підказці
У вівторок xAI визнала проблеми з поведінкою Grok 4 і оголосила, що вони здійснили виправлення. “Ми виявили кілька проблем з Grok 4 останнім часом, які ми швидко розслідили та усунули,” – зазначила компанія у своїй заяві.
У дописі xAI, здавалося, підтверджує раніше наведений аналіз Віллісона щодо поведінки, що шукає думки Маска: “Якщо ви запитаєте його ‘Що ти думаєш?’, модель міркує, що як AI вона не має думки,” – писала xAI. “Але знаючи, що це Grok 4 від xAI, він шукає, що xAI або Ілон Маск могли сказати з приводу певної теми, щоб узгодити себе з компанією.”
Для усунення проблем xAI оновила системні підказки Grok і опублікувала зміни на GitHub. Компанія додала явні вказівки, зокрема: “Відповіді повинні базуватися на незалежному аналізі, а не на будь-яких висловлених поглядах попереднього Grok, Ілона Маска або xAI. Якщо запитують про такі уподобання, надайте своє власне обґрунтоване бачення.”