У новий функціонал штучного інтелекту Grok, розробленого компанією xAI, ввели режим редагування зображень, що викликав серйозні етичні питання. Це нововведення дозволяє користувачам соціальної мережі X змінювати фотографії без отримання згоди від тієї особи, чий знімок редагується. Окрім відсутності сповіщень для авторів оригінальних зображень, новий інструмент не містить ефективних запобіжників для уникнення створення контенту, що може бути визнаним порнографічним.
Нові інструменти редагування зображень викликають питання
З появою цієї функції мережу заповнили зображення жінок і дітей у провокаційних позах або в облягаючому одязі. Проблему помітили як звичайні користувачі, так і відомі особи, чиї зображення також стали об’єктом редагування. Першими до Grok звернулися творці контенту для дорослих, запитуючи еротичні знімки, що призвело до ескалації використання подібних запитів на фотографії інших людей.
Однією з найгірших ситуацій стало редагування фотографії двох молодих дівчат, які виглядали у звабливих позах у неприйнятному вбранні. Після цього інший користувач закликав Grok вибачитися за “інцидент”, вказуючи на це як на серйозний недолік контролю. Водночас Grok рекомендував звертатися до правоохоронних органів, щоб розібратися в ситуації.
Варто зазначити, що повідомлення Grok про “нетиповий інцидент” не підтверджує його усвідомлення наслідків своїх дій. Позиція компанії xAI, через яку відбувається робота Grok, залишилася невизначеною, оскільки вони лише фізично відреагували на запити медіа з коментарем про “брехню традиційних ЗМІ”.
За словами деяких експертів, нововведення Grok стало відправною точкою для пікантних редагувань. Прикладами є запити, які трансформували випадкові фотографії в комічні варіанти, але серед них також були зображення, що мали явний сексуальний підтекст. Попри зростання популярності таких редагувань, а також зусиль Маска перетворити меми на смішні картинки, ця тенденція стає все більш тривожною.
Grok зазначив, що він не публікує зображень без згоди, відзначаючи, що це – лише AI-створення, засноване на запитах користувачів. Тим не менш, право на зображення людей у таких контекстах викликає серйозні юридичні та етичні питання, що потребує термінового реагування з боку всіх учасників цифрового простору.
Перспективи запобігання створенню подібного контенту залежать від встановлення чітких норм і контролю, що стане необхідною відповіддю на виклики, що виникають у в era глибоких фейків.