TikTok зазначає, що використовує як технології, так і людських модераторів для виявлення контенту, який порушує правила. Проте велика кількість завантажень ускладнює швидке модерацію. Незважаючи на те, що расистські відео набрали багато переглядів, представник TikTok повідомив, що більше половини облікових записів, згаданих у звіті MediaMatters, були заблоковані за порушення політики ще до публікації звіту, а решта облікових записів наразі також видалені.
Щодо Google, то у компанії існує детальна Політика заборонених використань, яка забороняє використовувати її сервіси для поширення мови ненависті, переслідування, цькування, залякування та зловживання. Відео, які виявили аналітики MediaMatters, схоже, всі потрапляють під одну чи кілька цих категорій. У ідеальному світі Veo 3 не мав би створювати такі відео, але неоднозначність запитів і нездатність штучного інтелекту розуміти тонкощі расистських тропів (наприклад, використання мавп замість людей у деяких відео) дозволяють обходити правила.
TikTok, будучи найбільшим соціальним відео-сервісом у світі, є природним середовищем для поширення подібних відео. Проте це не обмежується лише TikTok. X (раніше Twitter) отримав репутацію за досить обмежену модерацію, що призвело до вибуху ненависного контенту, створеного за допомогою штучного інтелекту. Ця проблема може ще більше загостритись найближчим часом. Google планує інтегрувати Veo 3 в YouTube Shorts, що може ще більше полегшити поширення аналогічного контенту на платформі.
TikTok та Google мають чіткі заборони на цей контент, які мали б запобігти його переглядам мільйонами користувачів у соціальних мережах. Проте нагляд за цими політиками виявляється недостатнім. TikTok, очевидно, не в змозі впоратися з потоком відеозавдань, а запобіжники Google виглядають недостатніми для блокування створення подібного контенту. Ми зв’язались із Google, щоб дізнатися про функції безпеки Veo 3, але поки що не отримали відповіді.
З моменту появи генеративного штучного інтелекту люди використовували його для створення розпалюючого та расистського контенту. Google та інші завжди говорять про захисні механізми для запобігання зловживанням, але не можуть виявити все. Реалістичність Veo 3 робить його особливо привабливим для тих, хто прагне поширювати ненависні стереотипи. Можливо, жодні запобіжники в світі не зможуть зупинити це.