Коли відбуваються значні події, багато людей поспішають знайти інформацію в Google. Зростає ймовірність, що інформація, яку вони перші бачать, є результатом роботи AI Overview – функції, що вже здобула репутацію через численні помилки. Після трагічної авіакатастрофи в Індії результати пошуку Google поширюють дезінформацію, стверджуючи, що в аварії було задіяно літак Airbus, хоча насправді це був Boeing 787.
Сучасні мандрівники стали уважнішими до моделей літаків після серії аварій з літаків Boeing 737, які сталися кілька років тому. Очікується, що запити щодо авіакатастроф зростуть у найближчі дні, адже повідомляється, що більше 200 пасажирів і членів екіпажу загинули в катастрофі рейсу Air India 171. Принцип роботи генеративного AI може призвести до того, що деякі користувачі, які шукають подробиці, можуть отримати неправильне враження з результатів Google.
Не всі запити отримують відповіді від AI, проте Google постійно розширює цю функцію з моменту її запуску минулого року. Один із користувачів Reddit виявив тривожну плутанину, шукаючи інформацію про катастрофи з літаками Airbus. AI Overview, здатний впоратися з численними результатами, що висвітлюють катастрофу Air India, впевнено (і помилково) вказав, що це був Airbus A330, який впав незабаром після злету. Ми також провели кілька подібних пошуків — деякі результати AI говорять про Boeing, інші – про Airbus, а деякі поєднують обидва варіанти. Це справжній хаос.
Але чому Google згадує аварію Air India в контексті Airbus? На жаль, передбачити, чи отримаєте ви AI Overview, який звинувачує Boeing чи Airbus, неможливо — генеративний AI є недетермінованим, тобто результат змінюється щоразу, навіть при ідентичних запитах. Наша найкраща здогадка щодо основної причини полягає в тому, що багато статей про катастрофу Air India згадують Airbus як головного конкурента Boeing. AI Overviews фактично підсумовує ці результати, і програма йде неправильним шляхом, оскільки їй не вистачає здатності розуміти, що є правдивим.