Використання штучного інтелекту для скорочення контрактів у справі ветеранів викликає побоювання

У той час, коли адміністрація Трампа готувалася до скасування контрактів у Міністерстві у справах ветеранів, чиновники звернулися до програміста без досвіду в охороні здоров’я або державному управлінні за порадою.

Цей інженер, який працював у Міністерстві підвищення ефективності уряду, швидко створив інструмент штучного інтелекту, щоб визначити, які послуги від приватних компаній є менш важливими. Він позначив ці контракти терміном “MUNCHABLE”.

Програма, заснована на застарілих і недорогих моделях штучного інтелекту, давала результати з істотними помилками. Наприклад, вона збільшувала розміри контрактів, часто неправильно їх інтерпретуючи. Вона помилково вважала, що більше тисячі контрактів кожен коштує 34 мільйони доларів, в той час як насправді деякі з них обходилися всього в 35 тисяч доларів.

Відзначені контракти

Інструмент DOGE виявив більше 2000 контрактів для “споживання”. Кількість скасованих контрактів залишилась невизначеною, оскільки рішення адміністрації Трампа щодо контрактів у сфері ветеранів залишалися непомітними. Міністерство використовує підрядників з багатьох причин, включаючи підтримку лікарень, дослідження та інші послуги для хворих ветеранів.

Чиновники Міністерства заявляють, що скасували близько 600 контрактів загалом. Конгресмени-демократи постійно запитують про конкретні деталі скасованих контрактів, але безрезультатно.

Визначені контракти та їх наслідки

Ми виявили щонайменше два десятки контрактів у списку DOGE, які вже були скасовані. Серед них був контракт на обслуговування пристрою секвенування генів для розробки кращих методів лікування раку. Інший контракт стосувався аналізу кров’яних зразків в підтримку досліджень Міністерства. Інший – на надання додаткових інструментів для оцінки та покращення обслуговування, яке надають медсестри.

Програма була передана багатьом експертам у сфері закупівель і штучного інтелекту, які всі зазначили, що алгоритм має суттєві недоліки. Багато критиків вказали на проблемність використання ШІ для управлінських рішень у Міністерстві.

Цари Когліаносе, професор права та політичних наук в Університеті Пенсільванії, відзначив, що він стурбований використанням загальнодоступних моделей штучного інтелекту для таких складних завдань. “Я не думаю, що ці моделі мають високу надійність для чогось так складного”, – зазначив він.

Визнання помилок

Програміст, залучений до роботи в DOGE, визнав недоліки в коді. “Я вважаю, що були помилки”, – сказав він, пройшовши декілька тижнів на посаді. “Я б ніколи не рекомендував комусь використовувати мій код без перевірки”.

Попри досвід роботи в IT і підприємництві, він не мав формальної підготовки в сфері ШІ.

Недоліки та виклики

Лавінгія не встиг заглибитися в те, як Міністерство працює з ветеранами. Водночас його досвід в бізнесі відповідав стратегії адміністрації Трампа щодо впровадження штучного інтелекту.

Коли час був обмежений, він завершив першу версію програми на другий день роботи, використовуючи ШІ для генерації коду. Прес-секретар Міністерства прокоментував, що вони, наскільки знають, вперше провели такий огляд контрактів.

Лавінгія також зазнав технологічних обмежень, коли його код створював помилки через використання застарілих моделей ШІ. Алгоритм, зокрема, не міг коректно оцінити важливість контрактів, що призвело до помилок у даних.

Подальші дії

Міністерство забезпечує оцінку всіх 76 000 контрактів, щоб упевнитися, що вони вигідні для ветеранів. Однак питання про те, чи продовжать використовувати інструмент “munchable”, залишається відкритим.

Оскільки держслужбовці шукають прозорість у скороченні витрат, один з підрядників Міністерства звернувся до Лавінгії за поясненнями щодо виявлених контрактів, намагаючись дізнатися, чому їх скасували.

На завершення Лавінгія зауважив, що люди в Міноборони все ще є тими, хто відменяє контракти, однак прозорість у таких рішеннях є необхідною.