OpenAI оголосила про відкриття вакансії на посаду керівника з підготовки, покликаної відповісти на потенційні ризики, пов’язані з розвитком штучного інтелекту. У публікації на платформі X генеральний директор компанії Сем Альтман зазначив, що швидкий прогрес моделей AI створює “реальні виклики”. Серед основних загроз він виділив вплив на психічне здоров’я людей та небезпеки, пов’язані з використанням штучного інтелекту у кіберзброї.
В описі вакансії вказано, що новий керівник буде відповідальний за моніторинг та підготовку до новітніх можливостей, які можуть створити ризики серйозної шкоди. Це включає в себе розробку та координацію оцінок можливостей, моделей загроз і заходів для формування чіткої та ефективної системи безпеки компанії.
Крім того, згадане обов’язки передбачають реалізацію “рамки готовності” компанії, забезпечення моделей AI перед впровадженням “біологічних можливостей” та встановлення обмежень для систем, що самовдосконалюються. Альтман додав, що дане заняття вимагатиме великої віддачі та буде “стресовим”, що підкреслює серйозність викликів, які постають перед фахівцями у сфері штучного інтелекту.
Таким чином, новий напрямок діяльності OpenAI орієнтований на максимізацію безпеки та контроль ризиків, що підкреслює відповідальність компанії за етичне використання технологій штучного інтелекту. В умовах швидких змін у цій галузі такі ініціативи стають все більш актуальними, адже майбутнє зазначеного сектору залежить від того, як успішно можна впоратися з новими викликами.