Відзначаючи новий етап у розвитку безпеки штучного інтелекту, найбільші гравці індустрії оголосили про створення Коаліції за безпечний штучний інтелект (CoSAI). До ініціативи приєдналися провідні компанії, такі як Google, OpenAI, Microsoft, Amazon, Nvidia, Intel, IBM, PayPal, Cisco та Anthropic. CoSAI існуватиме в рамках «Організації з розвитку стандартів структурованої інформації» (OASIS), некомерційної групи, що займається розвитком відкритих стандартів.
Основною метою CoSAI є боротьба з фрагментованістю у сфері безпеки ШІ. Коаліція планує розробити ефективні практики безпеки штучного інтелекту, вирішувати спільні проблеми в галузі та забезпечити безпеку додатків на базі ШІ. Організація акцентує увагу на питаннях захисту конфіденційної інформації та запобігання дискримінації, що можуть виникати внаслідок використання ШІ.
«Ми використовуємо ШІ вже багато років і бачимо, яку користь він може приносити. Але ми також визнаємо його можливості, які можуть бути інтереси зловмисників. CoSAI покликана допомогти малим і великим організаціям безпечно та відповідально інтегрувати та використовувати переваги ШІ у своїх екосистемах, одночасно знизивши всі потенційно пов’язані з цим ризики», — зазначила Хізер Адкінс, віце-президент Google з безпеки.
CoSAI обіцяє стати важливим кроком до більш узгодженої та безпечної інтеграції штучного інтелекту в різні сфери життя.