У понеділок губернатор Каліфорнії Гевін Н’юсом підписав закон, відомий як Закон про прозорість у галузі штучного інтелекту, який вимагає від компаній, що працюють у сфері AI, розкривати свої практики безпеки, проте не зобов’язує їх проводити фактичне тестування на безпеку. Закон передбачає, що компанії з річним доходом не менше 500 мільйонів доларів повинні публікувати протоколи безпеки на своїх вебсайтах та звітувати про інциденти до державних органів. Однак він не має таких же жорстких механізмів примусу, які містив законопроект, який Н’юсом ветував минулого року після активних лобістських дій технологічних компаній проти нього.
Цей законопроект, що отримав номер S.B. 53, є заміною попередньої спроби сенатора Скотта Вайнера щодо регулювання AI, знаної як S.B. 1047, яка вимагала б тестування на безпеку та наявності “вимкнення” для систем AI. Натомість новий закон просить компанії описати, як вони впроваджують “національні, міжнародні стандарти та найкращі практики галузі” у розробку своїх AI-систем, без конкретизації, що ці стандарти собою являють, або вимоги до незалежної верифікації.
«Каліфорнія продемонструвала, що ми можемо встановлювати регуляції для захисту наших спільнот, одночасно забезпечуючи розвиток зростаючої індустрії AI,» – заявив Н’юсом, хоча справжні заходи корекції цього закону в значній мірі залишаються добровільними, за винятком базових вимог щодо звітності.
Згідно з інформацією уряду Каліфорнії, в штаті розташовані 32 з 50 найкращих компаній світу в галузі AI, а понад половина глобального капіталовкладення в стартапи AI та машинного навчання у минулому році припала на компанії з району затоки. Тому, хоча нещодавно підписаний закон є законодавством на рівні штату, те, що відбувається у сфері регулювання AI в Каліфорнії, вплине на набагато ширші аспекти як законодавчої практики, так і на компанії, які створюють AI-системи, що використовуються по всьому світу.
Прозорість замість тестування
Якщо ветований S.B. 1047 вимагав тестування на безпеку та наявність вимкнення для систем AI, новий закон зосереджується на розкритті інформації. Компанії повинні звітувати про те, що держава називає “потенційно критичними інцидентами безпеки” до Офісу з надзвичайних ситуацій Каліфорнії та забезпечувати захист для працівників, які сигналізують про проблеми безпеки. Закон визначає катастрофічний ризик досить вузько, як інциденти, які можуть призвести до 50+ загиблих або завдати шкоди на суму понад 1 мільярд доларів через допомогу в озброєнні, автономні злочинні дії або втрату контролю. Генеральний прокурор може накладати адміністративні штрафи до 1 мільйона доларів за порушення цих вимог.