Калифорния ужесточает правила контрактов на ИИ по мере роста конфликта с администрацией Трампа

Кратко

• Калифорния предписывает усилить меры защиты для компаний ИИ, стремящихся получить контракты штата.
• Это решение принимается на фоне того, как администрация Трампа продвигает общенациональные стандарты ИИ.
• Чиновники штата разработают правила закупок, которые будут затрагивать вопросы, включая предвзятость, злоупотребления и риски для гражданских прав.

Конфликт между Вашингтоном и штатами по вопросам политики в области искусственного интеллекта обострился в понедельник после того, как губернатор Калифорнии Гэвин Ньюсом подписал указ, требующий от компаний ИИ более надежных мер защиты, если они хотят получить контракты штата.

Согласно этому указу, компании, продающие системы ИИ государственным учреждениям Калифорнии, должны будут продемонстрировать наличие политики, предотвращающей злоупотребления, а также защищающей приватность, безопасность и гражданские права.

«Калифорния всегда была родиной инноваций. Но мы также понимаем и обратную сторону: в неправильных руках инновации могут быть использованы во вред — так, что люди окажутся в опасности», — сказал Ньюсом в заявлении. «Калифорния лидирует в ИИ, и мы собираемся использовать каждый имеющийся у нас инструмент, чтобы гарантировать: компании защищают права людей, а не эксплуатируют их и не подвергают их вреду. Пока другие в Вашингтоне разрабатывают политику и создают контракты в тени злоупотреблений, мы сосредоточены на том, чтобы сделать это правильно».

Указ Ньюсома предписывает Агентству по операциям правительства штата разработать стандарты закупок для поставщиков ИИ, которые будут охватывать такие вопросы, как незаконное создание контента, предвзятость моделей, а также риски для гражданских прав и свободы слова. Указ также предписывает Департаменту технологий Калифорнии разработать рекомендации по нанесению водяных знаков на изображения, сгенерированные ИИ, и на сфальсифицированное видео.



Этот указ ставит Калифорнию в конфликт с усилиями администрации Дональда Трампа по созданию национальных стандартов ИИ и ограничению регулирования на уровне штатов. В начале этого месяца администрация Трампа опубликовала рамочную национальную политику в области искусственного интеллекта, призывающую Конгресс установить федеральные стандарты и сократить то, что официальные лица описывают как «лоскутное одеяло» из регулирований ИИ на уровне штатов.

Кевин Фрейзер, приглашенный научный сотрудник Института Като, заявил, что этот спор отражает давний конституционный баланс между полномочиями штатов и федеральной властью.

«Любой технологический прорыв — от парохода до сверхинтеллекта — поднимает ключевые вопросы о том, как распределять регулирующие полномочия между штатами и федеральным правительством», — сказал Фрейзер Decrypt. «Конституция дает ясный ответ: федеральное правительство должно лидировать в вопросах экономической и национальной безопасности, а также в тех вопросах, которые требуют единого ответа; штаты могут осуществлять свои традиционные полицейские полномочия в пределах своих границ».

Фрейзер назвал указ Ньюсома «прекрасным примером федерализма в действии» и сказал, что компании, которые не принимают требования Калифорнии, могут просто не продавать в штат.

«Тем временем Конгресс все еще находится в позиции задать условия темпа и направления амбиций страны в области ИИ», — сказал он.

Куинн Анекс-Рейс, старший аналитик по вопросам политики в Центре демократии и технологий, заявил, что размер и покупательная способность Калифорнии означают: она может повлиять на то, как компании проектируют и тестируют системы ИИ, если они хотят продавать в штат.

«Государственные контракты очень ценны для компаний», — сказал Анекс-Рейс Decrypt. «Это огромная часть бизнеса для разработчиков технологий в целом и растущий канал бизнеса для разработчиков ИИ в частности».

Он сказал, что правила закупок — один из самых эффективных способов, с помощью которых правительства могут формировать то, как системы ИИ разрабатываются и оцениваются.

«Процесс закупок — действительно очень важное место, чтобы обращать внимание», — сказал Анекс-Рейс. «Потому что именно это — наиболее важное место, где штат может установить гарантии и ожидания относительно того, как поставщики разрабатывают свои инструменты».

Ньюсом проявился как национальная фигура среди демократов и потенциальный кандидат в президенты на 2028 год. Недавний опрос Politico–UC Berkeley Citrin Center показал, что он опережает бывшего вице-президента Камалу Харрис на 14 пунктов среди вероятных избирателей демократических праймериз в Калифорнии.

Политическое столкновение вокруг регулирования ИИ ставит его в прямой конфликт с администрацией Трампа, поскольку по мере усиления дискуссий о том, кто должен устанавливать правила, управляющие этой технологией, стороны все больше расходятся. Прошлым летом администрация Трампа приказала федеральным ведомствам избегать контрактов с тем, что она называла моделями «woke AI», и закупать системы, которые демонстрируют идеологическую нейтральность.

Несмотря на это, Анекс-Рейс сказал, что вопрос о регулировании ИИ больше, чем политика.

«Это действительно не должно быть политическим вопросом», — сказал Анекс-Рейс. «Речь действительно о том, чтобы убедиться, что деньги налогоплательщиков не тратятся впрасно, и что инструменты, которые покупает наше правительство, работают».

Ежедневная рассылка Daily Debrief

Начинайте каждый день с главных новостей прямо сейчас, а также с оригинальных материалов, подкаста, видео и многого другого.

Ваш Email

Получить!

Получить!