Сэм Альтман объявил о развертывании модели ИИ OpenAI в секретной сети США, вызвав опасения по поводу безопасности ИИ и военной этики

28 февраля Сэм Альтман объявил на платформе X, что OpenAI достигла соглашения с Военным министерством США о развертывании своих моделей искусственного интеллекта в засекреченных сетях США. Альтман отметил, что во всех взаимодействиях Военное министерство уделяет большое внимание безопасности ИИ и надеется добиться наилучших результатов применения через сотрудничество.

Альтман подчеркнул, что безопасность и инклюзивность искусственного интеллекта — основная миссия OpenAI. Два ключевых принципа безопасности, выдвинутых компанией — запрет массового наблюдения внутри страны и обеспечение человеческой ответственности за применение силы — были одобрены Военным министерством и закреплены в законах и политике. Эти принципы также включены в формальные соглашения между сторонами.

Для обеспечения безопасной работы модели OpenAI развернёт функциональное дополненное устройство (FDE) и будет работать только в облачных сетях. Кроме того, обе стороны планируют создать технические меры защиты для предотвращения злоупотреблений моделей или аномального поведения. Олтман также призвал Министерство войны США предоставить одинаковые условия сотрудничества всем компаниям ИИ, подчеркнув важность честной конкуренции и общей ответственности.

В совокупности это соглашение не только знаменует формальное применение передовых технологий искусственного интеллекта правительством США в чувствительных сетях, но и подчёркивает практическое внедрение безопасности ИИ и этической ответственности в военных ситуациях. Олтман отметил, что OpenAI продолжит работать над тем, чтобы искусственный интеллект приносил пользу всему человечеству, одновременно продвигая ответственные технологии в сложной, хаотичной и даже опасной реальной среде.

Сотрудничество привлекло широкое внимание в отрасли и, как считается, открыло новые пути для применения ИИ в оборонной и критической инфраструктуре, а также вызвало обсуждения безопасности автономных систем вооружения и ответственности за принятие решений человеком.