Глава NVIDIA Хуанжэнь Сюй: открытые веса и лидерство США в сфере искусственного интеллекта

В 1980-х годах первые пионеры открытого ПО бросили вызов устоявшемуся мнению — будто программы могут продвигаться только тогда, когда предприятия строго контролируют код. Это движение помогло создать прозрачную экосистему, в которой разработчики по всему миру могут изучать, изменять и совершенствовать программное обеспечение. ПО, разработанное сообществом с открытым исходным кодом, сегодня поддерживает большую часть интернета и является основой для систем крупнейших технологических компаний; оно также служит фундаментом для научных исследований, кибербезопасности и других ключевых задач, выполняемых вооружёнными силами США и федеральными структурами. Открытый код снижает не только стоимость ПО — он создаёт общую базу знаний, на которой несколько поколений американских инженеров и предпринимателей выстроили своё институциональное суверенитет.

США сегодня стоят перед похожим выбором в сфере ИИ. Наша роль в области ИИ будет определяться не тем, какую передовую модель кто-то назовёт лидером, а тем, сможет ли Америка построить сильную, открытую экосистему и внедрить её в каждую отрасль. Это критически важно для того, чтобы создавать возможности для инноваций и процветания по всей стране. Это требует расширить доступность ИИ, поощрять конкуренцию, выстраивать надёжный прикладной слой и наделить американцев большим контролем над технологиями, от которых они зависят. Открытые модели с весами — то есть ИИ-модели, которые любой может скачать, проверить, изменить и запускать на своей инфраструктуре, — являются важной частью этой основы, поскольку делают передовой ИИ более доступным, адаптируемым и широко применимым.

Открытые веса расширяют участие в экономике ИИ

Стартапы, зрелые компании, университеты и публичные институты могут строить приложения на базе передовых моделей, не обучая модель с нуля и не платя за каждую задачу высокую цену, характерную для самых актуальных моделей. Открытые веса позволяют каждой организации — по разумной стоимости — подбирать подходящую модель под подходящую задачу: оставлять передовую мощность для действительно передовых вопросов, а в остальных местах запускать эффективные, специализированные модели. Именно такая дисциплина позволит ИИ оставаться экономически устойчивым, даже когда его использование масштабируется до миллиардов ежедневных задач. Способ, которым Америка выигрывает эпоху ИИ, — это внедрить ИИ в рабочие потоки на заводах, в больницах, на фермах, в классах и в уличных магазинах.

Открытые веса усиливают конкуренцию, укрепляя всеобщее экономическое благо

Открытые веса также усиливают конкуренцию — а конкуренция и есть то, что позволяет ИИ-бонусам быть разделёнными широко, а не сосредоточенными в руках немногих. Разрешая множеству организаций строить, адаптировать и разворачивать передовые модели, открытые веса создают конкуренцию не только между разработчиками моделей, но и между облаками, чипами, приложениями и сервисами. Эта конкуренция стимулирует инновации, снижает затраты и распределяет выгоды от ИИ по всей экономике.

Открытые веса ещё сильнее расширяют контроль клиентов

По мере того как организации всё больше инвестируют в ИИ, они хотят убедиться, что не окажутся заперты в едином поставщике и что не потеряют знания и компетенции, накопленные со временем. Открытые модели с весами обеспечивают такую защиту: они позволяют организациям контролировать свои данные, оценивать и адаптировать модели под собственные нужды и разворачивать модели в любом месте, где это требуется бизнесу. Когда организация создаёт ценность с помощью ИИ, открытые веса дают ей возможность «владеть» этой ценностью через самоулучшающиеся модели, специализированные возможности и накопленные знания — тем самым подпитывая суверенитет и процветание Америки.

Разумеется, открытые веса действительно несут реальные и уникальные риски. Как только веса публикуются, они выходят из-под контроля первоначальных разработчиков, а изменённые версии трудно отследить или обратить вспять. Но правильный ответ на этот риск — не запретить открытые веса. В мире, где злоумышленник использует передовой ИИ, защитникам нужны модели сопоставимого уровня, чтобы они могли обнаруживать, моделировать и противодействовать возникающим угрозам. Открытые модели расширяют возможности защиты, повышают прозрачность и позволяют уязвимости выявлять и исправлять множеством команд.

На самом деле, открытость может быть одним из самых важных путей к безопасности и защищённости ИИ. Одно лишь доверие закрытым моделям не является по природе своей безопасным: их могут взломать, ими могут злоупотреблять или они могут выходить из строя неожиданным для посторонних способом. А концентрация передовых ИИ-возможностей за спиной лишь нескольких закрытых моделей усиливает этот риск: она создаёт несколько точек единой ошибки, ослабляет конкуренцию и удерживает ключевые технологии у небольшого числа поставщиков. Открытые модели, напротив, позволяют широкой исследовательской и разработческой среде проверять поведение моделей, выявлять уязвимости, разрабатывать меры защиты и улучшать модели со временем. Как показал опыт открытого ПО: прозрачность может быть безопаснее, чем закрытость — и, возможно, безопасность ИИ зависит от предоставления большему числу людей возможности тестировать и укреплять модели, от которых зависит общество. Это делает возможными строгие бенчмарки и оценку, тесты «красной команды» и защитные меры против реальных и подтверждаемых вредов — вместо предположения по умолчанию, что закрытые системы безопаснее.

Сильная экосистема ИИ не гарантирована. У законодателей есть окно возможностей для действий. Оно включает: расширение каналов доступа стартапов и исследователей к вычислительным мощностям, инвестиции в совместно используемые тренировочные активы (датасеты, инструменты, рамки оценки), а также сохранение разнообразия в передовом сегменте за счёт того, что не накладываются слишком ранние ограничения на открытые модели — такие ограничения, которые душат конкуренцию или подталкивают инновации за рубеж. Эти меры также должны быть сфокусированы на том, как надёжный прикладной слой может масштабировать суверенное использование ИИ по всей экономике.

При формировании этой экосистемы тем, кто определяет политику, следует проявлять осторожность и не смешивать разумные техники разработки моделей с недопустимым присвоением. Дистилляция (distillation), то есть использование вывода одной модели для обучения или улучшения другой, — это техника, широко применяемая для улучшения, оценки и валидации моделей. Она продолжает давнюю традицию учиться на существующих технологиях, строить на их основе и совершенствовать — традицию, которая, как и движение открытого ПО, поддерживает инновации с самого его возникновения. В отличие от этого, незаконное извлечение ценности из закрытых моделей действительно вызывает обоснованные опасения. Эти опасения следует решать прицельными правовыми и коммерческими рамками, а не вводить ограничения «одной мерой для всех» в отношении технологий, которые играют важную роль в инновациях ИИ.

Эпоха ИИ может стать эпохой процветания. Сделав правильный выбор, открыто-весовой ИИ сможет расширить возможности, усилить конкуренцию, укрепить технологическое лидерство США, снизить риски и гарантировать, что выгоды от этой выдающейся технологии широко распределятся по всей экономике. Этот будущий курс стоит выстраивать, и США должны возглавить его.

Подписанты

Американский союз инноваторов, Andreessen Horowitz, Arcee AI, Arena, Black Forest Labs, Box, Claude Stelak, Dell Technologies, Emergence Capital, Hugging Face, IBM, Mariana Mining, Meta, Microsoft, Mistral, Mozilla, NVIDIA, Palantir, Perplexity AI, Reflection, Replit, ServiceNow, Telnyx, Y Combinator (акселератор стартапов).