Маск: ИИ может уничтожить человечество, но я всё равно сяду и получу удовольствие от путешествия

作者：赵颖；来源：华尔街见闻

На фоне неостановимой AI-волны Илон Маск предложил радикальный график и прагматичный план по регулированию: ожидается, что AI превзойдёт человеческий интеллект в течение пяти лет, а ведущие компании в отрасли должны уже сейчас создать механизм «взаимной проверки» моделей, чтобы подстраховать риски безопасности.

На днях глава Tesla Илон Маск дал интервью главному редактору The Economist Zanny Minton Beddoes. В ходе беседы Маск не только предложил свежую оценку сроков и потенциальных рисков, связанных с тем, что AI превзойдёт человека, но и впервые подробно изложил свою концепцию регулирования для компаний, разрабатывающих нынешние топовые AI-модели, не скрывая и обсуждая личные счёты между ключевыми фигурами калифорнийских AI-гигантов.

AI в течение 5 лет превзойдёт человеческий интеллект, вероятность конца человечества — 10%–20%, и ему «придётся влезть в корабль»

Рынок сейчас особенно пристально следит за графиком внедрения AGI. На это Маск дал предельно ясный и агрессивный прогноз: «Примерно через 5 лет интеллектуальный уровень искусственного интеллекта может превзойти человеческий».

Появление «взрывного» интеллекта означает утрату контроля. Отвечая на вопрос, сможет ли человечество ещё через 10 лет удерживать ситуацию под контролем, Маск прямо сказал, что «вряд ли». Он использовал жёсткую, но наглядную биологическую аналогию, чтобы объяснить эту логику: «Если разрыв в уровне интеллекта между искусственным интеллектом и людьми существенно больше, чем разрыв между искусственным интеллектом и шимпанзе, то трудно представить, что доминировать будет шимпанзе. По сути, мы просто более поздняя версия шимпанзе с точки зрения эволюции. Не так давно мы ещё ели бананы в джунглях».

Ранее Маск неоднократно предупреждал, что AI может привести к концу человечества. В этом интервью, когда его спросили, остаётся ли вероятность того, что «роботы-убийцы» приведут к концу человечества, на уровне 10%–20%, Маск не стал отрицать этот риск, но выбрал оптимистичный взгляд с ноткой фатализма.

Он привёл очень кинематографичную аналогию с запуском ракеты. Когда ведущий спросил: «Если бы у вашей ракеты была вероятность 10%–20% взорваться и убить вас, вы бы сели в неё?», Маск ответил утвердительно: «Да. Всё, что мы можем сделать, — это постараться снизить вероятность плохого исхода».

Он также пояснил реалистичную логику того, почему ему «пришлось влезть в корабль»: «Развитие AI и роботов, похоже, не остановить. Даже если бы я хотел прекратить это, я не смог бы». Он считает, что раз уж нельзя остановить, лучший выбор — быть внутри процесса и надеяться повлиять на направление развития: «Самый вероятный результат — принести огромную пользу всем людям». Исключая крайне экстремальные сценарии вроде глобальной термоядерной войны, Маск предполагает, что примерно к 2036 году человечество с наибольшей вероятностью войдёт в «эпоху чрезвычайного изобилия материальных благ, когда каждый сможет получить всё, что он хочет».

Призыв создать AI-механизм «взаимной проверки»: использовать конкурентную борьбу, чтобы сохранять честность

По мере того как OpenAI, Google, Anthropic и другие AI-гиганты всё сильнее разгоняют гонку вооружений за базовые AI-модели, вопрос эффективного регулирования становится главным фокусом рынка. В этом интервью Маск предложил очень приземлённый вариант: пусть конкуренты взаимно проверяют модели.

Маск рассказал, что он вёл долгие разговоры с основателем DeepMind Демисом Хассабисом и считает, что самые срочные шаги — это «чтобы ведущие AI-компании хотя бы регулярно устраивали встречи или обмены, обсуждая любые вопросы, связанные с безопасностью, например раз в неделю или раз в две недели».

Маск подчеркнул, что правительственным чиновникам не хватает глубокой технической базы, поэтому им сложно оценить, стоит ли выпускать тот или иной передовой модуль. Следовательно, нужно опираться на игру интересов между крупными игроками, чтобы обеспечить безопасность: «Для конкурентов, если дать им время — хотя бы пару недель — чтобы проверить новую модель, они смогут обнаружить проблемы и тем самым стимулировать всех конкурентов оставаться честными».

Ключевая логика этого механизма в том, что «в компаниях с жёсткой конкуренцией люди способны осознать, что некоторые вещи могут представлять собой риск для безопасности, поэтому они не будут колебаться указывать, что нужно отложить выпуск модели конкурента». Если компания не станет устранять риски, тогда уже потребуется вмешательство государства. Маск подчеркнул, что такой механизм нужно создать немедленно: в отраслевых обсуждениях «в течение шести месяцев» — слишком долго, потому что сейчас прорывы в AI происходят по нескольку штук за один день.

Отборный шквал критики OpenAI за отход от первоначального замысла, и надежда ради блага мира отложить личные разногласия

Говоря о барьерах для сотрудничества в AI-индустрии, Маск не стал скрывать своё недовольство нынешним CEO OpenAI Сэмом Альтманом (Sam Altman). Эта прямолинейная формулировка также показывает рынку, в чём корень отсутствия доверия между топовыми AI-лабораториями.

«Мне не нравится Сэм Альтман, потому что OpenAI изначально была компанией, которая была нацелена на создание открытого AI с открытым исходным кодом и по идее должна была принадлежать всему миру. Но как-то так получилось, что она превратилась в прибыльную компанию стоимостью 800 млрд долларов, использующую закрытые технологии». Маск прямо заявил, что это полностью противоречит тому, ради чего он тогда жертвовал деньги.

При этом Маск также «слил» инсайд о Anthropic (одной из компаний-стартапов в AI с самой высокой текущей оценкой, основанной бывшими ключевыми участниками OpenAI): «Дарью (CEO Anthropic) тоже не нравится Сэм Альтман. По сути, команда Anthropic ушла из OpenAI потому, что им не было доверия к Сэму Альтману; иначе они бы сейчас всё ещё работали в OpenAI».

Хотя между гигантами есть сильная личная вражда, в финале интервью Маск всё же показал готовность к компромиссу. Он охарактеризовал команду Anthropic как «людей с принципами и заботой о будущем мира». Чтобы продвинуть создание механизма взаимной проверки AI-безопасности, Маск призвал: «Ради интересов всего мира давайте отложим личные разногласия».

Текстовая запись

Маск

Я думаю, что примерно через 5 лет интеллектуальный уровень искусственного интеллекта может превзойти человеческий. 5 лет — это, примерно, такой горизонт для прогноза. Поэтому, помимо того, что AI — это продукт человеческого уровня, он действительно способен стать лучше человека.

Ведущий

Тогда каким будет будущее жизни?

Маск

Самый вероятный сценарий — наступит эпоха чрезвычайно богатого материального мира, когда у каждого будет всё, что он хочет. Это, возможно, звучит немного абсурдно, но мы сейчас живём в 2026 году. Давайте посмотрим, как будут обстоять дела к 2036 году.

Конечно, есть и факторы, которые могут помешать достижению этой цели, например крупномасштабная глобальная термоядерная война. Но если предположить, что Третья мировая война не произойдёт, я думаю, мы войдём в эпоху материального изобилия. Так что это, возможно, можно считать сигналом оптимизма и возбуждения по поводу будущего.

Ведущий

Вы уверены, что через 10 лет человечество уже не сможет управлять ситуацией?

Маск

Я думаю, что это маловероятно. Если разница в уровне интеллекта между AI и людьми намного больше, чем разница между AI и шимпанзе, то трудно представить, что доминировать будет шимпанзе. Мы на самом деле просто более эволюционно продвинутая версия шимпанзе. Не так давно мы всё ещё ели бананы в джунглях, а теперь мы тоже продолжаем есть бананы.

Ведущий

Как вы думаете, наличие «роботов-убийц» всё ещё имеет вероятность 10%–20% привести к концу человечества? Сейчас вы, кажется, настроены к этому довольно спокойно. Вы изменили своё мнение?

Маск

Я всё ещё считаю, что у AI и роботов есть риски, и эти риски не равны нулю. Но я вынужден занять оптимистичную позицию. По поводу развития AI и роботов иногда я даже думаю: если бы у нас был «стоп-кнопка», то, возможно, нам даже не стоило бы нажимать её — потому что самый вероятный результат — принесение огромной пользы всем. Я понимаю, что сейчас, кажется, все считают это развитие неизбежным. Давайте рассчитывать на лучший исход и продолжать идти вперёд. Развитие AI и роботов, похоже, не остановить. Даже если бы я хотел прекратить это, я не смог бы.

Ведущий

Считаете ли вы, что вероятность того, что «роботы-убийцы» приведут к концу человечества, всё ещё составляет 10%–20%?

Маск

Это очень плохой сценарий. В долгосрочной перспективе все мы в конечном итоге придём к смерти. Если опираться на стандартную модель физики, конец Вселенной будет долгим и скучным процессом — вроде чашки постепенно остывающей разреженной серой жидкости, то есть так называемого «теплового вырождения» (heat death). Так что если «тепловое вырождение» действительно является окончательным финалом нашего реального мира, тогда всё это — просто часть путешествия.

Ведущий

Если вы считаете, что у вашей ракеты есть вероятность 10%–20% взорваться и убить вас, вы всё равно сядете в неё?

Маск

Да. Единственное, что мы можем сделать, — это постараться снизить вероятность плохого исхода. Я всегда не хотел участвовать в работе над AI или в связанных областях. OpenAI изначально существовала как противовес Google, потому что тогда Google почти монополизировала развитие AI. А сейчас Anthropic уже стала лидером в сфере AI. Эти шаги, по сути, ускорили развитие AI, и это точно не было моей изначальной целью. Похоже, всё так складывается, что развитие AI неизбежно продолжается. И тогда я подумал: ну что ж, можно этому огорчаться или присоединиться к процессу — и вы, судя по всему, уже присоединились.

Ведущий

Если невозможно их победить, то нужно присоединиться. Насколько я понимаю, и другие лидеры в области разработки моделей тоже ищут способы снизить риски. Прямо на прошлой неделе Демис Хассабис предложил идею создания государственно-частного регуляторного органа. Как вы считаете, вам стоит активнее вовлекаться в это? Можно ли предпринять какие-то меры, чтобы контролировать эти риски?

Маск

Да. Моя реакция на предложение Демиса такая: прежде чем мы опубликовали его статью, я поговорил с ним несколько часов. Мы считаем, что самое срочное — это заставить ведущие AI-компании хотя бы регулярно проводить встречи или обмены, чтобы обсуждать любые вопросы, связанные с безопасностью, раз в несколько недель. Почему вы ещё этого не делаете? Мой смысл в том, что вы, вероятно, не все друг другу нравитесь, потому что вы ведь конкурируете и хотите быть первыми.

Маск

Но я думаю, что эта конкуренция стимулирует людей быть честными. Для тех государственных чиновников, которые не имеют глубокого технического фундамента и не являются лидерами в авангарде развития AI, действительно сложно определить, стоит ли выпускать конкретную модель. Но для конкурентов: если дать им пару недель на проверку новой модели, они смогут обнаружить проблемы и тем самым побудить всех конкурентов оставаться честными. Тогда создатели моделей смогут взаимно проверять работу друг друга. Если что-то их беспокоит, они смогут сообщить об этом правительству, и правительство сможет оценить, нужно ли что-то исправить. Если же компания не предпримет никаких действий для устранения этого риска, тогда вмешиваться и действовать должно уже государство.

Нужно действовать немедленно. Люди постоянно говорят мне, что необходимо создать такую систему в течение ближайших шести месяцев, потому что скорость улучшений моделей растёт. Шесть месяцев — это действительно долго, это стоит сократить. Сейчас слишком много новостей о прорывных достижениях в AI. Иногда за один день случается сразу несколько — на прошлой неделе их было много.

Ведущий

То есть, вам нужно собраться прямо сейчас и всё организовать. Похоже, вы говорите мне именно об этом.

Маск

Да. Я бы предложил хотя бы регулярно проводить какие-то неофициальные встречи, например раз в неделю или раз в две недели. Это позволит гарантировать, что появится минимум неделя или две, чтобы заранее получить доступ к нужным материалам.

Маск

Вот почему я считаю, что такие стимулы работают: в компаниях с жёсткой конкуренцией люди понимают, что некоторые вещи могут быть связаны с риском для безопасности, поэтому они не будут колебаться и указывать, что нужно отложить выпуск модели конкурента.

Ведущий

Вам ведь в целом не нравится друг друга и вы не доверяете. Вы часто атакуете друг друга в соцсетях. Как вы думаете, сможете относиться к тем людям, которые вам не нравятся, именно так? Между этими лидерами действительно есть личная вражда.

Маск

Мне не нравится Сэм Альтман, потому что OpenAI изначально была компанией, которая была нацелена на создание открытого AI с открытым исходным кодом и по идее должна была принадлежать всему миру. Но как-то так получилось, что она превратилась в прибыльную компанию стоимостью 800 млрд долларов, использующую закрытые технологии. Я считаю, что это полностью противоречит цели моих пожертвований — именно это меня очень не устраивает. Кроме того, Дарью тоже не нравится Сэм Альтман: по сути, команда Anthropic покинула OpenAI потому, что им не доверяли Сэму Альтману, иначе они сейчас всё ещё работали бы в OpenAI.

Маск

Я думаю, что Дарью — человек очень принципиальный. Он заботится о разных вещах, и он заботится о будущем мира. До сих пор я встречал в Anthropic каждого человека — и каждый из них был именно таким. Никакой человек не заставил меня подумать, что он действует со злым умыслом. Они выглядят так, будто действуют из добрых побуждений. Путь в ад нередко вымощен благими намерениями — пусть даже есть и те немногие, кто действует из благих намерений, мы всё равно не должны проявлять беспечность. Но если действительно нужно обсудить это, давайте обсудим. Ради интересов всего мира давайте отложим личные разногласия.