Интервью с основателем DeepMind: архитектура AGI, состояние Агентов и научные прорывы следующего десятилетия

Оригинальный заголовок видео: Demis Hassabis: Агенты, ИИ общего назначения и следующий крупный научный прорыв

Источник видео: Y Combinator
Перевод: Deep潮 TechFlow

Редакционный вводный комментарий

Генеральный директор DeepMind, лауреат Нобелевской премии по химии Demis Hassabis посетил Y Combinator, рассказал о ключевых достижениях на пути к ИИ общего назначения, дал советы предпринимателям о том, как сохранять лидерство, и поделился мыслями о том, где может появиться следующий крупный научный прорыв.

Самым практичным советом для тех, кто занимается глубокими технологиями, является то, что если вы запускаете проект на десятилетие, необходимо учитывать появление ИИ общего назначения в своих планах. Также он раскрыл, что Isomorphic Labs (выделенная из DeepMind компания по разработке AI для фармацевтики) скоро объявит важные новости.

Цитаты и ключевые мысли

Пути и сроки достижения ИИ общего назначения

· «Практически все существующие технологические компоненты, скорее всего, станут частью окончательной архитектуры ИИ общего назначения.»

· «Проблемы с непрерывным обучением, долгосрочным рассуждением, памятью еще не решены полностью, ИИ нужно уметь все это делать.»

· «Если ваш график достижения ИИ общего назначения примерно 2030 год, а вы начинаете проект в области глубоких технологий сегодня, необходимо учитывать, что ИИ может появиться внезапно на полпути.»

Память и окно контекста

· «Окно контекста примерно равно рабочей памяти. У человека среднее рабочее запоминание — семь элементов, у нас есть окна с миллионами или миллионами токенов. Но проблема в том, что мы засовываем туда все подряд, включая неважную и ошибочную информацию, и это довольно грубый подход.»

· «Обрабатывая поток видео в реальном времени и сохраняя все токены, миллион токенов хватит примерно на 20 минут.»

Недостатки рассуждения

· «Мне нравится играть в шахматы с Gemini. Иногда он осознает, что сделал плохой ход, но не может найти лучшего, и в итоге делает его. Идеальная система рассуждения не должна так ошибаться.»

· «Он умеет решать задачи уровня золотой медали IMO, а при другом способе формулировки ошибок — простейшие школьные математические задачи. Внутреннее саморефлексирование в процессе мышления у него еще не на высоте.»

Агент и креативность

· «Чтобы достичь ИИ общего назначения, нужна система, которая сможет самостоятельно решать задачи за вас. Агент — это путь, и я считаю, что мы только начинаем.»

· «Я еще не видел, чтобы кто-то использовал vibe coding для создания топовой 3A-игры в магазине приложений. По текущим вложениям это возможно, но пока не случилось. Значит, в инструментах или процессах чего-то не хватает.»

Дистилляция и малые модели

· «Наше предположение: после выпуска передовой модели Pro через полгода — год, ее возможности можно сжать в очень маленькую модель, которая сможет работать на периферийных устройствах. Пока мы не достигли теоретического предела информационной плотности.»

Научные открытия и «Эйнштейновский тест»

· «Иногда я называю это «Эйнштейновским тестом»: можно ли обучить систему знаниям 1901 года и заставить ее самостоятельно вывести результаты, которые сделал Эйнштейн в 1905 году, включая специальную теорию относительности? Если да, то такие системы недалеко от настоящего изобретения новых идей.»

· «Решение одной задачи Millennium Prize — уже большое достижение. Но еще сложнее — предложить новый набор задач Millennium, которые признаны ведущими математиками настолько же глубокими и достойными исследования всю жизнь.»

Советы по глубоким технологиям

· «Искание сложных и простых задач — по сути одно и то же, только сложность разная. Жизнь коротка, лучше сосредоточиться на тех вещах, которые никто другой не сделает, если вы их не сделаете.»

Пути реализации ИИ общего назначения

Gary Tan: Вы думаете о графике ИИ общего назначения уже почти так же долго, как никто другой. Какие архитектуры, по вашему мнению, уже есть у нас, и что сейчас критически не хватает?

Demis Hassabis: Масштабное предварительное обучение, RLHF, цепочки мышления — я уверен, что они станут частью финальной архитектуры ИИ общего назначения. Эти технологии доказали свою ценность. Я не могу представить, что через два года мы обнаружим, что это путь в тупик. Но, основываясь на существующих технологиях, возможно, еще не все решено. Продолжается работа над постоянным обучением, долгосрочным рассуждением и памятью — есть еще нерешенные вопросы.

Искусственный интеллект должен все это уметь. Возможно, существующих технологий и небольших инноваций хватит, чтобы расширить возможности, но, скорее всего, останется пара ключевых моментов, которые нужно прорывать. Я оцениваю вероятность наличия таких нерешенных вопросов примерно 50/50. Поэтому в DeepMind мы работаем по двум направлениям одновременно.

Gary Tan: Я взаимодействую с множеством систем-агентов, и меня удивляет, что базовые веса у них одни и те же. Поэтому концепция постоянного обучения очень интересна, ведь сейчас мы используем временные «скотчи», вроде циклов ночных сновидений.

Demis Hassabis: Да, эти циклы сновидений очень крутые. Мы давно задумывались о интеграции сценической памяти. Мое исследование — как гиппокамп аккуратно внедряет новые знания в уже существующую систему. Мозг в этом очень хорош.

Он делает это во время сна, особенно в фазе быстрого сна (REM), повторяя важные переживания для обучения. Наш ранний Atari-агент DQN (глубокая Q-сеть, опубликованная DeepMind в 2013 году, впервые использующая глубокое обучение для достижения уровня человека в Atari) освоил игры благодаря опыту повторного воспроизведения (experience replay).

Это заимствовано из нейронауки — повторять успешные пути. Тогда это было 2013 год, в AI — древность, но тогда это было критически важно.

Я согласен, что сейчас мы действительно «склеиваем» всё на ходу. Загружаем всё в окно контекста. Это кажется не очень правильно. Теоретически, даже для машин или биологических мозгов, можно иметь окно с миллионами токенов и идеальную память, но поиск и извлечение информации все равно стоят дорого. В момент принятия решения найти действительно релевантную информацию — сложно, даже если всё сохранено. Поэтому я считаю, что память — это область, где еще много инноваций.

Gary Tan: Честно говоря, окно с миллионом токенов уже гораздо больше, чем я ожидал, и это многофункционально.

Demis Hassabis: Да, для большинства сценариев оно достаточно большое. Но подумайте: окно контекста — это примерно рабочая память. У человека среднее рабочее запоминание — семь элементов, а у нас есть окна с миллионами токенов. Вопрос в том, что мы засовываем туда всё подряд, включая неважную и ошибочную информацию, и это очень грубый подход. И если сейчас обрабатывать поток видео в реальном времени и сохранять все токены, то миллион токенов — примерно 20 минут. Но если вы хотите, чтобы система понимала вашу жизнь за один или два месяца, этого явно недостаточно.

Gary Tan: DeepMind всегда делала ставку на глубокое обучение и поиск. Насколько эта философия встроена в создание Gemini? RL всё еще недооценен?

Demis Hassabis: Возможно, да. Внимание к нему колебалось. Мы с самого основания DeepMind работаем над агентами. Все работы в Atari и AlphaGo — по сути, системы с усиленным обучением, способные самостоятельно достигать целей, принимать решения, планировать. Тогда мы выбирали игры, потому что сложность управляемая, и постепенно переходили к более сложным — например, AlphaStar после AlphaGo. В основном, мы делали все игры, которые могли.

Следующий вопрос — можем ли мы обобщить эти модели в мировую модель или языковую модель, а не только игровые. Мы этим занимаемся уже несколько лет. Современные ведущие модели — это по сути переработка идей, заложенных в AlphaGo.

Многие наши ранние идеи, такие как Монте-Карло дерево поиска, сейчас очень актуальны для базовых моделей. Я считаю, что значительный прогресс в ближайшие годы будет именно за счет этого.

Дистилляция и малые модели

Gary Tan: Сейчас, чтобы быть умнее, нужны большие модели, но дистилляция тоже развивается — малые модели становятся очень быстрыми. Ваши Flash-модели очень мощные, достигают примерно 95% возможностей передовых моделей, при этом стоят в десять раз дешевле. Это так?

Demis Hassabis: Думаю, это один из наших ключевых преимуществ. Сначала нужно создать максимально крупную модель, чтобы получить передовые возможности. Одно из наших сильных качеств — быстрое дублирование и сжатие этих возможностей в меньшие модели. Мы сами изобрели метод дистилляции и до сих пор остаемся в числе лучших. И у нас есть сильное бизнес-стимул к этому. Мы — одна из крупнейших платформ AI-приложений.

Благодаря AI Overviews, AI Mode и Gemini, сейчас все продукты Google — карты, YouTube и другие — используют Gemini или связанные технологии. Это сотни миллионов пользователей и десятки миллиардов устройств. Они должны работать очень быстро, быть эффективными, с низкими затратами и минимальной задержкой. Это мотивирует нас делать Flash и более компактные модели максимально эффективными, чтобы в конечном итоге это приносило пользу пользователям.

Gary Tan: Мне интересно, насколько умными могут стать эти маленькие модели. Есть ли предел у дистилляции? Могут ли модели 50B или 400B быть так же умными, как самые крупные современные модели?

Demis Hassabis: Не думаю, что мы достигли информационного предела, по крайней мере, пока никто не знает, есть ли он. Возможно, однажды мы столкнемся с потолком по плотности информации, но сейчас предполагаем, что после выпуска передовой модели через полгода — год, ее возможности можно будет сжать в очень маленькую модель, которая сможет работать на периферийных устройствах.

Вы можете видеть это на примере модели Gemma — наша Gemma 4 показывает очень хорошие результаты при меньшем объеме. Это достигается за счет множества методов дистилляции и оптимизации эффективности малых моделей. Поэтому я не вижу теоретического предела и считаю, что мы очень далеки от него.

Gary Tan: Сейчас наблюдается удивительный феномен: инженеры делают работу в 500–1000 раз быстрее, чем полгода назад. В этом зале есть люди, которые делают работу, сравнимую с работой инженеров Google 2000-х в тысячу раз быстрее. Об этом говорил Steve Yegge.

Demis Hassabis: Мне это очень интересно. Малые модели имеют множество применений. Во-первых, они дешевы и быстры, что дает преимущества. В программировании и других задачах можно делать итерации быстрее, особенно при взаимодействии с системами. Быстрый цикл работы даже при не самом передовом уровне — 90–95% возможностей — полностью оправдан, и скорость итераций окупает эти 5–10%.

Еще один важный аспект — запускать эти модели на периферийных устройствах, чтобы повысить эффективность, обеспечить приватность и безопасность. Представьте устройства, обрабатывающие очень личную информацию, или роботы, например, домашние роботы, — вы захотите иметь локальную мощную модель, которая работает в конкретных сценариях, а крупные облачные системы вызываете только по необходимости. Обработка аудио и видео локально, данные остаются на месте — это, я считаю, финальный идеал.

Память и рассуждение

Gary Tan: Возвращаясь к памяти и контексту. Сейчас модели — без состояния. Если появится возможность постоянного обучения, как изменится опыт разработчика? Как вы будете управлять такими системами?

Demis Hassabis: Это очень интересный вопрос. Отсутствие постоянного обучения — главный барьер для полноценного агента. Сейчас агенты хорошо справляются с частичными задачами, их можно соединять для более сложных, но они не умеют адаптироваться к конкретной среде. Они не могут «выстрелить и забыть», им нужно учиться в конкретных сценариях. Для достижения универсального интеллекта это обязательно решить.

Gary Tan: Где сейчас прогресс в рассуждении? У моделей есть цепочки мышления, но они все равно ошибаются в простых задачах. Что нужно улучшить? Какие ожидания по развитию?

Demis Hassabis: В области мышления есть много пространства для инноваций. Мы делаем многое очень грубо и грубо. Можно улучшать, например, мониторинг цепочек мышления, вмешательство в процессе рассуждения. Часто наши системы зацикливаются, слишком много думают, уходят в циклы.

Я люблю наблюдать за Gemini в игре в шахматы. Все ведущие модели плохо играют в шахматы, что интересно.

Анализ их мыслительных траекторий очень ценен, потому что шахматы — хорошо изученная область. Я быстро могу понять, отклонился ли агент, насколько его рассуждения эффективны. Иногда он делает ход, понимает, что он плохой, но не может найти лучший, и в итоге делает его. Идеальная система рассуждения не должна так ошибаться.

Такие разрывы все еще есть, но исправить их можно за один-два небольших изменения. Поэтому мы видим так называемый «зубчатый интеллект» — он умеет решать задачи уровня IMO, но при другом способе формулировки ошибается в простых математических задачах. В саморефлексии есть еще что улучшать, кажется, чего-то не хватает.

Реальные возможности агента

Gary Tan: Агент — это очень широкая тема. Кто-то говорит, что это хайп. Я считаю, что мы только начинаем. Каково настоящее состояние дел внутри DeepMind по возможностям агентов и насколько оно отличается от публичных заявлений?

Demis Hassabis: Полностью согласен, мы только начинаем. Для достижения ИИ общего назначения нужен агент, который сможет самостоятельно решать задачи. Это всегда было нашим пониманием. Агент — это путь, и мы только начинаем.

Все еще ищем, как лучше интегрировать агента в рабочие процессы. Внутри компании мы много экспериментируем, и многие из вас тоже. Как сделать так, чтобы агент не был просто дополнением, а реально выполнял фундаментальные задачи? Сейчас мы на стадии экспериментов. Только за последние пару месяцев начали находить действительно ценные сценарии. Технологии уже достаточно развиты, чтобы не было просто демонстрации, а чтобы агент реально экономил ваше время и повышал эффективность.

Я часто вижу, как запускают десятки агентов, которые работают по нескольку часов, но я пока не уверен, что отдача оправдывает вложения.

Еще не видел, чтобы кто-то использовал vibe coding для создания топовой 3A-игры. Я сам делал небольшие прототипы, многие из вас тоже. Сейчас я могу за полчаса сделать прототип «Theme Park», тогда как в 17 лет я потратил на это полгода.

Чувствую, что если потратить целое лето, можно создать что-то действительно невероятное. Но для этого нужны мастерство, человеческий талант и вкус — нужно привнести эти качества в любой продукт. Пока что ни один маленький разработчик не создал хит на миллионы продаж, хотя при текущих инструментах это вполне реально. Значит, чего-то не хватает — возможно, процессов или инструментов. Ожидаю, что за 6–12 месяцев появятся такие результаты.

Gary Tan: Насколько это будет полностью автоматизировано? Я думаю, что не сразу. Вероятнее, сначала люди достигнут в 1000 раз большей эффективности, а потом появятся продукты и игры, созданные с помощью этих инструментов, и автоматизация распространится дальше.

Demis Hassabis: Да, это то, что вы должны сначала увидеть.

Gary Tan: Также есть мнение, что некоторые уже делают это, но не хотят раскрывать, насколько агент им помог.

Demis Hassabis: Возможно. Но я хочу поговорить о креативности. Часто я вспоминаю пример AlphaGo, особенно второй партии, 37-м ходу. Для меня это был момент, когда я понял, что такие открытия возможны, и именно он подтолкнул меня к научным проектам вроде AlphaFold. Мы начали работать над AlphaFold сразу после победы в Сеуле, это было десять лет назад. Сейчас я отмечаю десятилетие AlphaGo.

Но просто сделать ход 37 — недостаточно. Это круто и полезно, но сможет ли эта система изобрести саму игру? Если дать ей описание высокого уровня, например: «игра, которую можно выучить за пять минут, но за всю жизнь не освоить полностью, эстетически изящная, партия за полчаса», — и система вернет вам ответ — «это шахматы». Современные системы этого не умеют. Почему?

Gary Tan: Может, кто-то из присутствующих сможет.

Demis Hassabis: Если кто-то это сделает, то ответ будет не в недостатке системы, а в неправильном использовании. Возможно, именно так и есть. Может, системы уже сейчас способны на это, нужны только очень талантливые создатели, которые дадут им душу, смысл проекта, и будут тесно взаимодействовать с инструментами. Тогда можно создать что-то сверхъестественное, если работать с ними день и ночь, обладая глубоким творческим потенциалом.

Открытый исходный код и мультимодальные модели

Gary Tan: Перейдем к открытым моделям. Недавний запуск Gemma позволил запускать очень мощные модели локально. Как вы считаете, AI станет собственностью пользователя, а не только облачной? Это изменит доступность инструментов для создания продуктов?

Demis Hassabis: Мы — ярые сторонники открытого исходного кода и открытой науки. AlphaFold мы сделали полностью бесплатным. Наши научные публикации продолжают появляться в ведущих журналах. В случае Gemma мы хотим создать модель мирового уровня для аналогичного объема данных. Уже за две с половиной недели после релиза скачано около 40 миллионов раз.

Я считаю важным, чтобы в области open source присутствовали западные технологические стеки. Китайские модели очень хороши и лидируют в open source, но мы считаем, что Gemma при схожих масштабах очень конкурентоспособна.

У нас есть ограниченные ресурсы — никто не может одновременно развивать два полноразмерных передовых проекта. Поэтому мы решили: модели для периферии — для Android, очков, роботов — лучше делать открытыми, чтобы их можно было легко внедрять в устройства. После этого они станут более уязвимыми, и лучше их сразу открыто публиковать. Мы придерживаемся единой стратегии открытости, и это логично.

Gary Tan: Перед показом я продемонстрировал, как я взаимодействую с AI-операционной системой через голос. Был немного нервен, но все получилось. Gemini изначально создавался как мультимодальная система. Я использовал много моделей, и взаимодействие через голос, дополненное вызовами инструментов и пониманием контекста, — сейчас это лучшее решение.

Demis Hassabis: Да. Одним из преимуществ Gemini, которое еще не полностью оценено, является то, что мы изначально строили его как мультимодальную систему. Это усложнило старт, но в долгосрочной перспективе даст преимущества, и уже сейчас мы начинаем это ощущать.

Например, в области мировых моделей мы создали Genie (генеративную интерактивную среду от DeepMind). В робототехнике Gemini Robotics будет базироваться на мультимодальных моделях, что станет нашим конкурентным преимуществом. Мы также все больше используем Gemini в Waymo (автопилот от Alphabet).

Представьте цифрового помощника, который сопровождает вас в реальном мире — на телефоне или очках, понимает окружающую физическую среду. Наши системы в этом очень сильны. Мы продолжим инвестировать в эту область, и я уверен, что у нас есть большое преимущество.

Gary Tan: Стоимость рассуждений быстро падает. Когда рассуждение становится почти бесплатным, что становится возможным? Меняет ли это направления оптимизации вашей команды?

Demis Hassabis: Не уверен, что рассуждение станет полностью бесплатным — есть парадокс Джевонса (Jevons’ Paradox), когда повышение эффективности ведет к росту общего потребления. Думаю, все в итоге используют всю доступную вычислительную мощность.

Можно представить, что миллионы агентов работают вместе или один агент одновременно думает в нескольких направлениях, а затем интегрирует результаты. Мы экспериментируем с этим, и все это будет расходовать вычислительные ресурсы.

Что касается энергии, если мы решим вопросы управляемого термоядерного синтеза, комнатной сверхпроводимости и лучших аккумуляторов, то, по моему мнению, материалы позволят снизить затраты до нуля. Но физические ограничения производства чипов и компонентов сохранятся еще десятилетия. Поэтому на стороне рассуждений останутся лимиты, и потребуется максимально эффективное использование ресурсов.

Следующий научный прорыв

Gary Tan: Хорошо, что малые модели становятся все умнее. В сфере биотехнологий много основателей. AlphaFold 3 уже превосходит белки и расширяется на более широкий спектр биомолекул. Насколько мы далеки от моделирования полноценной клеточной системы? Это совершенно иной уровень сложности?

Demis Hassabis: Progress в Isomorphic Labs идет очень хорошо. AlphaFold — лишь часть процесса поиска лекарств, мы также занимаемся смежными биохимическими исследованиями, проектируем молекулы с нужными свойствами — скоро будет важное объявление.

Наша конечная цель — создать полноценную виртуальную клетку, модель, в которую можно вносить изменения, — полноценный симулятор клетки, дающий результаты, близкие к экспериментальным, и обладающий практической ценностью. Можно пропустить множество этапов поиска, генерировать синтетические данные для обучения других моделей, чтобы предсказывать поведение реальных клеток.

Я оцениваю, что до создания полной виртуальной клетки осталось примерно десять лет. Мы начинаем с ядра клетки, потому что оно относительно автономно. Важный вопрос — можно ли выделить достаточно компактный и самодостаточный фрагмент, чтобы его можно было моделировать, а входы и выходы — аппроксимировать. В этом смысле ядро клетки — хороший кандидат.

Еще одна проблема — недостаток данных. Я общался с ведущими учеными, работающими с электронными микроскопами и другими методами визуализации. Если бы можно было не убивая клетки делать их живыми, это было бы революционно. Тогда можно было бы превратить задачу в визуальную, а визуальные модели хорошо решаются.

Пока что нет технологий, позволяющих с наноразрешением снимать живые клетки без повреждений. Сейчас мы можем получать очень детальные статические изображения, что очень интересно, но этого недостаточно для полноценной визуализации динамики.

Есть два подхода: аппаратный и программный. Первый — создание новых технологий, второй — построение более обучаемых симуляторов для моделирования этих процессов.

Gary Tan: Не только в биологии. В материаловедении, фармацевтике, климатическом моделировании, математике — если нужно расставить приоритеты, какие области претерпят самые кардинальные изменения за ближайшие пять лет?

Demis Hassabis: Каждая область вдохновляет. Именно поэтому я так увлечен AI — это мой главный интерес последние 30 лет. Я всегда считал, что AI — это конечный инструмент науки, который поможет понять и открыть новые горизонты в науке, медицине и космосе.

Наше видение — в двух шагах. Первый — решить задачу интеллекта, построить AGI; второй — использовать его для решения всех остальных проблем. Потом мы скорректировали формулировку, потому что возник вопрос: «Вы действительно собираетесь решать все?»

Но именно так мы и задумывали. Сейчас все больше понимают, что это значит. В частности, речь идет о решении так называемых «корневых проблем» в науке — тех, что, если их решить, откроют новые направления исследований. AlphaFold — пример того, что мы хотим делать.

Более трех миллионов исследователей по всему миру используют AlphaFold. Некоторые руководители фармацевтических компаний говорят, что почти все новые лекарства в будущем будут связаны с использованием AlphaFold на каком-то этапе. Мы гордимся этим, и это — влияние, которое AI может оказать. Но это только начало.

Я не могу придумать ни одной области науки или техники, в которой AI не мог бы помочь. Те области, что вы упомянули, — это «момент AlphaFold», когда результаты уже очень перспективны, но крупные вызовы еще впереди. В ближайшие два года мы увидим много прогресса — от материаловедения до математики.

Gary Tan: Это похоже на прорыв Прометея, дающий человечеству новые возможности.

Demis Hassabis: Точно. И, как в мифе, мы должны быть осторожны с тем, как эти возможности используют и в каких целях. Риск злоупотреблений очень высок.

Опыт успеха

Gary Tan: Многие из вас пытаются создать компании, использующие AI в науке. В чем, по вашему мнению, отличие настоящих передовых стартапов и тех, кто просто навешивает API на базовые модели и называет себя «AI for Science»?

Demis Hassabis: Я думаю, если бы я был на вашем месте и смотрел проекты в Y Combinator, я бы подумал так. Во-первых, нужно предвидеть развитие AI — это очень сложно. Но я считаю, что есть огромные возможности, если соединить AI с другими глубокими технологиями. Особенно в областях, связанных с атомами, материалами, медициной — там не будет быстрых решений в ближайшее время. Эти области не исчезнут после следующего обновления базовой модели. Но если искать устойчивые направления, я бы рекомендовал именно их.

Я всегда предпочитал глубокие технологии. Настоящие, долгосрочные и ценные идеи — это не легкие. Меня всегда привлекала глубина. Когда мы начинали в 2010 году, AI казался глубокой технологией — инвесторы говорили, что это не сработает, а академия считала, что это ниша 90-х, которая провалилась.

Но если у вас есть вера в свои идеи — почему это будет иначе сейчас, что у вас есть уникальный бэкграунд или команда — у вас есть шанс создать что-то значительное и ценное.

Gary Tan: Это очень важная мысль. Когда что-то получается, кажется очевидным, но до этого все сопротивлялись.

Demis Hassabis: Конечно. Поэтому важно заниматься тем, что действительно вдохновляет. Для меня — AI. Еще в детстве я решил, что это моя главная страсть. И это подтвердилось — я считаю, что это самое влиятельное, что я могу сделать. Может, и не так, как планировал, — может, я опередил время на 50 лет.

Но это также самое интересное для меня. Даже если сегодня мы еще в гараже, а AI не достигнут, я все равно буду искать способы продолжать. Может, вернусь в академию, но продолжу.

Gary Tan: AlphaFold — пример того, как вы выбрали правильное направление и сделали ставку. Что делает область науки подходящей для таких прорывов, как AlphaFold? Есть ли какие-то закономерности, например, особая целевая функция?

Demis Hassabis: Надо как-то это зафиксировать. Из опыта AlphaGo и AlphaFold я понял, что системы работают лучше всего, когда:

— проблема имеет огромный комбинаторный поиск, чем больше, тем лучше, — пространство решений превышает количество атомов во вселенной;

— можно четко определить целевую функцию, например, минимизация свободной энергии белка или победа в игре, — тогда система может использовать градиентные методы;

— есть достаточно данных или симулятор, который генерирует много синтетических образцов.

Если эти условия выполнены, современные методы могут найти нужную «иголку в стоге сена». В фармацевтике — тот же принцип: если есть химическая молекула, которая лечит болезнь без побочных эффектов, и физика это позволяет, — остается только найти ее эффективно. AlphaFold впервые показал, что такие системы могут искать в огромных пространствах.

Gary Tan: Хотел бы поднять вопрос на более высоком уровне. Мы говорим, что люди используют эти методы для создания AlphaFold, но есть и метауровень — использование AI для исследования гипотез. Насколько мы близки к тому, чтобы системы могли делать настоящие научные рассуждения, а не только находить паттерны в данных?

Demis Hassabis: Думаю, очень близко. Мы создаем такие универсальные системы. Есть AI co-scientist, есть алгоритмы вроде AlphaEvolve, которые делают шаги дальше базовых моделей Gemini. Все ведущие лаборатории исследуют это направление.

Но пока я не видел, чтобы эти системы сделали крупное научное открытие. Но оно скоро придет. Возможно, оно связано с нашим обсуждением креативности, — прорыв за границами известных. Тогда речь не только о паттернах, а о новом уровне — о аналогическом мышлении, которого системы пока не обладают, или мы не умеем их правильно использовать.

Я часто говорю, что в науке важно не только подтверждение гипотез, но и их формулировка. Иногда это — открытие, например, доказательство гипотезы Римана или решение задач Миллениума. Но еще сложнее — предложить новые задачи Миллениума, которые признаны глубокими и достойными долгосрочного исследования. Это — уровень, который мы пока не достигли, и, возможно, не умеем. Но я верю, что системы в будущем смогут это делать, может, чуть не хватает одного-двух элементов.

Я называю это «Эйнштейновским тестом»: можно ли обучить систему знаниям 1901 года и заставить ее самостоятельно вывести результаты, сделанные Эйнштейном в 1905 году, включая специальную теорию относительности? Думаю, стоит это проверить. Когда это удастся — системы будут очень близки к созданию новых идей.

Предложения по стартапам

Gary Tan: Последний вопрос. В зале много людей с глубоким техническим бэкграундом, кто хочет делать что-то похожее на вас. Вы — одна из крупнейших исследовательских организаций в области AI. Что вы знаете сейчас о передовых исследованиях, что хотелось бы знать в 25 лет?

Demis Hassabis: Мы уже обсуждали часть этого. Можно сказать, что поиск сложных задач и простых — по сути, одинаково сложны, только по-разному. Важна страсть и вера. Жизнь коротка, лучше сосредоточиться на тех вещах, которые никто другой не сделает, если не вы.

Также я считаю, что в ближайшие годы междисциплинарные соединения станут еще более важными. AI сделает их проще.

И последнее — зависит от вашего графика достижения ИИ общего назначения. Мой — около 2030 года. Если вы начинаете проект в области глубоких технологий сегодня, это — десятилетний путь. Значит, нужно учитывать, что ИИ может появиться внезапно. Это не обязательно плохо, но нужно подготовиться. Можно ли использовать ИИ в вашем проекте? Как он будет взаимодействовать с ним?

Возвращаясь к AlphaFold и универсальным системам — я предполагаю, что системы вроде Gemini, Claude или подобные будут использовать узкоспециализированные системы вроде AlphaFold как инструменты. Не думаю, что все будет объединено в один гигантский проект.

Официальная ссылка на видео

Посмотрите вакансии в律动BlockBeats

Присоединяйтесь к официальному сообществу律动BlockBeats:

Telegram подписка: https://t.me/theblockbeats

Telegram чат: https://t.me/BlockBeats_App

Twitter официальный аккаунт: https://twitter.com/BlockBeatsAsia