Ветеран Google DeepMind собирает 1,1 миллиарда долларов на создание ИИ, который не обучается на человеческих данных

Вкратце

• Ветеран DeepMind Дэвид Сильвер собрал 1,1 миллиарда долларов для своего нового стартапа Ineffable Intelligence при оценке в 5,1 миллиарда долларов.
• Сильвер утверждает, что обучение с подкреплением, а не большие языковые модели, — лучший путь к сверхинтеллекту.
• Стартап стремится создать ИИ «суперучеников», которые учатся через симуляции и самоигру.

Дэвид Сильвер, ученый DeepMind, стоящий за исторической победой AlphaGo в 2016 году над чемпионом мира по Го Ли Седолем, собрал 1,1 миллиарда долларов для запуска стартапа, который ставит на то, что следующая эпоха ИИ не придет от доминирующей сегодня технологии. Компания Сильвера, Ineffable Intelligence, запущена в январе при оценке в 5,1 миллиарда долларов и делает ставку на обучение с подкреплением, метод, при котором системы ИИ улучшаются через пробу и ошибку. Сильвер утверждает, что этот подход, а не большие языковые модели, ныне доминирующие в области, предлагает более надежный путь к сверхинтеллекту. «Я считаю нашу миссию — установить первый контакт с сверхинтеллектом», — сказал Сильвер журналу Wired. «Под сверхинтеллектом я действительно подразумеваю что-то невероятное. Он должен открывать новые формы науки, технологий, управления или экономики сам по себе.»

Термин, популяризированный философом Ником Бостромом в его книге 2014 года «Суперинтеллект», относится к ИИ, превосходящему человеческий интеллект почти во всех областях, в то время как искусственный общий интеллект, или AGI, описывает системы, способные сопоставлять человеческое мышление в широком диапазоне задач.  Сильвер утверждает, что большие языковые модели по своей сути ограничены, потому что они учатся на данных, созданных людьми, вместо того чтобы строить собственное понимание через опыт. «Данные человека — это как вид ископаемого топлива, которое обеспечило удивительный быстрый путь», — сказал он. «Можно думать о системах, которые учатся сами, как о возобновляемом топливе — чем-то, что может учиться и учиться вечно, без ограничений.»

Большую часть своей карьеры Сильвер посвятил развитию этого аргумента. AlphaGo, который сочетал данные обучения человека с обучением с подкреплением и самоигрой, разработал стратегии, которые удивили даже лучших игроков и продемонстрировали, как ИИ может превзойти человеческий опыт в узких областях. «Я считаю очень важным, чтобы существовала элитная лаборатория ИИ, которая полностью сосредоточена на этом подходе», — сказал он журналу Wired. «Чтобы это было не просто угол другого места, посвященного LLMs.» Ineffable Intelligence планирует создать то, что Сильвер называет «суперучениками» — ИИ-агентами, размещенными внутри симуляций, где они могут преследовать цели, терпеть неудачи, адаптироваться и совершенствоваться без ограничений статического набора данных человека. Сильвер отказался описывать, как именно будут выглядеть эти симуляции, но отметил, что такой подход позволит агентам сотрудничать и развивать способности автономно. Сильвер утверждает, что большие языковые модели ограничены данными, на которых они обучаются, добавляя, что модель, обученная в мире, где все верили, что Земля плоская, скорее всего, сохранит это убеждение, если не сможет проверить реальность самостоятельно. Система, которая учится через опыт, — сказал он, — могла бы открыть иное. Ineffable Intelligence не сразу ответила на запрос о комментарии от Decrypt.