Видение Ильи Суцкевера об искусственном общем интеллекте

Предупреждение архитектора: почему нам нужно переосмыслить искусственный общий интеллект

Почти десятилетие Кремниевая долина двигалась под бой одного барабана: масштабирование. Господствовало убеждение, что искусственный общий интеллект — неизбежный пункт назначения на линейном пути, проложенном всё большими объёмами данных и более мощными графическими процессорами (GPU). Однако по мере приближения к середине десятилетия диссонанс начинает исходить от самих пионеров, проложивших этот путь. Илья Суцкевер, сооснователь OpenAI и научный ум, стоящий за нейронными сетями, обеспечивающими работу ChatGPT, кардинально изменил свою позицию.

Уход Суцкевера из OpenAI ради основания Safe Superintelligence Inc. (SSI) — не просто карьерный шаг; это философское заявление. Он утверждает, что нынешняя промышленная траектория, одержимая коммерческим доминированием и постепенными обновлениями продуктов, расходится с научной строгостью, необходимой для безопасного достижения искусственного общего интеллекта. По его мнению, мы создаём модели большего размера, но не обязательно более мудрые. Спешка с превращением «рваного» интеллекта в продукт отвлекает нас от более глубоких и сложных проблем, которые необходимо решить для создания машины, способной к настоящему рассуждению.

Чтобы понять масштаб этого сдвига, необходимо проанализировать текущее состояние отрасли. Мы перешли от эпохи научных открытий к эпохе инженерной оптимизации. Хотя это принесло впечатляющие чат-боты, Суцкевер считает, что прогресс в направлении подлинного искусственного общего интеллекта замедлился. По его мнению, путь вперёд лежит не через увеличение объёмов электроэнергии и собранных данных, а через возвращение к чертёжной доске для изобретения новых парадигм обучения и понимания.

За пределами эпохи масштабирования: пределы грубой силы

После появления архитектуры Transformer в 2017 году дорожная карта к искусственному общему интеллекту определялась «законами масштабирования». Эти эмпирические наблюдения указывали на прямую связь: увеличивайте число параметров, объём обучающих данных и вычислительный бюджет — и интеллект модели будет предсказуемо расти. Эта логика обеспечила переход от GPT-2 к GPT-4, убедив многих в том, что до искусственного общего интеллекта осталось всего несколько дата-центров.

Однако Суцкевер считает, что эта эпоха — названная им «эпохой масштабирования» и охватывающая примерно период с 2020 по 2025 год — приближается к точке убывающей отдачи. Низко висящие плоды уже собраны. У нас заканчивается качественный человеческий текст для обучения, а энергетические требования для создания лишь немного более совершенных моделей становятся неустойчивыми. Продолжать полагаться только на масштабирование — всё равно что пытаться добраться до Луны, строя всё более высокие лестницы; в какой-то момент понадобится ракета.

Настоящий искусственный общий интеллект невозможно достичь простым запоминанием интернета. Человеческий интеллект характеризуется эффективностью: ребёнок усваивает понятие «кошки», увидев несколько примеров, а не миллионы. Современным моделям, напротив, требуются триллионы токенов для достижения базовой компетентности. Эта неэффективность — критическое узкое место. Суцкевер утверждает, что следующий скачок в развитии искусственного общего интеллекта произойдёт благодаря «эффективности обучения на примерах» — алгоритмам, которые учатся большему на меньшем объёме данных, отражая интуитивные скачки человеческого разума.

Возвращение к эпохе исследований

Суцкевер выступает за возрождение «эпохи исследований» — периода, напоминающего начало 2010-х годов, когда архитектурные инновации опережали рост аппаратных возможностей. На этом новом этапе в стремлении к искусственному общему интеллекту необходимо отдавать приоритет качеству мысли, а не количеству данных. Фокус смещается от создания огромных кластеров к поиску элегантных алгоритмических прорывов, позволяющих системам обобщать знания в новых ситуациях без специального обучения.

• Алгоритмическая новизна: Переход от предсказания следующего токена к системам, которые понимают причинно-следственные связи.
• Отбор данных: Подготовка ценных данных вместо безразборного сбора, чтобы обучать искусственный общий интеллект ценностям и логике.
• Энергетическая устойчивость: Создание архитектур, которым для работы не требуется количество энергии, сопоставимое с энергопотреблением небольшой страны.

Экономический парадокс: высокий IQ, низкая полезность

Озадачивающая реальность нынешнего бума ИИ — несоответствие между «интеллектом» моделей и их экономическим воздействием. Хотя большие языковые модели способны сдать экзамен на адвокатуру, их интеграция в мировую экономику остаётся на удивление поверхностной. Суцкевер объясняет это «рваным» характером. Нынешние попытки создать искусственный общий интеллект приводят к появлению моделей, которые являются экспертами в одной области и некомпетентны в другой, часто не справляясь с задачами, требующими элементарного здравого смысла или надёжности.

Такой неравномерный профиль возможностей губителен для критически важной экономической инфраструктуры. Банк не может внедрить систему искусственного общего интеллекта, которая идеально обрабатывает сложные деривативы, но выдумывает баланс счёта клиента. Эта ненадёжность обусловлена нашей зависимостью от обучения с подкреплением на основе обратной связи от человека (RLHF). Хотя RLHF делает модели вежливыми и разговорчивыми, оно часто учит их имитировать компетентность, а не обладать ею. Они учатся говорить то, что мы хотим услышать, а не обязательно то, что является правдой.

Чтобы искусственный общий интеллект преобразил экономику, ему необходимо перейти от вероятностного механизма имитации к системе с устойчивой внутренней «моделью мира». Он должен понимать последствия своих действий, а не только статистическую вероятность следующего слова. Пока этот разрыв не будет устранён, экономическая полезность таких систем будет ограничена необходимостью постоянного контроля со стороны человека.

Преодоление разрыва с помощью практических решений

Пока Суцкевер и SSI сосредоточены на долгосрочной перспективе искусственного общего интеллекта, компании сегодня вынуждены ориентироваться в описанном им неравномерном ландшафте. Нестабильность рынка ИИ, где модели устаревают и заменяются ежемесячно, создаёт кошмар для стабильности. Компании не могут ждать 20 лет идеальной модели; им нужно извлекать пользу из несовершенных моделей, доступных уже сейчас.

Эта необходимость привела к появлению метаплатформ, таких как GPT Proto. Такие инструменты выступают стабилизирующим слоем между хаотичным развитием исследований искусственного общего интеллекта и практическими потребностями бизнеса. Объединяя доступ к нескольким моделям — от Claude до GPT-4, — GPT Proto позволяет компаниям снижать зависимость от неравномерных возможностей отдельных систем. Если одна модель не справляется с конкретной задачей рассуждения, рабочий процесс может автоматически перенаправить запрос к другой, обеспечивая уровень надёжности, который сегодня не может гарантировать ни одна отдельная модель.

Этот подход представляет собой прагматичный мост к будущему искусственного общего интеллекта. Он признаёт, что, пока мы стремимся к сверхинтеллектуальному монолиту, текущая реальность требует федерации специализированных инструментов. Динамически оптимизируя стоимость и производительность, такие платформы, как GPT Proto, позволяют отрасли двигаться вперёд, не будучи парализованной недостатками современных технологий.

Манифест SSI: функции ценности и озарение

В основе технической стратегии Safe Superintelligence Inc. лежит возрождённое внимание к «функции ценности». В глубоком обучении функция ценности оценивает долгосрочный успех текущего действия. Суцкевер считает, что совершенствование этого механизма — ключ к раскрытию настоящего искусственного общего интеллекта. В настоящее время модели в основном работают на основе непосредственного предсказания токенов — это импровизирующие актёры, которые не знают финала сцены, которую пишут.

Сложная функция ценности дала бы искусственному общему интеллекту возможность «думать» до того, как говорить. Она действует как внутренний критик, моделируя возможные варианты будущего и выбирая путь, ведущий к правильному результату. Это похоже на человеческую интуицию или «шестое чувство» — когнитивный Shortcut, позволяющий экспертам решать задачи без исчерпывающего расчёта каждой возможности. Обучая модели развивать такой внутренний компас, SSI стремится создать системы, способные надёжно рассуждать над сложными многоэтапными задачами.

От базы данных к сверхобучаемой системе

Видение Суцкевера относительно искусственного общего интеллекта отличается от популярного научно-фантастического образа всезнающего оракула. Он представляет «сверхобучаемую систему» — сущность, которая при инициализации может не обладать каждым фактом во Вселенной, но имеет исключительную способность приобретать и синтезировать знания. Этот переход от статичных баз знаний к динамически обучающимся агентам критически важен для безопасности. Искусственный общий интеллект, обучающийся подобно человеку, проще согласовать с человеческими ценностями и исправлять, чем чёрный ящик со статичными шаблонами.

Переосмысление безопасности: эмпатия вместо правил

Слово «безопасность» в Safe Superintelligence Inc. — не маркетинговый трюк, а фундаментальное ограничение работы Суцкевера. Традиционные подходы к безопасности ИИ сосредоточены на «согласовании» — написании сложных сводов правил, призванных заставить искусственный общий интеллект соблюдать человеческие нормы. Суцкевер считает такой подход хрупким. Человеческие ценности противоречивы, зависят от контекста и постоянно меняются. Жёстко закодировать их в сверхинтеллекте — значит подготовить почву для катастрофы.

Вместо этого Суцкевер предлагает радикальную альтернативу: научить искусственный общий интеллект ценить саму сущность жизни. Если систему можно обучить обладать формой биологической эмпатии — распознавать и уважать «искорку» сознания в живых существах, — это создаёт барьер безопасности, выходящий за рамки конкретных культурных или правовых норм. Такой подход стремится согласовать искусственный общий интеллект не с определённым набором законов, а с фундаментальным стремлением сохранять и поддерживать существование.

Такое биологическое согласование предполагает, что главной функцией безопасности для искусственного общего интеллекта может стать форма любви или глубокого уважения к его создателям. Это переход от рассмотрения безопасности как задачи программирования к её рассмотрению как задачи психологии развития. Мы создаём не просто инструмент; мы растим разум. И, как у любого ребёнка, его поведение будет в большей степени зависеть от усвоенных ценностей, чем от строгости установленного комендантского часа.

Вариант с киборгом: слияние с искусственным общим интеллектом

Возможно, наиболее тревожный аспект взглядов Суцкевера связан с ролью человечества в мире после появления AGI. Если нам удастся создать искусственный общий интеллект, значительно превосходящий человеческие когнитивные способности, наше положение доминирующего вида на Земле окажется под вопросом. Чтобы избежать устаревания, предполагает Суцкевер, людям, возможно, потребуется увеличить собственную пропускную способность. Это указывает на ускоренное развитие интерфейсов мозг — компьютер (BCI).

Логика проста: если не можешь победить их, присоединяйся к ним. Создав прямую нейронную связь между человеческим мозгом и искусственным общим интеллектом, мы могли бы объединить биологическую креативность и субъектность человека с вычислительной мощью машины. Такое будущее «киборгов» позволит человечеству сохранять актуальность и участвовать в расширении интеллекта, а не просто наблюдать за ним. Хотя Суцкевер признаёт личное нежелание такого исхода, он рассматривает его как возможную необходимость для сосуществования со сверхинтеллектом.

Эта интеграция коренным образом меняет определение искусственного общего интеллекта. Он перестаёт быть «чем-то чужим» и становится продолжением «я». Однако темпы развития BCI сейчас отстают от развития ИИ. Если искусственный общий интеллект появится в течение следующего десятилетия, как предсказывают некоторые специалисты, человечество может столкнуться с опасным периодом уязвимости: машина уже будет сверхинтеллектуальной, а мост к человеческому разуму ещё не будет построен.

Долгая ночь: как пережить горизонт от 5 до 20 лет

Прогноз Суцкевера относительно появления настоящего искусственного общего интеллекта охватывает широкий диапазон: от 5 до 20 лет. В стремительном мире технологий это целая жизнь. Такой срок предполагает наступление «периода охлаждения» или «долгой ночи», когда ажиотаж нынешнего бума сменится тяжёлой и медленной работой над научным прорывом. Безумная гонка за долей рынка может уступить место этапу консолидации, в котором выживут только самые серьёзные исследовательские лаборатории.

В этот переходный период основное внимание должно быть уделено устойчивости. Необходимо создавать системы и общества, способные выдержать последствия частичного искусственного общего интеллекта ещё до появления его полной версии. Это включает создание экономических механизмов социальной защиты, надёжных инструментов проверки для выявления подделок, созданных ИИ, и образовательных систем, отдающих приоритет навыкам, ориентированным на человека. Путь к искусственному общему интеллекту — это марафон, а не спринт, и нынешний темп «крысиных перегонок» в долгосрочной перспективе неустойчив.

Для разработчиков и визионеров это призыв к терпению. Быстрые победы эпохи масштабирования закончились. Следующие прорывы в области искусственного общего интеллекта потребуют глубокой концентрации, изоляции от рыночного давления и готовности исследовать непопулярные идеи. SSI Суцкевера — это ставка на то, что небольшая команда преданных исследователей сможет опередить тысячу инженеров, сосредоточенных на квартальной прибыли.

Заключение: будущее интеллекта

Поворот Ильи Суцкевера сигнализирует о взрослении индустрии ИИ. Мы проходим этап первоначального восторга от чат-ботов и переходим к серьёзной экзистенциальной работе по созданию искусственного общего интеллекта. Его критика эпохи масштабирования — необходимая проверка самоуверенности Кремниевой долины, напоминающая нам, что больше данных не означает больше истины. Дальнейший путь требует синтеза компьютерных наук, биологии и этики.

Переходя этот рубеж, мы должны сохранять прагматичный подход. Мы используем сегодняшние инструменты, оптимизируя их с помощью таких платформ, как GPT Proto, и одновременно не спускаем глаз с горизонта, где нас ждёт настоящий искусственный общий интеллект. Появится ли это будущее через пять или двадцать лет, решения, которые мы принимаем сегодня в отношении исследовательских приоритетов, протоколов безопасности и человеческих ценностей, определят природу сверхинтеллекта, которого мы в итоге создадим.

---