イリヤ・サツケバーが描く汎用人工知能のビジョン

設計者からの警告：なぜ私たちは人工汎用知能を再考しなければならないのか

約10年にわたり、シリコンバレーは一つの原則に従って進んできました。それはスケールです。支配的な考え方では、人工汎用知能は、より多くのデータと、より大規模なグラフィックス処理ユニット（GPU）によって舗装された直線的な道の先にある、避けられない目的地とされてきました。しかし、10年の半ばに近づくにつれ、その道を切り開いた先駆者たち自身から不協和音が聞こえ始めています。OpenAIの共同創業者であり、ChatGPTを支えるニューラルネットワークの頭脳でもあるイリヤ・サツケバーは、立場を大きく変えました。

サツケバーがOpenAIを離れ、Safe Superintelligence Inc.（SSI）を設立したことは、単なる転職ではありません。それは哲学的な声明です。彼は、商業的優位性と漸進的な製品アップデートに執着する現在の産業の方向性が、人工汎用知能を安全に実現するために必要な科学的厳密さから乖離していると考えています。彼の見方では、私たちはより大きなモデルを構築していますが、必ずしもより賢明なモデルを構築しているわけではありません。「ぎざぎざした」知能を製品化しようと急ぐあまり、真の推論能力を持つ機械を生み出すために解決すべき、より深く困難な問題から目をそらしています。

この変化の重大さを理解するには、現在の分野の状況を分析しなければなりません。私たちは科学的発見の時代から、工学的最適化の時代へと移行しました。印象的なチャットボットを生み出した一方で、サツケバーは、これが真の人工汎用知能に向けた進歩を停滞させたと主張しています。彼が示唆する前進への道は、より多くの電力や収集データではなく、学習と理解における新たなパラダイムを発明するために、設計図に戻ることです。

スケーリング時代を超えて：力任せの限界に達する

2017年にTransformerアーキテクチャが登場して以来、人工汎用知能へのロードマップは「スケーリング則」によって定義されてきました。これらの経験則は、パラメータ数、学習データ、計算予算を増やせば、モデルの知能は予測可能な形で向上するという直接的な相関を示していました。この論理がGPT-2からGPT-4への飛躍を支え、多くの人々に、人工汎用知能はあと数か所データセンターを増やせば実現できると思わせたのです。

しかしサツケバーは、およそ2020年から2025年にわたる、彼が「スケーリング時代」と呼ぶこの時代が、収穫逓減の局面に差しかかっていると考えています。手に取りやすい成果はすでに取り尽くされました。学習に利用できる高品質な人間の文章は不足しつつあり、モデルをわずかに改善するためのエネルギー要件は持続不可能になりつつあります。スケーリングだけに頼り続けるのは、より高いはしごを作って月に到達しようとするようなものです。やがてロケットが必要になります。

真の人工汎用知能は、インターネットを記憶するだけでは実現できません。人間の知能は効率性を特徴としています。子どもは何百万もの例を見るのではなく、数例を見るだけで「猫」という概念を学びます。一方、現在のモデルは、基本的な能力を身につけるために数兆個のトークンを必要とします。この非効率性は重大なボトルネックです。サツケバーは、人工汎用知能における次の飛躍は「サンプル効率」、つまり少ないデータからより多くを学ぶアルゴリズムによってもたらされると主張しています。これは人間の心が示す直感的な飛躍を模倣するものです。

研究時代への回帰

サツケバーは、2010年代初頭、ハードウェアの成長をアーキテクチャの革新が上回っていた時期を思わせる「研究時代」の復興を提唱しています。この新たな段階では、人工汎用知能の追求において、データ量よりも思考の質を優先しなければなりません。焦点は巨大なクラスターを工学的に構築することから、明示的な学習なしに未知の状況へ一般化できる、洗練されたアルゴリズム上の突破口を発見することへと移ります。

• アルゴリズムの革新：次のトークン予測を超え、因果関係を理解するシステムへ。
• データの選別：無差別な収集ではなく価値の高いデータを選び、人工汎用知能に価値観と論理を教える。
• エネルギーの持続可能性：小国ほどのエネルギー出力を必要とせずに機能するアーキテクチャを創出する。

経済的パラドックス：高い知能、低い実用性

現在のAIブームにおける不可解な現実の一つは、モデルの「知能」と経済的な影響との間にある隔たりです。大規模言語モデルは司法試験に合格できる一方で、世界経済への統合は驚くほど表面的なままです。サツケバーはその原因を「ぎざぎざさ」にあると説明しています。現在の人工汎用知能への試みは、ある領域では驚異的な能力を発揮する一方、別の領域では無能で、単純な常識や信頼性を必要とするタスクに失敗するモデルを生み出しています。

このぎざぎざした能力の輪郭は、重要な経済インフラにとって致命的です。複雑なデリバティブを完璧に処理できる一方で、顧客の口座残高を幻覚する人工汎用知能システムを、銀行が導入することはできません。この信頼性の欠如は、私たちが人間のフィードバックによる強化学習（RLHF）に依存していることに起因します。RLHFはモデルを礼儀正しく会話的にしますが、能力を実際に持たせるのではなく、能力があるように振る舞うことを教えがちです。モデルは私たちが聞きたいことを言うようになりますが、それが必ずしも真実とは限りません。

経済を変革するには、人工汎用知能は確率的な模倣エンジンから、堅牢な内部「世界モデル」を持つシステムへと移行しなければなりません。次の単語の統計的な確率だけでなく、自らの行動の結果を理解する必要があります。この隔たりが埋まるまで、こうしたシステムの経済的な有用性は、絶え間ない人間による監督の必要性によって制限され続けるでしょう。

実用的な解決策で隔たりを埋める

サツケバーとSSIが人工汎用知能の長期的な展望に焦点を当てる一方、企業は今日、彼が描写するぎざぎざした状況を navigatしています。モデルが毎月のように廃止され置き換えられるAI市場の変動性は、安定性にとって悪夢です。企業は完璧なモデルを20年も待つ余裕はなく、今利用できる不完全なモデルから価値を引き出す必要があります。

この必要性から、GPT Protoのようなメタプラットフォームが生まれました。こうしたツールは、混沌とした人工汎用知能研究の進展と、企業の実務的なニーズとの間で安定化レイヤーとして機能します。ClaudeからGPT-4まで複数のモデルへのアクセスを集約することで、GPT Protoは企業が個々のシステムのぎざぎざさを軽減できるようにします。あるモデルが特定の推論タスクに失敗した場合、ワークフローは自動的に別のモデルへ振り分けることができ、単一のモデルでは現在保証できない水準の信頼性を確保します。

このアプローチは、人工汎用知能の未来に向けた現実的な橋渡しとなります。超知能の一枚岩を目指している一方で、現在の現実には専門化されたツールの連合が必要だと認めるものです。コストと性能を動的に最適化することで、GPT Protoのようなプラットフォームは、現在の技術の欠点に妨げられることなく、業界が前進し続けられるようにします。

SSIのマニフェスト：価値関数と洞察

Safe Superintelligence Inc.の技術戦略の中心にあるのは、「価値関数」への新たな注力です。ディープラーニングにおいて、価値関数は現在の行動が長期的に成功する可能性を推定します。サツケバーは、この仕組みを完成させることが真の人工汎用知能を解き放つ鍵だと考えています。現在、モデルは即時的なトークン予測を中心に動作しています。つまり、自分が書いている場面の結末を知らない即興役者のようなものです。

洗練された価値関数は、人工汎用知能に、発話する前に「考える」能力を与えるでしょう。それは内部批評家として機能し、起こり得る未来をシミュレーションして、正しい結果へ至る道を選択します。これは人間の直感や「第六感」に似ています。あらゆる可能性を徹底的に計算しなくても問題を解決できる、認知上の近道です。SSIは、モデルにこの内的な羅針盤を発達させるよう学習させることで、複雑で複数段階にわたる問題を確実に推論できるシステムの創出を目指しています。

データベースからスーパーラーナーへ

サツケバーの人工汎用知能に対するビジョンは、何でも知っている神託という一般的なSFの定型とは異なります。彼が思い描くのは「スーパーラーナー」です。初期状態ですべての宇宙の事実を持っているわけではなくても、知識を獲得し統合する究極の能力を持つ存在です。静的な知識ベースから動的な学習エージェントへの転換は、安全性にとって極めて重要です。人間のように学習する人工汎用知能は、静的なパターンのブラックボックスデータベースよりも、整合性を保ちやすく修正もしやすい存在です。

安全性の再定義：ルールよりも共感を

Safe Superintelligence Inc.の「Safe」はマーケティング上の飾りではありません。それはサツケバーの取り組みにおける根本的な制約です。AI安全性に対する従来のアプローチは、「整合性」に焦点を当て、人工汎用知能が人間の規範に従うよう、複雑な規則集を作成してきました。サツケバーは、これは脆弱だと主張しています。人間の価値観は矛盾を含み、文脈に依存し、絶えず変化します。それらを超知能にハードコードすることは、災いを招くもとです。

その代わりにサツケバーは、人工汎用知能に生命そのものの本質を尊重するよう教えるという、急進的な代替案を提案しています。システムが生物学的な共感の形を持つよう学習し、生き物の意識に宿る「輝き」を認識し尊重できれば、特定の文化的・法的ルールを超越する安全障壁を生み出せます。このアプローチは、人工汎用知能を特定の法律の集合ではなく、存在を守り育むという根本的な衝動に整合させようとするものです。

この生物学的な整合性は、人工汎用知能にとって究極の安全機能とは、創造主に対する愛、あるいは深い敬意の形なのかもしれないことを示唆しています。これは、安全性をコーディングの問題として扱うことから、発達心理学の問題として扱うことへの転換です。私たちは単なる道具を作っているのではなく、一つの心を育てているのです。そしてどの子どもでもそうであるように、その行動は厳しい門限よりも、内面化された価値観に大きく左右されます。

サイボーグという選択肢：人工汎用知能との融合

サツケバーの見通しの中で、おそらく最も不安を感じさせるのは、AGI後の世界における人類の役割です。もし人間の認知能力をはるかに上回る人工汎用知能の創造に成功すれば、地球上で支配的な種としての私たちの地位は脅かされます。時代遅れになるのを避けるため、人間自身の帯域幅を高める必要があるかもしれないと、サツケバーは示唆しています。これはブレイン・コンピューター・インターフェース（BCI）の加速へとつながります。

論理は明快です。彼らに勝てないなら、仲間になるのです。人間の脳と人工汎用知能の間に直接的な神経接続を作れば、生物としての創造性と主体性を、機械の処理能力と融合できるでしょう。この「サイボーグ」の未来によって、人類は知能の拡大をただ観察するのではなく、その一翼を担いながら、関連性を保ち続けられます。サツケバーはこの結果に個人的なためらいがあると認めていますが、超知能との共存に向けた潜在的な必要条件だと見ています。

この統合は、人工汎用知能の定義を根本から変えます。それは「他者」ではなく、「自己」の延長になるのです。しかし、BCIの開発タイムラインは現在、AIの発展に遅れを取っています。予測する人々が言うように、もし人工汎用知能が今後10年以内に到来すれば、機械は超知能である一方、人間の心への橋がまだ築かれていないという、危険な脆弱性の期間に人類は直面するかもしれません。

長い夜：5年から20年の時間軸を生き抜く

真の人工汎用知能の到来について、サツケバーは5年から20年という広い期間を予測しています。テクノロジーの急速な世界では、これは一生にも等しい時間です。このタイムラインは、現在のブームの熱狂が、科学的突破口に向けた困難で遅い作業へと落ち着く「冷却期間」、あるいは「長い夜」の到来を示唆しています。市場シェアをめぐる狂乱の競争は、最も真剣な研究所だけが生き残る統合の段階に取って代わられるかもしれません。

この過渡期において、焦点はレジリエンスに置かなければなりません。完全版の人工汎用知能が到来する前に、不完全な人工汎用知能がもたらす混乱に耐えられるシステムと社会を構築する必要があります。これには経済的なセーフティネット、AIによる偽造を検出する堅牢な検証ツール、人間中心のスキルを重視する教育システムの構築が含まれます。人工汎用知能への旅は短距離走ではなくマラソンであり、「ラットレース」の現在のペースは長期的には持続不可能です。

開発者や先見家にとって、これは忍耐を求める呼びかけです。スケーリング時代の即効性のある成果は終わりました。人工汎用知能における次の突破口には、深い集中、市場の圧力からの隔離、そして人気のない考えを探究する意欲が必要になります。サツケバーのSSIは、四半期利益に集中する1,000人のエンジニアを、献身的な研究者からなる小さなチームが追い越せるという賭けです。

結論：知能の未来

イリヤ・サツケバーの方向転換は、AI業界の成熟を示しています。私たちはチャットボットに対する初期の熱狂を越え、人工汎用知能を構築するという、深刻で存在論的な仕事へ移行しつつあります。彼によるスケーリング時代への批判は、シリコンバレーの思い上がりに対する必要な抑制です。より多くのデータが、より多くの真実を意味するわけではないことを思い出させてくれます。前進するには、コンピューターサイエンス、生物学、倫理の融合が必要です。

この転換を進める中で、私たちは現実的であり続けなければなりません。GPT Protoのようなプラットフォームを通じて今日のツールを最適化しながら、真の人工汎用知能が待つ地平線から目を離してはなりません。その未来が5年後に到来するのか、20年後に到来するのかにかかわらず、研究の焦点、安全プロトコル、人間の価値観について今日下す決断が、最終的に私たちが生み出す超知能の性質を定めることになります。

---