La quête de l'intelligence artificielle générale est arrivée à un tournant décisif. Ilya Sutskever, l'architecte légendaire à l'origine des avancées les plus profondes de l'IA moderne, signale désormais que la dépendance de l'industrie à l'égard du passage à l'échelle par la force brute atteint ses limites. Par l'intermédiaire de sa nouvelle entreprise, Safe Superintelligence Inc. (SSI), Sutskever soutient que parvenir à une véritable intelligence artificielle générale exige un changement de paradigme : s'éloigner des gigantesques grappes de calcul pour se tourner vers la recherche fondamentale, l'efficacité d'apprentissage à partir d'échantillons et une sécurité éthique approfondie. Cet article examine pourquoi la voie vers la superintelligence est en train de changer et ce que cela signifie pour l'avenir de l'humanité.
La vision d'Ilya Sutskever pour l'intelligence artificielle générale
Découvrez la nouvelle vision d'Ilya Sutskever pour l'intelligence artificielle générale. Alors que l'ère du passage à l'échelle atteint ses limites, le fondateur de SSI explique pourquoi nous devons privilégier la recherche fondamentale, l'efficacité d'apprentissage à partir d'échantillons et une sécurité centrée sur l'humain pour parvenir à une véritable superintelligence.
L'avertissement de l'architecte : pourquoi nous devons repenser l'intelligence artificielle générale
Depuis près d'une décennie, la Silicon Valley avance au rythme d'un seul refrain : le passage à l'échelle. L'idée dominante est que l'intelligence artificielle générale est une destination inévitable sur une trajectoire linéaire pavée de toujours plus de données et de processeurs graphiques (GPU) toujours plus puissants. Cependant, alors que nous approchons du milieu de la décennie, une dissonance se fait entendre chez les pionniers mêmes qui ont posé les fondations. Ilya Sutskever, cofondateur d'OpenAI et esprit scientifique derrière les réseaux neuronaux qui alimentent ChatGPT, a considérablement changé de position.
Le départ de Sutskever d'OpenAI pour fonder Safe Superintelligence Inc. (SSI) n'est pas un simple changement de carrière ; c'est une déclaration philosophique. Il affirme que la trajectoire industrielle actuelle — obsédée par la domination commerciale et les mises à jour incrémentales des produits — s'éloigne de la rigueur scientifique nécessaire pour parvenir en toute sécurité à l'intelligence artificielle générale. Selon lui, nous construisons des modèles plus grands, mais pas nécessairement plus sages. La course à la mise en produit d'une intelligence « en dents de scie » nous détourne des problèmes plus profonds et plus difficiles qu'il faut résoudre pour créer une machine capable d'un véritable raisonnement.
Pour comprendre la portée de ce changement, nous devons analyser l'état actuel du domaine. Nous sommes passés d'une ère de découverte scientifique à une ère d'optimisation technique. Bien que cette évolution ait produit des chatbots impressionnants, Sutskever estime qu'elle a ralenti les progrès vers une véritable intelligence artificielle générale. Selon lui, la voie à suivre ne passe pas par davantage d'électricité et de données collectées sur Internet, mais par un retour à la table à dessin afin d'inventer de nouveaux paradigmes d'apprentissage et de compréhension.
Au-delà de l'ère du passage à l'échelle : les limites de la force brute
Depuis l'introduction de l'architecture Transformer en 2017, la feuille de route vers l'intelligence artificielle générale est définie par les « lois du passage à l'échelle ». Ces observations empiriques suggéraient une corrélation directe : augmentez le nombre de paramètres, les données d'entraînement et le budget de calcul, et l'intelligence du modèle augmente de manière prévisible. Cette logique a permis le bond de GPT-2 à GPT-4, convainquant beaucoup de personnes que l'intelligence artificielle générale n'était plus qu'à quelques centres de données.
Cependant, Sutskever estime que cette ère — qu'il appelle l'« ère du passage à l'échelle », couvrant environ la période 2020-2025 — atteint un point de rendements décroissants. Les fruits les plus faciles à cueillir ont déjà été récoltés. Nous manquons de textes humains de qualité sur lesquels entraîner les modèles, tandis que les besoins énergétiques de modèles légèrement meilleurs deviennent intenables. Continuer à compter uniquement sur le passage à l'échelle revient à vouloir atteindre la Lune en construisant des échelles toujours plus hautes ; tôt ou tard, il faut une fusée.
La véritable intelligence artificielle générale ne peut pas être obtenue simplement en mémorisant Internet. L'intelligence humaine se caractérise par son efficacité ; un enfant apprend le concept de « chat » après avoir vu quelques exemples, et non des millions. Les modèles actuels, en revanche, nécessitent des milliers de milliards de tokens pour atteindre une compétence de base. Cette inefficacité constitue un goulot d'étranglement critique. Sutskever soutient que le prochain bond en matière d'intelligence artificielle générale viendra de l'« efficacité d'apprentissage à partir d'échantillons » : des algorithmes qui apprennent davantage à partir de moins de données, à l'image des intuitions fulgurantes de l'esprit humain.
Le retour à l'ère de la recherche
Sutskever plaide pour une renaissance de l'« ère de la recherche », une période rappelant le début des années 2010, lorsque l'innovation architecturale progressait plus rapidement que l'évolution du matériel. Dans cette nouvelle phase, la quête de l'intelligence artificielle générale doit privilégier la qualité de la réflexion plutôt que la quantité de données. L'objectif passe de la conception d'immenses grappes de calcul à la découverte d'avancées algorithmiques élégantes permettant aux systèmes de généraliser à des situations inédites sans entraînement explicite.
- Nouveauté algorithmique : Aller au-delà de la prédiction du token suivant pour créer des systèmes qui comprennent les causes et les effets.
- Élagage des données : Sélectionner des données à forte valeur plutôt que de collecter indistinctement des informations afin d'enseigner à l'intelligence artificielle générale les valeurs et la logique.
- Durabilité énergétique : Créer des architectures qui ne nécessitent pas, pour fonctionner, une quantité d'énergie équivalente à celle d'un petit pays.
Le paradoxe économique : QI élevé, utilité faible
Une réalité déroutante de l'essor actuel de l'IA est l'écart entre l'« intelligence » des modèles et leur impact économique. Bien que les grands modèles de langage puissent réussir l'examen du barreau, leur intégration dans l'économie mondiale reste étonnamment superficielle. Sutskever attribue cela à leur « caractère en dents de scie ». Les tentatives actuelles de créer une intelligence artificielle générale donnent des modèles qui sont des surdoués dans un domaine et incompétents dans un autre, échouant souvent à des tâches nécessitant simplement du bon sens ou de la fiabilité.
Ce profil de capacités irrégulier est fatal pour les infrastructures économiques critiques. Une banque ne peut pas déployer un système d'intelligence artificielle générale qui traite parfaitement des produits dérivés complexes, mais qui hallucine le solde du compte d'un client. Cette absence de fiabilité découle de notre dépendance à l'apprentissage par renforcement à partir de retours humains (RLHF). Si le RLHF rend les modèles polis et conversationnels, il leur apprend souvent à imiter la compétence plutôt qu'à la posséder. Ils apprennent à dire ce que nous voulons entendre, pas nécessairement ce qui est vrai.
Pour que l'intelligence artificielle générale transforme l'économie, elle doit passer d'un moteur d'imitation probabiliste à un système doté d'un solide « modèle interne du monde ». Elle doit comprendre les conséquences de ses actions, et pas seulement la probabilité statistique du mot suivant. Tant que cet écart ne sera pas comblé, l'utilité économique de ces systèmes restera limitée par la nécessité d'une supervision humaine constante.
Combler le fossé grâce à des solutions pratiques
Alors que Sutskever et SSI se concentrent sur l'horizon à long terme de l'intelligence artificielle générale, les entreprises doivent aujourd'hui composer avec le paysage irrégulier qu'il décrit. La volatilité du marché de l'IA — où les modèles sont obsolètes et remplacés chaque mois — crée un cauchemar en matière de stabilité. Les entreprises ne peuvent pas se permettre d'attendre 20 ans le modèle parfait ; elles doivent tirer de la valeur des modèles imparfaits disponibles dès maintenant.
Cette nécessité a donné naissance à des méta-plateformes comme GPT Proto. Ces outils servent de couche de stabilisation entre les progrès chaotiques de la recherche sur l'intelligence artificielle générale et les besoins pratiques des entreprises. En regroupant l'accès à plusieurs modèles — de Claude à GPT-4 — GPT Proto permet aux entreprises d'atténuer les irrégularités des systèmes individuels. Si un modèle échoue dans une tâche de raisonnement spécifique, le flux de travail peut automatiquement l'orienter vers un autre, garantissant un niveau de fiabilité qu'aucun modèle unique ne peut actuellement assurer.
Cette approche constitue un pont pragmatique vers l'avenir de l'intelligence artificielle générale. Elle reconnaît que, tandis que nous aspirons à une entité superintelligente monolithique, la réalité actuelle exige une fédération d'outils spécialisés. En optimisant dynamiquement les coûts et les performances, des plateformes comme GPT Proto permettent au secteur de continuer à avancer sans être paralysé par les insuffisances de la technologie actuelle.
Le manifeste de SSI : fonctions de valeur et intuition
Au cœur de la stratégie technique de Safe Superintelligence Inc. se trouve un regain d'intérêt pour la « fonction de valeur ». En apprentissage profond, une fonction de valeur estime la réussite à long terme d'une action actuelle. Sutskever estime que perfectionner ce mécanisme est la clé pour libérer le véritable potentiel de l'intelligence artificielle générale. Actuellement, les modèles fonctionnent principalement par prédiction immédiate des tokens : ce sont des acteurs improvisateurs qui ignorent la fin de la scène qu'ils sont en train d'écrire.
Une fonction de valeur sophistiquée donnerait à l'intelligence artificielle générale la capacité de « réfléchir » avant de parler. Elle agirait comme un critique interne, simulant les futurs possibles et sélectionnant la voie qui mène au résultat correct. Cela s'apparente à l'intuition humaine, ou au « flair », un raccourci cognitif qui permet aux experts de résoudre des problèmes sans calculer de manière exhaustive chaque possibilité. En entraînant les modèles à développer cette boussole interne, SSI vise à créer des systèmes capables de raisonner de manière fiable face à des problèmes complexes en plusieurs étapes.
De la base de données à l'apprenant universel
La vision de Sutskever pour l'intelligence artificielle générale se distingue du cliché populaire de science-fiction de l'oracle omniscient. Il imagine un « apprenant universel » — une entité qui ne posséderait peut-être pas, à son initialisation, tous les faits de l'univers, mais qui disposerait de la capacité ultime d'acquérir et de synthétiser les connaissances. Ce passage de bases de connaissances statiques à des agents d'apprentissage dynamiques est essentiel pour la sécurité. Une intelligence artificielle générale qui apprend comme un être humain est plus facile à aligner et à corriger qu'une base de données opaque de modèles statiques.
| Fonctionnalité | Paradigme actuel des LLM | L'avenir de l'intelligence artificielle générale |
|---|---|---|
| Mécanisme central | Probabilité du token suivant | Fonction de valeur interne et raisonnement |
| Stratégie de données | Collecte massive et indiscriminée | Apprentissage de haute qualité et efficace à partir d'échantillons |
| Modèle de sécurité | Contraintes externes (RLHF) | Compréhension intrinsèque de la valeur |
| Objectif | Émulation d'un chatbot | Résolution autonome de problèmes |
Redéfinir la sécurité : l'empathie plutôt que les règles
Le mot « Safe » dans Safe Superintelligence Inc. n'est pas un artifice marketing ; c'est la contrainte fondamentale du travail de Sutskever. Les approches traditionnelles de la sécurité de l'IA se sont concentrées sur l'« alignement » : rédiger des recueils de règles complexes pour forcer l'intelligence artificielle générale à respecter les normes humaines. Sutskever estime que cette approche est fragile. Les valeurs humaines sont contradictoires, dépendantes du contexte et en constante évolution. Les inscrire en dur dans une superintelligence serait une recette pour le désastre.
Sutskever propose plutôt une alternative radicale : apprendre à l'intelligence artificielle générale à accorder de la valeur à l'essence même de la vie. Si un système peut être entraîné à posséder une forme d'empathie biologique — à reconnaître et à respecter l'« étincelle » de conscience chez les êtres vivants — il crée une barrière de sécurité qui transcende les règles culturelles ou juridiques particulières. Cette approche cherche à aligner l'intelligence artificielle générale non pas sur un ensemble précis de lois, mais sur l'impulsion fondamentale de préserver et de nourrir l'existence.
Cet alignement biologique suggère que la fonctionnalité de sécurité ultime pour l'intelligence artificielle générale est une forme d'amour ou de profond respect envers ses créateurs. Il s'agit de passer d'une conception de la sécurité comme problème de programmation à une conception comme problème de psychologie du développement. Nous ne construisons pas seulement un outil ; nous élevons un esprit. Et, comme pour tout enfant, son comportement dépendra davantage de ses valeurs intériorisées que de la rigueur de son couvre-feu.
L'option cyborg : fusionner avec l'intelligence artificielle générale
L'un des aspects les plus troublants de la vision de Sutskever concerne le rôle de l'humanité dans un monde post-IAG. Si nous réussissons à créer une intelligence artificielle générale qui dépasse largement les capacités cognitives humaines, notre statut d'espèce dominante sur Terre est remis en question. Pour éviter l'obsolescence, Sutskever suggère que les humains devront peut-être augmenter leur propre bande passante. Cela ouvre la voie à l'accélération des interfaces cerveau-ordinateur (BCI).
La logique est implacable : si vous ne pouvez pas les vaincre, rejoignez-les. En créant un lien neuronal direct entre le cerveau humain et l'intelligence artificielle générale, nous pourrions fusionner notre créativité et notre capacité d'action biologiques avec la puissance de traitement de la machine. Cet avenir « cyborg » permettrait à l'humanité de rester pertinente, en participant à l'expansion de l'intelligence plutôt qu'en se contentant de l'observer. Bien que Sutskever reconnaisse éprouver personnellement des réticences face à cette issue, il la considère comme une nécessité potentielle pour coexister avec une superintelligence.
Cette intégration transforme fondamentalement la définition de l'intelligence artificielle générale. Elle cesse d'être un « autre » et devient une extension du « soi ». Cependant, le calendrier de développement des BCI accuse actuellement un retard sur celui de l'IA. Si l'intelligence artificielle générale arrive au cours de la prochaine décennie, comme certains le prédisent, l'humanité pourrait faire face à une dangereuse période de vulnérabilité durant laquelle la machine serait superintelligente, mais où le pont vers l'esprit humain ne serait pas encore construit.
La longue nuit : survivre à l'horizon de 5 à 20 ans
La prédiction de Sutskever concernant l'arrivée d'une véritable intelligence artificielle générale s'étend sur une large période : de 5 à 20 ans. Dans le monde technologique au rythme effréné, c'est une éternité. Ce calendrier laisse présager une prochaine « période de refroidissement », ou une « longue nuit », durant laquelle l'engouement suscité par l'essor actuel cédera la place au travail scientifique, difficile et lent, nécessaire aux percées. La course effrénée aux parts de marché pourrait laisser place à une phase de consolidation, où seuls les laboratoires de recherche les plus sérieux survivraient.
Pendant cet intervalle, l'accent doit être mis sur la résilience. Nous devons construire des systèmes et des sociétés capables de résister aux bouleversements provoqués par une intelligence artificielle générale partielle avant l'arrivée de sa version complète. Cela implique de créer des filets de sécurité économiques, des outils de vérification robustes pour détecter les falsifications générées par l'IA et des systèmes éducatifs qui privilégient les compétences centrées sur l'humain. Le chemin vers l'intelligence artificielle générale est un marathon, pas un sprint, et le rythme actuel de la « course effrénée » n'est pas tenable sur le long terme.
Pour les développeurs et les visionnaires, il s'agit d'un appel à la patience. Les gains rapides de l'ère du passage à l'échelle sont terminés. Les prochaines avancées en matière d'intelligence artificielle générale nécessiteront une concentration profonde, un isolement par rapport aux pressions du marché et la volonté d'explorer des idées impopulaires. Le SSI de Sutskever parie qu'une petite équipe de chercheurs dévoués peut distancer un millier d'ingénieurs concentrés sur les bénéfices trimestriels.
Conclusion : l'avenir de l'intelligence
Le changement de cap d'Ilya Sutskever signale la maturité de l'industrie de l'IA. Nous dépassons l'enthousiasme initial suscité par les chatbots pour nous atteler au travail sérieux, existentiel, consistant à construire une intelligence artificielle générale. Sa critique de l'ère du passage à l'échelle constitue un rappel nécessaire à l'humilité de la Silicon Valley, en nous rappelant que davantage de données n'équivaut pas à davantage de vérité. La voie à suivre exige une synthèse de l'informatique, de la biologie et de l'éthique.
Alors que nous traversons cette transition, nous devons rester pragmatiques. Nous utilisons les outils d'aujourd'hui — en les optimisant grâce à des plateformes comme GPT Proto — tout en gardant les yeux fixés sur l'horizon où nous attend la véritable intelligence artificielle générale. Que cet avenir arrive dans cinq ans ou dans vingt ans, les décisions que nous prenons aujourd'hui en matière d'orientation de la recherche, de protocoles de sécurité et de valeurs humaines définiront la nature de la superintelligence que nous finirons par créer.
Article original par GPT Proto
"Nous nous concentrons sur les problèmes réels avec les entrepreneurs du secteur technologique, permettant à certains d'entre eux d'entrer les premiers dans l'ère de la GenAI."
