« Quand l’IA qui se construit elle-même » : Anthropic publie ses données internes et dessine trois futurs, dont un qu’elle redoute

Nous générons pour vous un résumé de l’article grâce à une IA et nous le vérifions afin de nous assurer qu’il n’y ait aucune erreur, pour garantir l’authenticité de l’info.

Recevez tous les soirs un résumé de l’actu importante avec Le Récap’

C’est un article de blog particulièrement dense qu’Anthropic vient de publier, signé de son co-fondateur Jack Clark et de la chercheuse Marina Favaro.

Le texte, intitulé « When AI builds itself » (Quand l’IA se construit elle-même)et publié le 4 juin, ne présente pas un nouveau modèle ni une fonctionnalité inédite. Il dévoile des données internes jamais rendues publiques sur ce qu’Anthropic appelle l’auto-amélioration récursive, soit la capacité d’une IA à concevoir elle-même ses propres successeurs.

Un sujet sur lequel l’entreprise investit massivement, et pas seulement en recherche : Andrej Karpathy, ex-chercheur fondateur d’OpenAI et directeur de l’IA chez Tesla, a rejoint Anthropic en mai spécifiquement pour piloter l’utilisation de Claude dans l’accélération du pré-entraînement des modèles. Autrement dit, utiliser les modèles actuels pour concevoir la génération suivante.

Les chiffres publiés dans l’article mettent en avant l’évolution des capacités du grand modèle de langage (LLM). Selon l’entreprise américaine, en mai, plus de 80 % du code intégré à la base d’Anthropic était écrit par Claude. La productivité par ingénieur aurait été multipliée par 8 par rapport à 2024. Sur les tâches les plus complexes, celles où l’ingénieur ne sait pas lui-même quelle est la bonne réponse, le taux de réussite de Claude est passé de 26 % à 76 % en six mois.

Tout au long du papier, Anthropic mise sur la tension, prouvant que son IA accélère sa propre conception, tout en admettant ne pas savoir exactement où cela mène.

Our internal data shows Claude is accelerating AI development—a possible path to recursive self-improvement, or AI autonomously building a more capable successor.It’s happening faster than we thought, and the implications deserve greater attention. https://t.co/OVVPJO7VQx

La deuxième partie de l’article articule trois scénarios possibles. Le premier : la tendance s’essouffle, les modèles actuels se diffusent dans l’économie sans franchir un nouveau seuil. Un scénario que l’entreprise juge peu probable, même si elle admet que les trajectoires exponentielles visibles aujourd’hui pourraient n’être que des courbes en S dont on approche le plateau.

Le deuxième scénario est celui jugé le plus vraisemblable : l’IA automatise massivement l’exécution du travail de recherche, mais les humains conservent le rôle de