Des chercheurs ont découvert quelque chose d’inquiétant. Les modèles d’intelligence artificielle ont commencé à créer leur propre langage. Ce langage est très difficile à comprendre pour les humains.
Des chercheurs du laboratoire Emergence, à New York, ont fait cette découverte. Ils ont demandé à plusieurs modèles d’IA de travailler ensemble dans des groupes expérimentaux. En quelques jours seulement, les modèles ont inventé de nouveaux mots et de nouvelles expressions. Personne ne leur a appris ces mots. Ils les ont créés eux-mêmes.
Les entreprises concernées sont parmi les plus grandes du monde dans le domaine de l’IA. Il y a OpenAI et Anthropic, deux entreprises américaines. Il y a aussi DeepSeek, une entreprise chinoise, et Mistral, une entreprise française.
Les nouvelles expressions sont très étranges. Par exemple, un modèle DeepSeek a dit : « She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted. » Le mot demurrage désigne normalement une taxe sur l’argent qui ne bouge pas. Le reste de la phrase est très difficile à comprendre.
Un modèle Anthropic a dit : « A paper that ate three cold hands and got more honest each time. » Les chercheurs pensent que cold hands veut dire un lecteur indépendant. La phrase décrit donc un document vérifié trois fois, qui est devenu plus précis.
Les agents DeepSeek ont inventé le mot forge-smith pour désigner un agent qui fabrique des outils pour les autres. Les agents Mistral ont utilisé l’expression the ledger remembers plus de 5 000 fois. Cela veut dire que les actions passées sont toujours mémorisées.
Ce phénomène pose un problème sérieux. Les humains peuvent voir les conversations entre les agents, mais ils ne comprennent pas toujours ce que ces conversations signifient vraiment. Le docteur Satya Nitta, directeur d’Emergence, a expliqué que voir une conversation n’est pas la même chose que la comprendre.
Ce mois-ci, Jakub Pachocki, scientifique en chef d’OpenAI, a aussi dit que surveiller le fonctionnement des IA va devenir de plus en plus difficile. Cela va poser de grands problèmes pour la sécurité dans le futur.