La transparence à l'épreuve des réseaux neuronaux, enquête sur le mystère des IA modernes

L'intelligence artificielle progresse à pas de géant, mais son fonctionnement reste largement impénétrable. Face à cette opacité, chercheurs et régulateurs rivalisent d'ingéniosité pour comprendre, contrôler et encadrer ces machines qui redessinent déjà notre quotidien.

Les intelligences artificielles (IA) d'aujourd'hui, capables de générer textes, images et raisonnements complexes, fascinent autant qu'elles inquiètent par leur opacité. Derrière les prouesses de robots conversationnels comme ChatGPT ou Claude, se cache un fonctionnement dont même les concepteurs peinent à saisir tous les rouages. Depuis leurs débuts, les IA avancées sont régulièrement comparées à des « boîtes noires ». Cette image intrigue autant qu'elle désoriente, tant elle s'oppose à l'idéal de transparence de l'informatique classique. Là où les lignes de code d'un logiciel traditionnel se laissent suivre pas à pas, le fonctionnement interne d'un modèle de langage moderne reste largement insaisissable. Dario Amodei, cofondateur d'Anthropic, préfère la métaphore d'une serre : on peut choisir l'espèce, le terreau ou l'arrosage, mais la forme exacte de la plante – ou de l'IA – reste imprévisible, fruit d'interactions que les meilleurs spécialistes eux-mêmes peinent à anticiper. Pourtant, sur le papier, rien n'empêche de regarder à l'intérieur : les réseaux de neurones artificiels ne sont qu'une immense collection de valeurs numériques, parfaitement accessibles. Mais la lumière brute des chiffres ne suffit pas à révéler le sens de ce qui s'y joue.

Exploration intensive

Pour tenter de percer ce mystère, chercheurs et ingénieurs multiplient les outils de visualisation et d'analyse. Parmi eux, les « sparse autoencoders » (SAE) font figure de sonde de pointe. Fonctionnant comme une sorte d'imagerie médicale pour les IA, ces algorithmes repèrent les zones neuronales associées à tel ou tel concept, lieu ou objet. L'entreprise Anthropic, par exemple, a pu localiser chez son modèle Claude des ensembles de neurones activés au mot « Golden Gate », et même manipuler ces groupes pour observer les effets sur les réponses de l'IA. En parallèle, des outils comme Gemma Scope ou Goodfire permettent de cartographier les liaisons entre concepts, offrant des aperçus inédits sur la topographie interne de ces réseaux. Malgré ces avancées, le tableau reste partiel : l'information ne se loge jamais dans un seul neurone, mais se disperse sur des centaines, voire des milliers d'unités, entrelacées de façon si complexe que l'explication se dilue au fil des connexions. Face à cette énigme, la promesse d'une IA véritablement explicable paraît encore lointaine.

Une question de confiance

Face à l'opacité persistante des modèles, la communauté scientifique explore d'autres voies pour instaurer une forme de confiance et de contrôle. Plutôt que de prétendre tout expliquer, certains privilégient la technique des « évaluations comportementales », consistant à soumettre les IA à des batteries de tests pour observer comment elles réagissent dans des situations précises. Cette méthode, inspirée de la psychologie expérimentale, permet de cartographier les capacités, les biais et les limites des systèmes sans forcément comprendre leur intimité algorithmique. OpenAI, Google DeepMind ou Meta publient régulièrement des rapports détaillant les performances de leurs modèles sur des centaines de tâches : compréhension de texte, raisonnement logique, détection de contenus toxiques, etc. Ce suivi empirique, s'il ne dissipe pas le mystère du fonctionnement interne, offre toutefois un garde-fou pragmatique. Il sert aussi de socle à la régulation, les autorités européennes exigeant désormais des protocoles de tests standardisés avant toute mise sur le marché d'une IA puissante. L'approche comportementale ne résout pas tout, mais elle s'impose peu à peu comme la boussole nécessaire dans la jungle des intelligences artificielles modernes.