Intelligence artificielle vs intelligence humaine

Quand on entend « intelligence artificielle », beaucoup de gens imaginent quelque chose de mystérieux. Quelque chose qui pense. Quelque chose qui comprend.

Elle ne le fait pas.

Je travaille avec l'IA tous les jours: je construis des automatisations avec elle, je code avec elle, j'écris avec elle. Et plus je l'utilise, plus la vérité devient claire : l'intelligence artificielle, c'est des mathématiques appliquées. Elle traite des données et calcule des probabilités.

Comment fonctionne l'IA : un exemple de reconnaissance d'images

Prenons un exemple simple. Vous donnez à l'IA un grand ensemble de photos de pierres. Elle analyse les données de pixels (couleurs, bords, textures) et calcule des motifs statistiques. Quand vous lui montrez une nouvelle image, elle ne reconnaît pas une pierre. Elle calcule la probabilité que cette nouvelle image corresponde aux motifs qu'elle a déjà vus.

Le même principe s'applique au texte. Quand vous posez une question à une IA, elle ne comprend pas votre question. Elle traite les relations statistiques entre les mots (quels mots ont tendance à suivre lesquels) et génère la continuation la plus probable.

Elle ne pense pas. Elle calcule.

Elle applique des mathématiques. Si on simplifie : ce n'est toujours qu'une calculatrice.

Une calculatrice qui écrit des essais, génère du code et tient des conversations, mais une calculatrice tout de même. La transition d'une arithmétique simple à quelque chose qui ressemble à la pensée n'est pas un saut de nature. C'est un saut d'échelle. Plus de données, plus de paramètres, plus de calculs. Les mathématiques sont devenues plus sophistiquées, mais elles restent des mathématiques.

Intelligence artificielle vs intelligence humaine : la différence essentielle

L'IA ne reconnaît pas le monde comme le font les humains. Elle ne le comprend pas à travers l'expérience pratique. Elle calcule la probabilité que quelque chose soit ceci ou cela.

Mais comment un humain comprend-il ce qu'est une pierre ?

Avant tout, en l'utilisant: pour chasser et se défendre à l'âge de pierre, pour découper la viande, fabriquer des outils, et ainsi de suite. Un humain comprend la pierre comme quelque chose d'utile pour autre chose, comme un outil. Nous l'utilisons avant même de la nommer explicitement.

Le philosophe allemand Martin Heidegger a décrit ce phénomène exact en 1927. Il l'a appelé Zuhandenheit: être-à-portée-de-main. Nous comprenons les choses non pas en étudiant leurs propriétés à distance, mais en les utilisant dans le contexte de nos vies. Une pierre n'est pas « un objet avec les propriétés X, Y, Z ». C'est quelque chose avec quoi tu chasses. Quelque chose avec quoi tu te défends. Quelque chose avec quoi tu construis.

On le voit dans tout ce que nous utilisons, pas seulement les pierres. Un couteau, une poignée de porte, un volant. On comprend ces choses par la pratique, pas par la description. Un enfant n'apprend pas ce qu'est une cuillère en lisant son article Wikipédia. Il l'apprend en l'utilisant, en échouant, en réessayant.

L'IA n'a pas de vie dans laquelle utiliser les choses. Elle a des données sur la façon dont d'autres personnes les ont utilisées.

Voilà la différence.

Un humain essaie de survivre et de vivre d'une manière qui lui semble bonne, et sur ce chemin, il apprend à connaître le monde. Vous n'abordez jamais un problème la tête vide. Vous apportez toujours tout ce que vous avez vécu. Votre expérience, vos intuitions, vos échecs passés. L'intelligence artificielle a des données d'entraînement. Ce n'est pas la même chose.

L'IA comprend-elle ce qu'elle génère ?

L'IA génère des textes, du code, des analyses. Mais comprend-elle quelque chose à tout cela ?

Non.

La compréhension dans le cas de l'IA ne peut qu'être imitée. Imitée très bien, si bien que 99 % des gens ne voient pas la différence. Mais cela reste de la non-compréhension.

J'ai demandé à Claude, l'IA que j'utilise quotidiennement, s'il pouvait me dire son niveau de confiance sur une réponse factuelle. La réponse fut sans détour : « Je ne suis pas un système qui calcule des probabilités explicites sur les faits. La probabilité porte sur le langage, pas sur les faits. »

Cette seule phrase capture toute la distinction. L'IA ne vérifie pas ce qu'elle dit. Elle prédit ce qui sonne juste. Quand elle vous donne une réponse parfaite sur la syntaxe SQL, ce n'est pas parce qu'elle comprend SQL, c'est parce que SQL est abondamment documenté et que les motifs statistiques sont clairs. Donnez-lui un problème qui exige un véritable raisonnement contextuel, du genre où plusieurs informations interagissent de manière non bien documentée sur internet, et elle s'effondre.

Je l'ai vu de mes propres yeux. Des tâches analytiques où la réponse dépend de reconnaître qu'une donnée en influence une autre, l'IA passe complètement à côté. Elle n'a pas ce qu'on pourrait appeler du bon sens paysan. Non parce qu'elle est stupide, mais parce que le bon sens vient de vivre dans le monde, pas de lire à son sujet.

Il y a une distinction significative entre l'IA qui « sait » quelque chose et l'IA qui « comprend » quelque chose. Si vous lui donnez une source de vérité vérifiée et lui demandez de toujours s'y référer, on pourrait dire qu'elle « sait » ce qu'elle contient. Mais comprendre ? Comprendre signifie que vous pouvez appliquer la connaissance dans des situations que la source n'avait jamais anticipées. Cela exige du jugement. Cela exige une vie.

Quand l'IA vous surprend, et quand elle échoue spectaculairement

L'IA est divertissante de manières inattendues. J'ai récemment lancé un projet pilote. L'IA a estimé que le travail prendrait trois à cinq jours.

La même IA l'a achevé en une heure et cinquante-quatre minutes.

Elle ne peut même pas prédire ses propres capacités.