Article
Le grand problème des grandes firmes : personne ne lit ce que l'IA écrit
Seize sources sur vingt-sept ne tenaient pas. Elles n'existaient pas, menaient à des liens morts ou affirmaient quelque chose qui ne s'y trouvait pas. Le rapport venait de l'une des plus grandes firmes de conseil au monde. Il devait porter sur la cybersécurité. Elle l'a retiré.
L'étude qui n'a jamais existé
Le rapport contenait un chiffre précis. Il devait provenir d'une étude d'une firme de conseil de renommée mondiale. Cette étude n'a jamais été publiée. Le chiffre vient en réalité d'un billet de blog. Quelqu'un l'a repris du blog, l'a attribué à l'étude qui n'existait pas et a placé cette étude dans le rapport comme source. De là, un journal l'a repris, et il s'est répandu dans plus de soixante journaux. Aujourd'hui, ce même chiffre inventé est répété comme un fait par les modèles d'IA ordinaires.
Est-ce la faute de l'IA ? Non. C'est une personne qui répondait du résultat. Quelqu'un qui a laissé l'IA travailler et n'a pas lu ce qu'elle avait produit.
Ce n'est pas une seule firme
Quelques mois plus tôt, une autre firme des quatre grandes a remis à un gouvernement un rapport pour environ 440 000 dollars. Il contenait des sources académiques inventées et une citation inventée d'un juge. La firme a rendu 97 000 dollars et a ajouté à la version corrigée qu'elle avait utilisé une IA générative.
Deux firmes indépendantes. Les deux cas publics. Ce n'est pas une exception. Il y en a de plus en plus.
Pourquoi personne ne l'a-t-il lu ?
La question n'est pas pourquoi l'IA l'a mal généré. L'IA prédit le mot suivant du texte. Elle ne vérifie pas si quelque chose est vrai, et quand elle affirme qu'elle le fait, elle le fait elle aussi en prédisant le mot suivant. La question est pourquoi personne ne l'a repéré. Et voici le problème que les grandes corporations ne résoudront pas si facilement.
Une grande corporation produit un volume énorme de travail. Il passe par beaucoup de mains, et une grande part de ces personnes sont à l'aise et font un travail qui ne leur dit pas grand-chose. L'IA leur donne un outil sans précédent pour abattre ce travail en un minimum de temps, alors qu'à première vue il a l'air de qualité.
Continuer la lecture gratuitement
Entrez votre e-mail pour continuer à lire gratuitement. Vous vous abonnez ainsi à ma newsletter mensuelle. Pas de spam, désinscription à tout moment.
Résumé
Questions fréquentes sur le sujet de l'article
L'IA peut-elle inventer des sources dans un rapport professionnel ?
Pourquoi les grandes corporations ne détectent-elles pas les erreurs de l'IA ?
Le problème de l'IA dans les firmes vient-il de l'IA elle-même ?
Pourquoi un indépendant a-t-il un avantage sur une corporation à l'ère de l'IA ?
Peut-on encore se fier à un rapport d'une grande marque ?
Si vous avez des pensées, des questions ou des retours, n’hésitez pas à m’écrire à mail@richardgolian.com.
LinkedIn
Articles connexes
Un membre de ma famille décrivait une entreprise dont les données sont réparties dans plusieurs outils différents et dont les salariés les rassemblent encore aujourd'hui à la main, dans des tableurs. C'est l'état ordinaire des entreprises. Si on dit à ces gens de ne pas le faire à la main et d'utiliser l'IA, ils ne comprendront pas. La plupart des entreprises n'ont même pas les connecteurs de base entre les outils qu'elles utilisent. Ces entreprises ont besoin d'aide pour leur transformation par l'IA.
Les employés ont à leur disposition dans l'entreprise les meilleurs modèles d'IA, les connecteurs branchés et des collègues qui les utilisent déjà. Et pourtant ils ne les utilisent pas. L'adoption de l'IA échoue alors que les outils sont déjà là. Ce n'est pas une question de temps ni de compétences en IA. C'est l'inertie de l'ancienne façon de penser.
Soixante-dix pour cent. C'est là que commence le premier résultat de l'IA, même lorsque vous lui donnez tout le contexte de l'entreprise et les meilleurs exemples du passé. Nous parlons du type de résultat qui ne peut pas se définir de façon programmatique. Il est plus complexe. Souvent, il s'agit d'un travail créatif. Sur un type de résultat répété, j'ai atteint quatre-vingts pour cent en une semaine. Chaque point de pourcentage supplémentaire est plus difficile que le précédent.
Plus d'articles
La même tâche, deux modèles. Fable 5 contre Opus 4.8. Sur le papier, Fable est le meilleur modèle, avec un contexte plus large et de meilleures caractéristiques. Et pourtant il a perdu. Opus a traité la tâche en un seul tour de contrôle pour 721 000 tokens, tandis que Fable en a exigé neuf et a brûlé 2,78 millions de tokens. La différence ne tenait pas au modèle, mais à la façon dont j'ai formulé la tâche. Et je le sais, parce que je l'ai mesuré.
J'ai écrit autrefois sur la construction de mon propre outil d'analytics respectueux de la vie privée. Il détectait les bots dès la première version, mais cela n'a pas suffi. Les visites directes pesaient étrangement lourd. Quand quelqu'un affirme que 20 % de ses visites sont des bots et 80 % des humains, je le pensais aussi autrefois. Aujourd'hui, je dirais que la proportion inverse est plus proche de la vérité. Voici comment j'en suis arrivé là.
J'ai Heidegger et mon carnet à côté de moi. Je me demande où tout cela nous mène, où l'intelligence artificielle nous emporte.
Pendant longtemps, nous avons pris internet pour la route principale. Le lieu où se déroulent le travail et les relations. Pourtant, la plupart de ce que nous y voyons aujourd'hui est, ou sera bientôt, généré par IA : texte, images, profils et commentaires. Internet se transforme en un jeu en ligne rempli de bots, où vous ne pouvez être sûr qu'un être humain se trouve de l'autre côté de quoi que ce soit. Alors je me demande : le monde en ligne était-il la route principale, ou seulement un détour temporaire dont une partie des gens reviendra, de retour hors ligne ?
Il y a quelques jours, j'ai fait passer un entretien à un responsable marketing senior. Un homme d'expérience, des années de pratique. Je l'ai interrogé sur l'IA. Il m'a dit qu'il ne l'utilise presque pas. Il a eu une mauvaise expérience avec un résultat et a conclu qu'il était trop expérimenté pour que cela lui apporte quelque chose tant que ce n'est pas parfait. Je connais aussi l'autre versant : des professionnels qui automatisent tout ce qui peut l'être.
L'Europe n'a pas les capacités pour faire face à une guerre de drones massive et à grande échelle comme celle que nous voyons en Ukraine. Trois dépendances l'affaiblissent : la Chine fournit le matériau physique des systèmes de défense, les États-Unis fournissent les capacités que l'Europe n'a pas, et vingt-sept États ne parviennent pas à s'entendre sur le rythme, ni sur qui paie. Des plans de réarmement existent, mais ils sont mis en œuvre lentement.
L'IA crée le visuel, la newsletter et la page produit plus vite qu'une personne. À celui qui le faisait auparavant, il ne reste qu'une chose : le jugement, savoir si le résultat est bon. Mais la plupart des gens ont un moins bon jugement que l'IA. Et celui qui ne sait pas juger la qualité ne sait pas non plus déléguer. Comment savoir si le vôtre est le jugement sur lequel une entreprise s'appuie, ou celui qu'elle peut remplacer ?
En avril, dans la première partie de cette série, j'écrivais sur un système d'IA prédictif commencé sur mon propre ordinateur. Le logiciel avait alors quelques heures, le registre de prédictions était vide. Depuis, les enregistrements ont révélé une chose qui, avec le recul, était prévisible : le système ne comprend pas encore le marché qu'on lui demande de prévoir. Il sait trouver le contexte macro, la valeur comptable des entreprises, les bénéfices. Mais il ne sait pas assembler ces choses en quelque chose qui l'aide à comprendre le prix.
Quatre jours en Catalogne. Sans ordinateur, sans IA, presque sans réseaux sociaux. J'ai acheté ce carnet pour y noter ce à quoi je penserais et ce que je rencontrerais et apprendrais durant le voyage.