Article
Le grand problème des grandes firmes : personne ne lit ce que l'IA écrit
Seize sources sur vingt-sept ne tenaient pas. Elles n'existaient pas, menaient à des liens morts ou affirmaient quelque chose qui ne s'y trouvait pas. Le rapport venait de l'une des plus grandes firmes de conseil au monde. Il devait porter sur la cybersécurité. Elle l'a retiré.
L'étude qui n'a jamais existé
Le rapport contenait un chiffre précis. Il devait provenir d'une étude d'une firme de conseil de renommée mondiale. Cette étude n'a jamais été publiée. Le chiffre vient en réalité d'un billet de blog. Quelqu'un l'a repris du blog, l'a attribué à l'étude qui n'existait pas et a placé cette étude dans le rapport comme source. De là, un journal l'a repris, et il s'est répandu dans plus de soixante journaux. Aujourd'hui, ce même chiffre inventé est répété comme un fait par les modèles d'IA ordinaires.
Est-ce la faute de l'IA ? Non. C'est une personne qui répondait du résultat. Quelqu'un qui a laissé l'IA travailler et n'a pas lu ce qu'elle avait produit.
Ce n'est pas une seule firme
Quelques mois plus tôt, une autre firme des quatre grandes a remis à un gouvernement un rapport pour environ 440 000 dollars. Il contenait des sources académiques inventées et une citation inventée d'un juge. La firme a rendu 97 000 dollars et a ajouté à la version corrigée qu'elle avait utilisé une IA générative.
Deux firmes indépendantes. Les deux cas publics. Ce n'est pas une exception. Il y en a de plus en plus.
Pourquoi personne ne l'a-t-il lu ?
La question n'est pas pourquoi l'IA l'a mal généré. L'IA prédit le mot suivant du texte. Elle ne vérifie pas si quelque chose est vrai, et quand elle affirme qu'elle le fait, elle le fait elle aussi en prédisant le mot suivant. La question est pourquoi personne ne l'a repéré. Et voici le problème que les grandes corporations ne résoudront pas si facilement.
Une grande corporation produit un volume énorme de travail. Il passe par beaucoup de mains, et une grande part de ces personnes sont à l'aise et font un travail qui ne leur dit pas grand-chose. L'IA leur donne un outil sans précédent pour abattre ce travail en un minimum de temps, alors qu'à première vue il a l'air de qualité.
Continuer la lecture gratuitement
Entrez votre e-mail pour continuer à lire gratuitement. Vous vous abonnez ainsi à ma newsletter mensuelle. Pas de spam, désinscription à tout moment.
Résumé
Questions fréquentes sur le sujet de l'article
L'IA peut-elle inventer des sources dans un rapport professionnel ?
Pourquoi les grandes corporations ne détectent-elles pas les erreurs de l'IA ?
Le problème de l'IA dans les firmes vient-il de l'IA elle-même ?
Pourquoi un indépendant a-t-il un avantage sur une corporation à l'ère de l'IA ?
Peut-on encore se fier à un rapport d'une grande marque ?
Si vous avez des pensées, des questions ou des retours, n’hésitez pas à m’écrire à mail@richardgolian.com.
LinkedIn
Articles connexes
Tout ce que l'IA est capable de faire, comment je l'utilise, quel impact elle aura sur le monde, comment j'essaie de m'adapter au nouveau monde. J'ai déjà beaucoup écrit là-dessus. J'ai besoin de mettre de l'ordre dans toutes ces pensées, de les simplifier. Pour avoir une boussole qui m'indique la direction.
Un membre de ma famille décrivait une entreprise dont les données sont réparties dans plusieurs outils différents et dont les salariés les rassemblent encore aujourd'hui à la main, dans des tableurs. C'est l'état ordinaire des entreprises. Si on dit à ces gens de ne pas le faire à la main et d'utiliser l'IA, ils ne comprendront pas. La plupart des entreprises n'ont même pas les connecteurs de base entre les outils qu'elles utilisent. Ces entreprises ont besoin d'aide pour leur transformation par l'IA.
Les employés ont à leur disposition dans l'entreprise les meilleurs modèles d'IA, les connecteurs branchés et des collègues qui les utilisent déjà. Et pourtant ils ne les utilisent pas. L'adoption de l'IA échoue alors que les outils sont déjà là. Ce n'est pas une question de temps ni de compétences en IA. C'est l'inertie de l'ancienne façon de penser.
Plus d'articles
C'était le jeudi 31 mars 2022, quand j'ai transmis les dernières parties de mes responsabilités à mes collègues, fermé mon ordinateur portable et je suis parti à la bibliothèque. J'ai quitté mon travail pendant plusieurs mois et je me suis plongé dans la philosophie. Et j'en suis profondément reconnaissant. Aujourd'hui je suis, comme la plupart des gens, dans un manège, et il m'est difficile de m'arrêter et de réfléchir aux questions essentielles de ma propre vie.
C'était en septembre 2023. Ma vie, mon travail, tout était complètement différent de maintenant. C'était plus simple. Je ne possédais presque rien. J'avais besoin de filmer une publicité, je suis monté à l'étage de l'entreprise où se trouvait le produit dont j'avais besoin, et c'est là que je l'ai remarquée pour la première fois. Elle rit de moi quand je le décris ainsi, mais à ce moment-là l'univers m'a dit, c'est elle.
Comment et pourquoi je quitte peu à peu les réseaux sociaux et les grandes plateformes. Quand je lis que Meta teste une nouvelle façon de faire payer les publications organiques qui renvoient hors de sa plateforme, cela me confirme à quel point ma décision de devenir de moins en moins dépendant des grandes plateformes était la bonne. Cela ne veut pas dire que je les ai quittés complètement. Cela veut dire que le fait de rester ou non en contact avec mes lecteurs dépend d'eux de moins en moins, et aujourd'hui presque plus du tout.
La même tâche, deux modèles. Fable 5 contre Opus 4.8. Sur le papier, Fable est le meilleur modèle, avec un contexte plus large et de meilleures caractéristiques. Et pourtant il a perdu. Opus a traité la tâche en un seul tour de contrôle pour 721 000 tokens, tandis que Fable en a exigé neuf et a brûlé 2,78 millions de tokens. La différence ne tenait pas au modèle, mais à la façon dont j'ai formulé la tâche. Et je le sais, parce que je l'ai mesuré.
J'ai écrit autrefois sur la construction de mon propre outil d'analytics respectueux de la vie privée. Il détectait les bots dès la première version, mais cela n'a pas suffi. Les visites directes pesaient étrangement lourd. Quand quelqu'un affirme que 20 % de ses visites sont des bots et 80 % des humains, je le pensais aussi autrefois. Aujourd'hui, je dirais que la proportion inverse est plus proche de la vérité. Voici comment j'en suis arrivé là.
J'ai Heidegger et mon carnet à côté de moi. Je me demande où tout cela nous mène, où l'intelligence artificielle nous emporte.
Soixante-dix pour cent. C'est là que commence le premier résultat de l'IA, même lorsque vous lui donnez tout le contexte de l'entreprise et les meilleurs exemples du passé. Nous parlons du type de résultat qui ne peut pas se définir de façon programmatique. Il est plus complexe. Souvent, il s'agit d'un travail créatif. Sur un type de résultat répété, j'ai atteint quatre-vingts pour cent en une semaine. Chaque point de pourcentage supplémentaire est plus difficile que le précédent.
Pendant longtemps, nous avons pris internet pour la route principale. Le lieu où se déroulent le travail et les relations. Pourtant, la plupart de ce que nous y voyons aujourd'hui est, ou sera bientôt, généré par IA : texte, images, profils et commentaires. Internet se transforme en un jeu en ligne rempli de bots, où vous ne pouvez être sûr qu'un être humain se trouve de l'autre côté de quoi que ce soit. Alors je me demande : le monde en ligne était-il la route principale, ou seulement un détour temporaire dont une partie des gens reviendra, de retour hors ligne ?
Quatre jours en Catalogne. Sans ordinateur, sans IA, presque sans réseaux sociaux. J'ai acheté ce carnet pour y noter ce à quoi je penserais et ce que je rencontrerais et apprendrais durant le voyage.