El gran problema de las grandes firmas: nadie lee lo que escribe la IA

Dieciséis de veintisiete fuentes no cuadraban. No existían, llevaban a enlaces rotos o afirmaban algo que no estaba en ellas. El informe lo publicó una de las mayores consultoras del mundo. Se suponía que trataba sobre ciberseguridad. Lo retiraron.

El estudio que nunca existió

En el informe había una cifra concreta. Debía proceder de un estudio de una consultora de fama mundial. Ese estudio nunca se publicó. La cifra viene en realidad de una entrada de blog. Alguien la tomó del blog, se la atribuyó al estudio que no existía y metió ese estudio en el informe como fuente. De ahí la recogió un periódico y se extendió a más de sesenta diarios. Hoy esa misma cifra inventada la repiten como un hecho los modelos de IA corrientes.

¿Es culpa de la IA? No. De aquel resultado respondía una persona. Alguien que dejó trabajar a la IA y no leyó lo que produjo.

No es una sola firma

Unos meses antes, otra firma de las cuatro grandes le entregó a un gobierno un informe por unos 440.000 dólares. Contenía fuentes académicas inventadas y una cita inventada de un juez. La firma devolvió 97.000 dólares y añadió a la versión corregida que había usado IA generativa.

Dos firmas independientes. Ambos casos públicos. No es una excepción. Cada vez hay más.

¿Por qué nadie lo leyó?

La pregunta no es por qué la IA lo generó mal. La IA predice la siguiente palabra del texto. No verifica si algo es cierto, y cuando afirma que sí lo hace, lo hace también prediciendo la siguiente palabra. La pregunta es por qué nadie lo detectó. Y aquí está el problema que las grandes corporaciones no resolverán tan fácilmente.

Una gran corporación produce un volumen enorme de trabajo. Pasa por muchas manos, y buena parte de esas personas están cómodas y hacen un trabajo que no les dice gran cosa. La IA les da una herramienta sin precedentes para sacar ese trabajo en un mínimo de tiempo, mientras que a primera vista parece de calidad.

Basura que parece trabajo terminado

Antes, este modo de trabajar se notaba a primera vista. Un documento vacío, números que faltaban, un trabajo claramente sin terminar. Hoy la IA produce un texto que parece terminado. Tiene el formato correcto, un tono académico, una tabla de fuentes. Parece exactamente trabajo honesto. Pero no lo es.

La marca que lo paga no es la suya

Para esa persona el coste es bajo. Cuando se destapa, no sufre su nombre. Sufre la marca de la firma, una firma con la que no siente mayor vínculo. Cobra igual. Es más, es muy probable que nunca se descubra. Y si se descubre, puede decir que los empujaban a hacerlo todo más rápido con IA y a ser más productivos. Incluso puede cargárselo a sus jefes y hacerse la víctima.

Una corporación difícilmente puede vigilar resultados así. No porque le dé igual. Porque, con su tamaño y la cantidad de procesos y resultados, tendría que comprobar después de cada persona cada fuente de cada informe. Eso no se puede.

Ese control vendría a suplir la responsabilidad personal que falta en alguien concreto. Ahí está hoy el núcleo del problema.

Quien va con su propio nombre

A diferencia de una gran firma, quien va por su cuenta, con su propio nombre, lo tiene aquí más fácil.

Cuando está su propio nombre, el precio de un trabajo mal hecho es para él más alto. No es un seguro, no garantiza nada, también él puede pasar algo por alto. Pero hay más probabilidades de que tenga cuidado y lo relea.

Por qué pagábamos hasta ahora a las grandes firmas

Pagamos un sobreprecio por una gran marca para tener un resultado estándar y de calidad: porque alguien responde por él. Eso se desmorona cada vez más. La confianza la tiene hoy antes quien responde por el trabajo con su propio nombre. No es una garantía del cien por cien, pero está más cerca de serlo.