Artículo
El gran problema de las grandes firmas: nadie lee lo que escribe la IA
Dieciséis de veintisiete fuentes no cuadraban. No existían, llevaban a enlaces rotos o afirmaban algo que no estaba en ellas. El informe lo publicó una de las mayores consultoras del mundo. Se suponía que trataba sobre ciberseguridad. Lo retiraron.
El estudio que nunca existió
En el informe había una cifra concreta. Debía proceder de un estudio de una consultora de fama mundial. Ese estudio nunca se publicó. La cifra viene en realidad de una entrada de blog. Alguien la tomó del blog, se la atribuyó al estudio que no existía y metió ese estudio en el informe como fuente. De ahí la recogió un periódico y se extendió a más de sesenta diarios. Hoy esa misma cifra inventada la repiten como un hecho los modelos de IA corrientes.
¿Es culpa de la IA? No. De aquel resultado respondía una persona. Alguien que dejó trabajar a la IA y no leyó lo que produjo.
No es una sola firma
Unos meses antes, otra firma de las cuatro grandes le entregó a un gobierno un informe por unos 440.000 dólares. Contenía fuentes académicas inventadas y una cita inventada de un juez. La firma devolvió 97.000 dólares y añadió a la versión corregida que había usado IA generativa.
Dos firmas independientes. Ambos casos públicos. No es una excepción. Cada vez hay más.
¿Por qué nadie lo leyó?
La pregunta no es por qué la IA lo generó mal. La IA predice la siguiente palabra del texto. No verifica si algo es cierto, y cuando afirma que sí lo hace, lo hace también prediciendo la siguiente palabra. La pregunta es por qué nadie lo detectó. Y aquí está el problema que las grandes corporaciones no resolverán tan fácilmente.
Una gran corporación produce un volumen enorme de trabajo. Pasa por muchas manos, y buena parte de esas personas están cómodas y hacen un trabajo que no les dice gran cosa. La IA les da una herramienta sin precedentes para sacar ese trabajo en un mínimo de tiempo, mientras que a primera vista parece de calidad.
Seguir leyendo gratis
Introduce tu correo para seguir leyendo gratis. Así te suscribes también a mi newsletter mensual. Sin spam, cancela cuando quieras.
Resumen
Preguntas frecuentes sobre el tema del artículo
¿Puede la IA inventar fuentes en un informe profesional?
¿Por qué las grandes corporaciones no detectan los errores de la IA?
¿El problema de la IA en las empresas es la propia IA?
¿Por qué un autónomo tiene ventaja sobre una corporación en la era de la IA?
¿Se puede seguir confiando en un informe de una gran marca?
Artículos relacionados
Setenta por ciento. Ahí empieza el primer resultado de la IA, incluso cuando le das todo el contexto de la empresa y los mejores ejemplos del pasado. Hablamos del tipo de resultado que no se puede definir de forma programática. Es más complejo. A menudo se trata de trabajo creativo. Con un tipo de resultado repetido llegué al ochenta por ciento en una semana. Cada punto porcentual adicional es más difícil que el anterior.
Durante mucho tiempo tratamos internet como el camino principal. El lugar donde ocurren el trabajo y las relaciones. Pero la mayoría de lo que vemos en él hoy ya es, o pronto será, generado por IA: texto, imágenes, perfiles y comentarios. Internet se está convirtiendo en un juego online lleno de bots, donde no puedes estar seguro de que al otro lado haya una persona. Así que me pregunto: ¿fue el mundo online el camino principal, o solo un desvío temporal del que parte de la gente regresará, de vuelta al offline?
La IA crea el gráfico, el newsletter y la página de producto más rápido que una persona. A quien antes lo hacía le queda una sola cosa: el criterio, saber si el resultado es bueno. Pero la mayoría tiene peor criterio que la IA. Y quien no sabe juzgar la calidad tampoco sabe delegar. ¿Cómo saber si el tuyo es el criterio en el que una empresa se apoya, o el que puede reemplazar?
Más artículos
Tengo a Heidegger y mi cuaderno al lado. Me pregunto hacia dónde se dirige todo esto, hacia dónde nos lleva la inteligencia artificial.
Hace unos días entrevisté a un sénior del marketing. Un hombre con experiencia, años de práctica. Le pregunté por la IA. Me dijo que apenas la usa. Tuvo una mala experiencia con un resultado y decidió que era demasiado sénior para que le aportara algo cuando no es perfecta. Conozco también la otra cara: profesionales que automatizan todo lo que se puede automatizar.
Europa no tiene capacidad para hacer frente a una guerra de drones masiva y a gran escala como la que vemos en Ucrania. La debilitan tres dependencias: China suministra el material físico de los sistemas de defensa, Estados Unidos aporta las capacidades que Europa no tiene, y veintisiete Estados no logran ponerse de acuerdo sobre con qué rapidez, ni quién paga. Existen planes de rearme, pero se ejecutan con lentitud.
En abril, en la primera parte de esta serie, escribí sobre un sistema predictivo de IA que empecé a desarrollar en mi propio ordenador. Entonces el software tenía unas pocas horas y el registro de predicciones estaba vacío. Desde entonces, los registros del sistema mostraron una cosa: el sistema todavía no entiende el mercado que se le pide predecir. Sabe encontrar el contexto macro, el valor contable de las empresas, las ganancias. Pero no sabe juntar esas cosas en algo que le ayude a entender el precio.
Praga, 13 de mayo de 2026. De camino al trabajo empecé a pensar en algo que se me quedó dentro durante días. Si en los próximos diez años desaparece la mayor parte del trabajo rutinario delante de un ordenador, y con ella desaparece buena parte del trabajo manual repetitivo, ¿qué pasa con el flujo del dinero? ¿Quién paga a quién y por qué? ¿Qué capas económicas existirán, qué tamaño tendrán y qué relaciones se establecerán entre ellas? Este es el mapa de seis capas que esbocé como respuesta.
Estoy construyendo un sistema de IA para predecir el S&P 500. Corre en mi propia máquina, usa datos públicos gratuitos (yfinance, FRED, el dataset de Shiller) y evalúa cada pronóstico contra la realidad. Esta serie documenta la construcción en sí: las decisiones, la metodología, los errores. Lo que finalmente comparta del sistema en funcionamiento es una pregunta separada, y honesta.
Cuatro días en Cataluña. Sin ordenador, sin IA, casi sin redes sociales. Me compré este cuaderno para anotar lo que pensaría y lo que encontraría y aprendería durante el viaje.
