Artículo
El gran problema de las grandes firmas: nadie lee lo que escribe la IA
Dieciséis de veintisiete fuentes no cuadraban. No existían, llevaban a enlaces rotos o afirmaban algo que no estaba en ellas. El informe lo publicó una de las mayores consultoras del mundo. Se suponía que trataba sobre ciberseguridad. Lo retiraron.
El estudio que nunca existió
En el informe había una cifra concreta. Debía proceder de un estudio de una consultora de fama mundial. Ese estudio nunca se publicó. La cifra viene en realidad de una entrada de blog. Alguien la tomó del blog, se la atribuyó al estudio que no existía y metió ese estudio en el informe como fuente. De ahí la recogió un periódico y se extendió a más de sesenta diarios. Hoy esa misma cifra inventada la repiten como un hecho los modelos de IA corrientes.
¿Es culpa de la IA? No. De aquel resultado respondía una persona. Alguien que dejó trabajar a la IA y no leyó lo que produjo.
No es una sola firma
Unos meses antes, otra firma de las cuatro grandes le entregó a un gobierno un informe por unos 440.000 dólares. Contenía fuentes académicas inventadas y una cita inventada de un juez. La firma devolvió 97.000 dólares y añadió a la versión corregida que había usado IA generativa.
Dos firmas independientes. Ambos casos públicos. No es una excepción. Cada vez hay más.
¿Por qué nadie lo leyó?
La pregunta no es por qué la IA lo generó mal. La IA predice la siguiente palabra del texto. No verifica si algo es cierto, y cuando afirma que sí lo hace, lo hace también prediciendo la siguiente palabra. La pregunta es por qué nadie lo detectó. Y aquí está el problema que las grandes corporaciones no resolverán tan fácilmente.
Una gran corporación produce un volumen enorme de trabajo. Pasa por muchas manos, y buena parte de esas personas están cómodas y hacen un trabajo que no les dice gran cosa. La IA les da una herramienta sin precedentes para sacar ese trabajo en un mínimo de tiempo, mientras que a primera vista parece de calidad.
Seguir leyendo gratis
Introduce tu correo para seguir leyendo gratis. Así te suscribes también a mi newsletter mensual. Sin spam, cancela cuando quieras.
Resumen
Preguntas frecuentes sobre el tema del artículo
¿Puede la IA inventar fuentes en un informe profesional?
¿Por qué las grandes corporaciones no detectan los errores de la IA?
¿El problema de la IA en las empresas es la propia IA?
¿Por qué un autónomo tiene ventaja sobre una corporación en la era de la IA?
¿Se puede seguir confiando en un informe de una gran marca?
Artículos relacionados
¿Eres creador de contenido y sigues las reglas de YouTube, Instagram o Google? ¿Eres un pequeño empresario y tu modelo de negocio depende de con qué frecuencia te recomiende Amazon, de lo caras que serán las impresiones de los anuncios de Facebook o de lo caros que serán los clics en Google Ads? Si todo tu contacto con tu público o tus clientes, o la mayor parte de él, depende de que te muestre alguna gran plataforma, no estás en una buena posición.
Últimamente he realizado muchas entrevistas para puestos bien pagados de directivos, jefes de equipo y especialistas en publicidad, y debo decir que con la mayoría de las personas mantengo conversaciones que habrían tenido sentido en 2024 o 2025, pero no hoy.
Todo lo que la IA es capaz de hacer, cómo la uso, qué impacto tendrá en el mundo, cómo intento adaptarme al nuevo mundo. Ya he escrito mucho sobre ello. Necesito ordenar de algún modo todos esos pensamientos, simplificarlos. Para tener una brújula que me indique la dirección.
Más artículos
El desarrollo de la inteligencia artificial cambia la forma en que miramos qué caminos de vida tienen sentido. Qué estudiar y qué profesión elegir.
Era jueves, 31 de marzo de 2022, cuando traspasé las últimas partes de mis responsabilidades a mis compañeros, cerré el portátil y me fui a la biblioteca. Dejé el trabajo durante varios meses y me sumergí en la filosofía. Y lo agradezco enormemente. Hoy estoy, como la mayoría de la gente, en un carrusel, y me cuesta pararme y pensar en las preguntas fundamentales de mi propia vida.
Era septiembre de 2023. Mi vida, mi trabajo, todo era completamente distinto de ahora. Era más sencillo. No poseía casi nada. Necesitaba grabar un anuncio, subí dentro de la empresa a la planta donde estaba el producto que necesitaba para ese anuncio, y allí me fijé en ella por primera vez. Ella se ríe de mí cuando lo describo así, pero en aquel momento el universo me dijo, es ella.
Cómo y por qué voy dejando las redes sociales y las grandes plataformas. Cuando leo que Meta está probando una nueva forma de cobrar por las publicaciones orgánicas que enlazan fuera de su plataforma, me confirma lo acertada que fue mi decisión de ser cada vez menos dependiente de las grandes plataformas y de las redes sociales. No significa que las haya abandonado del todo. Significa que el que yo siga o no en contacto con mis lectores depende de ellas cada vez menos, y hoy casi nada.
Uno de mis familiares describía una empresa que tiene los datos en varias herramientas distintas y cuyos empleados todavía hoy los unen a mano, en hojas de cálculo. Ese es el estado habitual de las empresas. Si a esa gente alguien le dice que no lo haga a mano y que use la IA, no le van a entender. La mayoría de las empresas ni siquiera tiene los conectores básicos entre las herramientas que utiliza. Estas empresas necesitan ayuda con la transformación con IA.
La misma tarea, dos modelos. Fable 5 contra Opus 4.8. Sobre el papel Fable es el mejor modelo, con más contexto y mejores especificaciones. Y aun así perdió. Opus resolvió la tarea con una sola ronda de control por 721.000 tokens, mientras que Fable necesitó nueve rondas y quemó 2,78 millones de tokens. La diferencia no estaba en el modelo, sino en cómo planteé la tarea. Y lo sé porque lo medí.
Hace un tiempo escribí sobre cómo construí mi propio sistema de analítica respetuoso con la privacidad. Tenía detección de bots desde la primera versión, pero no bastó. Las visitas directas tenían un peso extrañamente alto. Cuando alguien afirma que el 20 % de sus visitas son bots y el 80 % personas, yo también lo pensaba antes. Hoy diría que la proporción inversa está más cerca de la verdad. Así llegué a esta conclusión.
Tengo a Heidegger y mi cuaderno al lado. Me pregunto hacia dónde se dirige todo esto, hacia dónde nos lleva la inteligencia artificial.
Cuatro días en Cataluña. Sin ordenador, sin IA, casi sin redes sociales. Me compré este cuaderno para anotar lo que pensaría y lo que encontraría y aprendería durante el viaje.

