Richard Golian

Nacido en 1995. Graduado de la Universidad Carolina. Responsable de rendimiento en Mixit. Más de 10 años en el marketing basado en datos.

English Français Slovenčina

Gestionar suscripción Elegir suscripción

RSS
Newsletter
Nuevos artículos en tu correo
Richard Golian

Artículo

El gran problema de las grandes firmas: nadie lee lo que escribe la IA

La basura de IA es un problema que las grandes firmas no pueden vigilar
Richard Golian
Richard Golian · 1 053 lecturas
Hola, soy Richard. En este blog comparto pensamientos, historias personales, hallazgos y en qué estoy trabajando. Espero que este artículo te aporte algo de valor.

Dieciséis de veintisiete fuentes no cuadraban. No existían, llevaban a enlaces rotos o afirmaban algo que no estaba en ellas. El informe lo publicó una de las mayores consultoras del mundo. Se suponía que trataba sobre ciberseguridad. Lo retiraron.

El estudio que nunca existió

En el informe había una cifra concreta. Debía proceder de un estudio de una consultora de fama mundial. Ese estudio nunca se publicó. La cifra viene en realidad de una entrada de blog. Alguien la tomó del blog, se la atribuyó al estudio que no existía y metió ese estudio en el informe como fuente. De ahí la recogió un periódico y se extendió a más de sesenta diarios. Hoy esa misma cifra inventada la repiten como un hecho los modelos de IA corrientes.

¿Es culpa de la IA? No. De aquel resultado respondía una persona. Alguien que dejó trabajar a la IA y no leyó lo que produjo.

No es una sola firma

Unos meses antes, otra firma de las cuatro grandes le entregó a un gobierno un informe por unos 440.000 dólares. Contenía fuentes académicas inventadas y una cita inventada de un juez. La firma devolvió 97.000 dólares y añadió a la versión corregida que había usado IA generativa.

Dos firmas independientes. Ambos casos públicos. No es una excepción. Cada vez hay más.

¿Por qué nadie lo leyó?

La pregunta no es por qué la IA lo generó mal. La IA predice la siguiente palabra del texto. No verifica si algo es cierto, y cuando afirma que sí lo hace, lo hace también prediciendo la siguiente palabra. La pregunta es por qué nadie lo detectó. Y aquí está el problema que las grandes corporaciones no resolverán tan fácilmente.

Una gran corporación produce un volumen enorme de trabajo. Pasa por muchas manos, y buena parte de esas personas están cómodas y hacen un trabajo que no les dice gran cosa. La IA les da una herramienta sin precedentes para sacar ese trabajo en un mínimo de tiempo, mientras que a primera vista parece de calidad.

Continuar

Seguir leyendo gratis

Introduce tu correo para seguir leyendo gratis. Así te suscribes también a mi newsletter mensual. Sin spam, cancela cuando quieras.

Resumen

Dos grandes consultoras entregaron informes con fuentes y citas inventadas por una IA que nadie releyó. El problema no es la IA, sino el tamaño de las corporaciones, en el que un trabajo mal hecho no se puede vigilar con facilidad. Quien trabaja por su cuenta y firma con su propio nombre lo tiene más fácil.

Preguntas frecuentes sobre el tema del artículo

¿Puede la IA inventar fuentes en un informe profesional?
Sí. La IA generativa puede producir un texto que parece terminado, con el formato correcto, un tono académico y una tabla de fuentes, mientras que parte de esas fuentes no existe, lleva a enlaces rotos o afirma algo que no está en la fuente. En un informe de una gran consultora, dieciséis de veintisiete fuentes no cuadraron de este modo.
¿Por qué las grandes corporaciones no detectan los errores de la IA?
Una gran corporación produce un volumen enorme de trabajo. Comprobar cada fuente de cada informe después de cada persona no es viable a esa escala. El control que debía suplir la responsabilidad personal que falta fracasa con ese volumen.
¿El problema de la IA en las empresas es la propia IA?
No. La IA hace exactamente lo que le pides, solo predice la siguiente palabra del texto y no verifica la verdad. El problema es que alguien la deja trabajar y no lee lo que ha producido.
¿Por qué un autónomo tiene ventaja sobre una corporación en la era de la IA?
Quien firma con su propio nombre paga un precio más alto por un trabajo mal hecho. No es una garantía total, pero hay más probabilidades de que tenga cuidado y relea su trabajo. En una corporación, el precio del error lo paga la marca, no una persona concreta.
¿Se puede seguir confiando en un informe de una gran marca?
Menos automáticamente que antes. La confianza en las marcas consolidadas se construyó durante años sobre el hecho de que alguien responde por el resultado. Los casos documentados muestran que eso ya no tiene por qué cumplirse y que conviene verificar incluso lo que viene de una gran firma.
Richard Golian

Si tienes pensamientos, preguntas o comentarios, no dudes en escribirme a mail@richardgolian.com.

Artículos relacionados

La inteligencia artificial es demasiado artificial, pero eso no es un problema

Todo lo que la IA es capaz de hacer, cómo la uso, qué impacto tendrá en el mundo, cómo intento adaptarme al nuevo mundo. Ya he escrito mucho sobre ello. Necesito ordenar de algún modo todos esos pensamientos, simplificarlos. Para tener una brújula que me indique la dirección.

7 de septiembre de 2026·221 lecturas
Qué tendrá valor en la era de la IA

Cuando escuchas que la inteligencia artificial todavía no entrega resultados de calidad suficiente, que para ciertas tareas no sirve, conviene tener presente que hoy eso ya puede no ser cierto. Y aunque lo fuera, en hacer la IA más útil trabajan intensamente las mentes más brillantes del planeta. La mayoría de las tareas del trabajo será automatizada. Para entender hacia dónde va esto hay que hacerse algunas preguntas.

27 de agosto de 2026·493 lecturas
Cómo empezar con la IA en la empresa

Uno de mis familiares describía una empresa que tiene los datos en varias herramientas distintas y cuyos empleados todavía hoy los unen a mano, en hojas de cálculo. Ese es el estado habitual de las empresas. Si a esa gente alguien le dice que no lo haga a mano y que use la IA, no le van a entender. La mayoría de las empresas ni siquiera tiene los conectores básicos entre las herramientas que utiliza. Estas empresas necesitan ayuda con la transformación con IA.

12 de agosto de 2026·640 lecturas

Más artículos

Cómo dejar de depender de las redes sociales y qué es el IndieWeb

Cómo y por qué voy dejando las redes sociales y las grandes plataformas. Cuando leo que Meta está probando una nueva forma de cobrar por las publicaciones orgánicas que enlazan fuera de su plataforma, me confirma lo acertada que fue mi decisión de ser cada vez menos dependiente de las grandes plataformas y de las redes sociales. No significa que las haya abandonado del todo. Significa que el que yo siga o no en contacto con mis lectores depende de ellas cada vez menos, y hoy casi nada.

9 de septiembre de 2026·307 lecturas
Fable 5 vs Opus: ganó el modelo más barato

La misma tarea, dos modelos. Fable 5 contra Opus 4.8. Sobre el papel Fable es el mejor modelo, con más contexto y mejores especificaciones. Y aun así perdió. Opus resolvió la tarea con una sola ronda de control por 721.000 tokens, mientras que Fable necesitó nueve rondas y quemó 2,78 millones de tokens. La diferencia no estaba en el modelo, sino en cómo planteé la tarea. Y lo sé porque lo medí.

22 de julio de 2026·959 lecturas
Mi blog está lleno de bots y agentes de IA

Hace un tiempo escribí sobre cómo construí mi propio sistema de analítica respetuoso con la privacidad. Tenía detección de bots desde la primera versión, pero no bastó. Las visitas directas tenían un peso extrañamente alto. Cuando alguien afirma que el 20 % de sus visitas son bots y el 80 % personas, yo también lo pensaba antes. Hoy diría que la proporción inversa está más cerca de la verdad. Así llegué a esta conclusión.

6 de julio de 2026·2 197 lecturas
Dependientes de la IA: ¿seguimos siendo amos o esclavos?

Tengo a Heidegger y mi cuaderno al lado. Me pregunto hacia dónde se dirige todo esto, hacia dónde nos lleva la inteligencia artificial.

21 de junio de 2026·1 166 lecturas
¿Qué trabajo no reemplazará la IA?

Setenta por ciento. Ahí empieza el primer resultado de la IA, incluso cuando le das todo el contexto de la empresa y los mejores ejemplos del pasado. Hablamos del tipo de resultado que no se puede definir de forma programática. Es más complejo. A menudo se trata de trabajo creativo. Con un tipo de resultado repetido llegué al ochenta por ciento en una semana. Cada punto porcentual adicional es más difícil que el anterior.

10 June 2026·895 lecturas
¿Qué es la teoría del internet muerto y volveremos al offline?

Durante mucho tiempo tratamos internet como el camino principal. El lugar donde ocurren el trabajo y las relaciones. Pero la mayoría de lo que vemos en él hoy ya es, o pronto será, generado por IA: texto, imágenes, perfiles y comentarios. Internet se está convirtiendo en un juego online lleno de bots, donde no puedes estar seguro de que al otro lado haya una persona. Así que me pregunto: ¿fue el mundo online el camino principal, o solo un desvío temporal del que parte de la gente regresará, de vuelta al offline?

7 de junio de 2026·1 111 lecturas
La brecha entre profesionales en la era de la IA

Hace unos días entrevisté a un sénior del marketing. Un hombre con experiencia, años de práctica. Le pregunté por la IA. Me dijo que apenas la usa. Tuvo una mala experiencia con un resultado y decidió que era demasiado sénior para que le aportara algo cuando no es perfecta. Conozco también la otra cara: profesionales que automatizan todo lo que se puede automatizar.

6 de junio de 2026·987 lecturas
Europa no está preparada para la guerra de drones

Europa no tiene capacidad para hacer frente a una guerra de drones masiva y a gran escala como la que vemos en Ucrania. La debilitan tres dependencias: China suministra el material físico de los sistemas de defensa, Estados Unidos aporta las capacidades que Europa no tiene, y veintisiete Estados no logran ponerse de acuerdo sobre con qué rapidez, ni quién paga. Existen planes de rearme, pero se ejecutan con lentitud.

31 de mayo de 2026·985 lecturas
Todo con agentes de IA o totalmente offline

Cuatro días en Cataluña. Sin ordenador, sin IA, casi sin redes sociales. Me compré este cuaderno para anotar lo que pensaría y lo que encontraría y aprendería durante el viaje.

10.5.2026·1 569 lecturas
NEWSLETTER
Sobre lo que escribo, en lo que trabajo, lo que aprendí.
Enviado el primer domingo del mes. Cancela cuando quieras.