Artículo
Cuando tu agente de IA se une al equipo
Del aprendizaje al control de acceso
En mi artículo anterior, describí la construcción de un agente de IA que aprende entre sesiones. Un agente con memoria estructurada, un bucle de autocorrección y un sistema de acumulación de experiencia de una ejecución a otra.
En el momento en que otras personas necesitaron acceso, el problema cambió por completo. Ya no se trataba de si el agente podía aprender. Se trataba de quién tenía derecho a enseñarle.
Qué pasa cuando tu equipo accede a un agente de IA
La mayoría de los artículos sobre agentes de IA se centran en lo que el agente puede hacer. Muy pocos hablan de lo que sucede cuando alguien que no es su creador empieza a utilizarlo.
Construí un bot de Slack. La idea era sencilla: darle al equipo una forma de interactuar directamente con el agente: hacer preguntas, solicitar análisis, obtener informes. Sin terminal. Sin código. Solo Slack.
Funcionó de inmediato. Y ahí es donde apareció el verdadero problema.
El chat libre con un agente de IA es una interfaz poderosa. También es un riesgo. Si cualquier persona del equipo puede escribirle cualquier cosa al agente, cualquiera puede accidentalmente sobrescribir su memoria, modificar su comportamiento o desencadenar acciones no previstas. El agente no juzga la autoridad. Procesa las entradas.
La pregunta no era si el equipo debía tener acceso. La pregunta era: ¿qué tipo de acceso?
Control de acceso basado en roles para agentes de IA
Terminé implementando un sistema de roles. Tres niveles: administrador, analista, observador.
El observador puede leer informes y ver lo que el agente produce. Nada más. Sin comandos, sin chat, sin influencia sobre el comportamiento.
El analista puede hacer más. Puede hacer preguntas. Puede ejecutar comandos predefinidos. Y, este es el punto importante, puede escribir en la memoria del agente. Pero solo a través de un comando explícito, no mediante una conversación libre. Si un analista escribe una instrucción de memorización en el formato correcto, el agente la guarda. Si intenta escribirla como un mensaje informal, el sistema la ignora.
El administrador tiene acceso sin restricciones. Chat libre, comandos directos, escrituras en memoria, cambios de configuración.
Suena como un modelo de permisos estándar. Pero la distinción que importa no es quién puede leer o escribir. Es quién puede enseñar. Porque cada entrada en la memoria cambia lo que el agente sabe. Y lo que el agente sabe moldea cada producción futura.
Por qué la memoria de un agente de IA se convierte en una base de conocimiento compartida
Esto es algo que no aprecié completamente hasta que lo vi en la práctica.
En el artículo anterior, describí la capa de memoria estructurada: un archivo que el agente lee antes de cada ejecución, con las lecciones de sesiones anteriores. Lo que no dije es qué pasa cuando esa memoria se vuelve compartida.
En el momento en que varias personas contribuyen a la memoria del agente, deja de ser una herramienta personal. Se convierte en una base de conocimiento compartida. Cada entrada afecta cada sesión futura, no solo para la persona que la escribió, sino para todos los que interactúan con el agente.
El acceso no controlado a esa memoria es un riesgo real. No porque la gente tenga malas intenciones. Sino porque el agente no distingue entre un insight metodológico cuidadosamente considerado y un comentario casual escrito sin pensar. Trata ambos como verdades equivalentes.
El acceso a la memoria solo por comando para los analistas fue el compromiso. Se puede contribuir. Pero se hace de forma deliberada, en un formato estructurado, y queda registrado.
Qué pasa cuando el agente se equivoca de metodología
Esta me tomó por sorpresa.
Únete a la Biblioteca
Acceso completo a mis hallazgos, historias personales y lo que me cuentan las personas con las que me encuentro.
Únete a la Biblioteca · €29,99 al año Cómo empezar con la IA en la empresa: automatizar… Fable 5 vs Opus: hice la misma auditoría con… Una IA local y gratis reconoció lo que veía… ¿Bot o humano? Lo que… Dependientes de la IA: ¿seguimos… ¿Qué trabajo no reemplazará la IA? Por ahora…Reciba el artículo completo por correo electrónico y no dude en responder si desea seguir comentándolo.
Resumen
Preguntas frecuentes sobre el tema del artículo
¿Qué es el control de acceso basado en roles para agentes de IA?
¿Por qué la memoria de un agente de IA es un riesgo cuando se comparte en un equipo?
¿Pueden los agentes de IA quedar atrapados en errores lógicos?
¿Cuál es la diferencia entre un agente de IA que se corrige a sí mismo y uno que realmente aprende?
¿Cómo desplegar un agente de IA para un equipo de forma segura?
¿Cuál es el mayor desafío al escalar un agente de IA del uso individual al uso en equipo?
Artículos relacionados
La IA crea el gráfico, el newsletter y la página de producto más rápido que una persona. A quien antes lo hacía le queda una sola cosa: el criterio, saber si el resultado es bueno. Pero la mayoría tiene peor criterio que la IA. Y quien no sabe juzgar la calidad tampoco sabe delegar. ¿Cómo saber si el tuyo es el criterio en el que una empresa se apoya, o el que puede reemplazar?
En abril, en la primera parte de esta serie, escribí sobre un sistema predictivo de IA que empecé a desarrollar en mi propio ordenador. Entonces el software tenía unas pocas horas y el registro de predicciones estaba vacío. Desde entonces, los registros del sistema mostraron una cosa: el sistema todavía no entiende el mercado que se le pide predecir. Sabe encontrar el contexto macro, el valor contable de las empresas, las ganancias. Pero no sabe juntar esas cosas en algo que le ayude a entender el precio.
Estoy construyendo un sistema de IA para predecir el S&P 500. Corre en mi propia máquina, usa datos públicos gratuitos (yfinance, FRED, el dataset de Shiller) y evalúa cada pronóstico contra la realidad. Esta serie documenta la construcción en sí: las decisiones, la metodología, los errores. Lo que finalmente comparta del sistema en funcionamiento es una pregunta separada, y honesta.
Más artículos
Uno de mis familiares describía una empresa que tiene los datos en varias herramientas distintas y cuyos empleados todavía hoy los unen a mano, en hojas de cálculo. Ese es el estado habitual de las empresas. Si a esa gente alguien le dice que no lo haga a mano y que use la IA, no le van a entender. La mayoría de las empresas ni siquiera tiene los conectores básicos entre las herramientas que utiliza. Estas empresas necesitan ayuda con la transformación con IA.
La misma tarea, dos modelos. Fable 5 contra Opus 4.8. Sobre el papel Fable es el mejor modelo, con más contexto y mejores especificaciones. Y aun así perdió. Opus resolvió la tarea con una sola ronda de control por 721.000 tokens, mientras que Fable necesitó nueve rondas y quemó 2,78 millones de tokens. La diferencia no estaba en el modelo, sino en cómo planteé la tarea. Y lo sé porque lo medí.

Hace un tiempo escribí sobre cómo construí mi propio sistema de analítica respetuoso con la privacidad. Tenía detección de bots desde la primera versión, pero no bastó. Las visitas directas tenían un peso extrañamente alto. Cuando alguien afirma que el 20 % de sus visitas son bots y el 80 % personas, yo también lo pensaba antes. Hoy diría que la proporción inversa está más cerca de la verdad. Así llegué a esta conclusión.

Tengo a Heidegger y mi cuaderno al lado. Me pregunto hacia dónde se dirige todo esto, hacia dónde nos lleva la inteligencia artificial.
Setenta por ciento. Ahí empieza el primer resultado de la IA, incluso cuando le das todo el contexto de la empresa y los mejores ejemplos del pasado. Hablamos del tipo de resultado que no se puede definir de forma programática. Es más complejo. A menudo se trata de trabajo creativo. Con un tipo de resultado repetido llegué al ochenta por ciento en una semana. Cada punto porcentual adicional es más difícil que el anterior.
Durante mucho tiempo tratamos internet como el camino principal. El lugar donde ocurren el trabajo y las relaciones. Pero la mayoría de lo que vemos en él hoy ya es, o pronto será, generado por IA: texto, imágenes, perfiles y comentarios. Internet se está convirtiendo en un juego online lleno de bots, donde no puedes estar seguro de que al otro lado haya una persona. Así que me pregunto: ¿fue el mundo online el camino principal, o solo un desvío temporal del que parte de la gente regresará, de vuelta al offline?
Hace unos días entrevisté a un sénior del marketing. Un hombre con experiencia, años de práctica. Le pregunté por la IA. Me dijo que apenas la usa. Tuvo una mala experiencia con un resultado y decidió que era demasiado sénior para que le aportara algo cuando no es perfecta. Conozco también la otra cara: profesionales que automatizan todo lo que se puede automatizar.
Europa no tiene capacidad para hacer frente a una guerra de drones masiva y a gran escala como la que vemos en Ucrania. La debilitan tres dependencias: China suministra el material físico de los sistemas de defensa, Estados Unidos aporta las capacidades que Europa no tiene, y veintisiete Estados no logran ponerse de acuerdo sobre con qué rapidez, ni quién paga. Existen planes de rearme, pero se ejecutan con lentitud.

Cuatro días en Cataluña. Sin ordenador, sin IA, casi sin redes sociales. Me compré este cuaderno para anotar lo que pensaría y lo que encontraría y aprendería durante el viaje.

