Artículo
El miedo es útil: la IA y la robótica como amenaza para nuestra seguridad
Muchas personas hoy en día no comprenden los riesgos que conlleva el rápido avance de la inteligencia artificial y la robótica. Es momento de hacernos las preguntas difíciles: ¿Qué escenarios nos esperan en el futuro? ¿Cómo podemos prepararnos para ellos y cómo debemos responder?
El primer paso para abordar cualquier problema potencial es reconocerlo. Por eso me pregunto: ¿y si el control físico—o incluso la eliminación—llevados a cabo por robots impulsados por IA dejan de ser solo un concepto de ciencia ficción?
Me gustaría descartar esta pregunta como absurda e irrelevante, pero sé que ignorarla o minimizar su importancia no nos protegerá de los peligros del futuro ni de la pérdida de nuestra libertad personal.
Ya existen sistemas en los que la IA ayuda a gestionar drones, operaciones militares y análisis de comportamiento en tiempo real. Pero ¿y si mañana un dron está flotando frente a tu balcón? No tendrá dilemas morales, no sentirá remordimiento y no cuestionará una orden. Y eso suponiendo que siquiera necesite una orden. Si esta tecnología cae en las manos equivocadas, ¿quién la detendrá? ¿Realmente creemos que nuestras fuerzas del orden podrán protegernos de enjambres de pequeños objetos voladores autónomos cuando el desarrollo y la producción de esta tecnología se están volviendo cada vez más baratos y accesibles? Hoy, los terroristas deben arriesgar su libertad y su vida. La tecnología puede hacer que el terrorismo sea anónimo, llevándolo a una dimensión completamente nueva.
El siguiente paso es un mundo en el que estos sistemas y máquinas tomen decisiones por sí mismos. Pero, ¿qué significa realmente “tomar decisiones” en el contexto de la inteligencia artificial? No se trata simplemente de ejecutar una instrucción, sino de elegir entre múltiples opciones, a menudo basadas en datos que los humanos ni siquiera pueden ver ni comprender del todo. Y cuando esas decisiones ocurren en milisegundos, ¿es siquiera posible intervenir desde fuera?
Únete a la Biblioteca
Acceso completo a mis pensamientos, historias personales, hallazgos y lo que me cuentan las personas con las que me encuentro.
Únete a la Biblioteca — €29,99 al añoReciba el artículo completo por correo electrónico y no dude en responder si desea seguir comentándolo.
Resumen
Preguntas frecuentes sobre el tema del artículo
¿Se están utilizando ya drones autónomos en la guerra?
¿Podrían las armas autónomas tomar decisiones sin supervisión humana?
¿Existe un tratado internacional que regule las armas autónomas?
¿Qué tan accesible se está volviendo la tecnología militar de drones?
¿Podría utilizarse la IA para desarrollar armas biológicas?
Si tienes pensamientos, preguntas o comentarios, no dudes en escribirme a mail@richardgolian.com.
Artículos relacionados
Cuanto más pienso en esto, más me doy cuenta de la importancia fundamental de este tema.
Cuanto más pienso en el futuro, más me doy cuenta de cuántas preguntas esenciales siguen sin respuesta.
Es real, está creciendo y es potencialmente devastadora.
Más artículos
Estoy construyendo un sistema de IA para predecir el S&P 500. Corre en mi propia máquina, usa datos públicos gratuitos — yfinance, FRED, el dataset de Shiller — y evalúa cada pronóstico contra la realidad. Esta serie documenta la construcción en sí: las decisiones, la metodología, los errores. Lo que finalmente comparta del sistema en funcionamiento es una pregunta separada, y honesta.
Ayer no podía despegarme del ordenador. Cuando levanté la cabeza, eran las ocho y media de la tarde. Llevaba unas tres horas sentado solo arriba.
¿Me quitará la IA el trabajo? Un formador certificado de Google me dijo en junio de 2024 que mi profesión dejaría de existir. Veintidós meses después, mi cargo no ha cambiado — pero el noventa por ciento de lo que hago durante el día es distinto. He delegado más de mi pensamiento a agentes de IA de lo que jamás creí posible. No tengo miedo. Esto es por qué, y qué significa para cualquiera que se haga la misma pregunta.
Una hora. Cincuenta y cinco minutos. Ese es el tiempo que me llevó construir lo que una empresa checa de software había cotizado en más de 50.000 €. Lo construí con Claude Code. Ni un prototipo. Ni una prueba de concepto. Una herramienta funcional — la que la empresa realmente necesitaba. Aquella misma tarde ya estaba corriendo en staging. Esto no va sobre Claude Code. Va sobre lo que Claude Code deja al descubierto.
He realizado aproximadamente ciento cincuenta entrevistas prácticas a lo largo de los últimos cuatro años. Cincuenta para puestos de especialista en datos. Cien para especialistas en publicidad y marketing de rendimiento. Casi todas consistieron en sentarme con un candidato frente a una tarea práctica — algo cercano a un problema real que necesitamos resolver en la empresa. Sin teoría. Sin trivialidades. Resolución aplicada de problemas. Con el tiempo, empecé a notar un patrón.
Antes de enseñarle algo a la IA, necesitas ver lo que te está ocultando.
En el momento en que otras personas necesitaron acceso, el problema cambió por completo. Ya no se trataba de si el agente podía aprender. Se trataba de quién tenía derecho a enseñarle.
Quería construir un agente que no solo asista. Uno que actúe.
Esto es lo que aprendí sobre IA local vs cloud y por qué cambié a Claude Code.
¿Qué ocurrió y cómo puede revertirse?
Cuatro días en Cataluña. Sin ordenador, sin IA, casi sin redes sociales. Me compré este cuaderno para anotar lo que pensaría y lo que encontraría y aprendería durante el viaje.