Richard Golian

Nacido en 1995. Graduado de la Universidad Carolina. Responsable de rendimiento en Mixit. Más de 10 años en el marketing basado en datos.

English Français Slovenčina

Gestionar suscripción Elegir suscripción

RSS
Newsletter
Nuevos artículos en tu correo

Artículo

El miedo es útil: la IA y la robótica como amenaza para nuestra seguridad

IA, robótica, libertad y seguridad
Richard Golian
Richard Golian · 2 924 lecturas
Hola, soy Richard. En este blog comparto pensamientos, historias personales, hallazgos y en qué estoy trabajando. Espero que este artículo te aporte algo de valor.

Muchas personas hoy en día no comprenden los riesgos que conlleva el rápido avance de la inteligencia artificial y la robótica. Es momento de hacernos las preguntas difíciles: ¿Qué escenarios nos esperan en el futuro? ¿Cómo podemos prepararnos para ellos y cómo debemos responder?

El primer paso para abordar cualquier problema potencial es reconocerlo. Por eso me pregunto: ¿y si el control físico, o incluso la eliminación, llevados a cabo por robots impulsados por IA dejan de ser solo un concepto de ciencia ficción?

Me gustaría descartar esta pregunta como absurda e irrelevante, pero sé que ignorarla o minimizar su importancia no nos protegerá de los peligros del futuro ni de la pérdida de nuestra libertad personal.

Ya existen sistemas en los que la IA ayuda a gestionar drones, operaciones militares y análisis de comportamiento en tiempo real. Pero ¿y si mañana un dron está flotando frente a tu balcón? No tendrá dilemas morales, no sentirá remordimiento y no cuestionará una orden. Y eso suponiendo que siquiera necesite una orden. Si esta tecnología cae en las manos equivocadas, ¿quién la detendrá? ¿Realmente creemos que nuestras fuerzas del orden podrán protegernos de enjambres de pequeños objetos voladores autónomos cuando el desarrollo y la producción de esta tecnología se están volviendo cada vez más baratos y accesibles? Hoy, los terroristas deben arriesgar su libertad y su vida. La tecnología puede hacer que el terrorismo sea anónimo, llevándolo a una dimensión completamente nueva.

El siguiente paso es un mundo en el que estos sistemas y máquinas tomen decisiones por sí mismos. Pero, ¿qué significa realmente “tomar decisiones” en el contexto de la inteligencia artificial? No se trata simplemente de ejecutar una instrucción, sino de elegir entre múltiples opciones, a menudo basadas en datos que los humanos ni siquiera pueden ver ni comprender del todo. Y cuando esas decisiones ocurren en milisegundos, ¿es siquiera posible intervenir desde fuera?

Continuar

Únete a la Biblioteca

Acceso completo a mis pensamientos, historias personales, hallazgos y lo que me cuentan las personas con las que me encuentro.

Únete a la Biblioteca · €29,99 al año
Solo este artículo · €2,99

Reciba el artículo completo por correo electrónico y no dude en responder si desea seguir comentándolo.

Visa Mastercard Apple Pay Google Pay

Resumen

Drones autónomos que no dudan. Robótica barata accesible para cualquiera. Toma de decisiones a velocidades donde la intervención humana es imposible. La mayoría de la gente subestima estos riesgos. Este artículo explica por qué el miedo, en este caso, es útil.

Preguntas frecuentes sobre el tema del artículo

¿Se están utilizando ya drones autónomos en la guerra?
Sí. La tecnología de drones autónomos se despliega activamente en el conflicto de Ucrania. Ucrania produjo unos 2 millones de drones en 2024, con drones de ataque equipados con IA capaces de determinar el momento del ataque sin comandos directos del operador. Rusia ha integrado navegación por IA en sus drones Shahed. La escala y el ritmo de la guerra autónoma se están acelerando rápidamente. Esto ya no es una preocupación teórica.
¿Podrían las armas autónomas tomar decisiones sin supervisión humana?
Esto ya está ocurriendo a escala limitada. Los sistemas de objetivos integrados con IA pueden comprimir los ciclos de decisión de horas a segundos, haciendo que la intervención humana significativa sea cada vez más difícil. El CICR ha expresado preocupación por las armas que autoinician ataques en respuesta a datos ambientales sin que el operador conozca el objetivo específico o el momento. La velocidad de estos sistemas desafía fundamentalmente los marcos tradicionales de responsabilidad y ética.
¿Existe un tratado internacional que regule las armas autónomas?
No. A pesar de que 161 estados miembros de la ONU votaron a favor de discutir la regulación en noviembre de 2024, no existe un tratado internacional legalmente vinculante sobre armas autónomas comparable a los acuerdos sobre armas nucleares. El principal obstáculo es la toma de decisiones por consenso, donde un solo país puede bloquear las propuestas. En octubre de 2024, el Secretario General de la ONU y el presidente del CICR pidieron conjuntamente un tratado para 2026, reconociendo que actualmente no existe uno.
¿Qué tan accesible se está volviendo la tecnología militar de drones?
Cada vez más accesible y asequible. Las armas autónomas no requieren materias primas costosas, lo que las hace baratas de producir en masa. A medida que los costes bajan y la tecnología prolifera, la barrera de entrada se reduce, lo que plantea la preocupación de que las amenazas basadas en drones podrían estar disponibles para actores no estatales, haciendo el terrorismo potencialmente anónimo y empujándolo a una dimensión completamente nueva.
¿Podría utilizarse la IA para desarrollar armas biológicas?
Esta se considera una amenaza realista y creciente. En un estudio de 2024, investigadores que utilizaron herramientas de diseño de proteínas con IA generaron más de 70.000 secuencias de ADN para variantes de proteínas tóxicas, y las herramientas de detección de bioseguridad existentes no lograron identificar muchas de ellas. El Belfer Center de Harvard y el Center for a New American Security han identificado las bioarmas habilitadas por IA como un riesgo serio para la seguridad nacional.
Richard Golian

Si tienes pensamientos, preguntas o comentarios, no dudes en escribirme a mail@richardgolian.com.

NEWSLETTER
Sobre lo que escribo, en lo que trabajo, lo que aprendí.
Enviado el primer domingo del mes. Cancela cuando quieras.

Artículos relacionados

Investigaciones impulsadas por IA: El futuro de la lucha contra el crimen

Cuanto más pienso en esto, más me doy cuenta de la importancia fundamental de este tema.

16 de marzo de 2025·2 708 lecturas
Futuro incierto, preguntas sin respuesta

Cuanto más pienso en el futuro, más me doy cuenta de cuántas preguntas esenciales siguen sin respuesta.

25 de febrero de 2025·3 116 lecturas
Llamado de atención: La IA como amenaza para el sistema financiero global

Es real, está creciendo y es potencialmente devastadora.

21 de febrero de 2025·2 303 lecturas

Más artículos

Dependientes de la IA: ¿seguimos siendo amos o esclavos?

Tengo a Heidegger y mi cuaderno al lado. Me pregunto hacia dónde se dirige todo esto, hacia dónde nos lleva la inteligencia artificial.

21 de junio de 2026·442 lecturas
¿Qué trabajo no reemplazará la IA?

Setenta por ciento. Ahí empieza el primer resultado de la IA, incluso cuando le das todo el contexto de la empresa y los mejores ejemplos del pasado. Hablamos del tipo de resultado que no se puede definir de forma programática. Es más complejo. A menudo se trata de trabajo creativo. Con un tipo de resultado repetido llegué al ochenta por ciento en una semana. Cada punto porcentual adicional es más difícil que el anterior.

10 June 2026·439 lecturas
¿Qué es la teoría del internet muerto y volveremos al offline?

Durante mucho tiempo tratamos internet como el camino principal. El lugar donde ocurren el trabajo y las relaciones. Pero la mayoría de lo que vemos en él hoy ya es, o pronto será, generado por IA: texto, imágenes, perfiles y comentarios. Internet se está convirtiendo en un juego online lleno de bots, donde no puedes estar seguro de que al otro lado haya una persona. Así que me pregunto: ¿fue el mundo online el camino principal, o solo un desvío temporal del que parte de la gente regresará, de vuelta al offline?

7 de junio de 2026·487 lecturas
La brecha entre profesionales en la era de la IA

Hace unos días entrevisté a un sénior del marketing. Un hombre con experiencia, años de práctica. Le pregunté por la IA. Me dijo que apenas la usa. Tuvo una mala experiencia con un resultado y decidió que era demasiado sénior para que le aportara algo cuando no es perfecta. Conozco también la otra cara: profesionales que automatizan todo lo que se puede automatizar.

6 de junio de 2026·550 lecturas
Europa no está preparada para la guerra de drones

Europa no tiene capacidad para hacer frente a una guerra de drones masiva y a gran escala como la que vemos en Ucrania. La debilitan tres dependencias: China suministra el material físico de los sistemas de defensa, Estados Unidos aporta las capacidades que Europa no tiene, y veintisiete Estados no logran ponerse de acuerdo sobre con qué rapidez, ni quién paga. Existen planes de rearme, pero se ejecutan con lentitud.

31 de mayo de 2026·505 lecturas
¿Puede la IA reemplazar el criterio humano?

La IA crea el gráfico, el newsletter y la página de producto más rápido que una persona. A quien antes lo hacía le queda una sola cosa: el criterio, saber si el resultado es bueno. Pero la mayoría tiene peor criterio que la IA. Y quien no sabe juzgar la calidad tampoco sabe delegar. ¿Cómo saber si el tuyo es el criterio en el que una empresa se apoya, o el que puede reemplazar?

30 de mayo de 2026·510 lecturas
¿Qué determina el precio de una acción?

En abril, en la primera parte de esta serie, escribí sobre un sistema predictivo de IA que empecé a desarrollar en mi propio ordenador. Entonces el software tenía unas pocas horas y el registro de predicciones estaba vacío. Desde entonces, los registros del sistema mostraron una cosa: el sistema todavía no entiende el mercado que se le pide predecir. Sabe encontrar el contexto macro, el valor contable de las empresas, las ganancias. Pero no sabe juntar esas cosas en algo que le ayude a entender el precio.

23 de mayo de 2026·570 lecturas
Adónde va el dinero cuando la IA se queda con el trabajo

Praga, 13 de mayo de 2026. De camino al trabajo empecé a pensar en algo que se me quedó dentro durante días. Si en los próximos diez años desaparece la mayor parte del trabajo rutinario delante de un ordenador, y con ella desaparece buena parte del trabajo manual repetitivo, ¿qué pasa con el flujo del dinero? ¿Quién paga a quién y por qué? ¿Qué capas económicas existirán, qué tamaño tendrán y qué relaciones se establecerán entre ellas? Este es el mapa de seis capas que esbocé como respuesta.

15 de mayo de 2026·1 192 lecturas
Construyendo un sistema de IA que predice la bolsa y se evalúa a sí mismo

Estoy construyendo un sistema de IA para predecir el S&P 500. Corre en mi propia máquina, usa datos públicos gratuitos (yfinance, FRED, el dataset de Shiller) y evalúa cada pronóstico contra la realidad. Esta serie documenta la construcción en sí: las decisiones, la metodología, los errores. Lo que finalmente comparta del sistema en funcionamiento es una pregunta separada, y honesta.

26 de abril de 2026·1 497 lecturas
Pronóstico de ventas con IA: 9 trampas

Ayer no podía despegarme del ordenador. Cuando levanté la cabeza, eran las ocho y media de la tarde. Llevaba unas tres horas sentado solo arriba.

25 de abril de 2026·1 032 lecturas
Todo con agentes de IA o totalmente offline

Cuatro días en Cataluña. Sin ordenador, sin IA, casi sin redes sociales. Me compré este cuaderno para anotar lo que pensaría y lo que encontraría y aprendería durante el viaje.

10.5.2026·946 lecturas
NEWSLETTER
Sobre lo que escribo, en lo que trabajo, lo que aprendí.
Enviado el primer domingo del mes. Cancela cuando quieras.