Artículo
El miedo es útil: la IA y la robótica como amenaza para nuestra seguridad
Muchas personas hoy en día no comprenden los riesgos que conlleva el rápido avance de la inteligencia artificial y la robótica. Es momento de hacernos las preguntas difíciles: ¿Qué escenarios nos esperan en el futuro? ¿Cómo podemos prepararnos para ellos y cómo debemos responder?
El primer paso para abordar cualquier problema potencial es reconocerlo. Por eso me pregunto: ¿y si el control físico, o incluso la eliminación, llevados a cabo por robots impulsados por IA dejan de ser solo un concepto de ciencia ficción?
Me gustaría descartar esta pregunta como absurda e irrelevante, pero sé que ignorarla o minimizar su importancia no nos protegerá de los peligros del futuro ni de la pérdida de nuestra libertad personal.
Ya existen sistemas en los que la IA ayuda a gestionar drones, operaciones militares y análisis de comportamiento en tiempo real. Pero ¿y si mañana un dron está flotando frente a tu balcón? No tendrá dilemas morales, no sentirá remordimiento y no cuestionará una orden. Y eso suponiendo que siquiera necesite una orden. Si esta tecnología cae en las manos equivocadas, ¿quién la detendrá? ¿Realmente creemos que nuestras fuerzas del orden podrán protegernos de enjambres de pequeños objetos voladores autónomos cuando el desarrollo y la producción de esta tecnología se están volviendo cada vez más baratos y accesibles? Hoy, los terroristas deben arriesgar su libertad y su vida. La tecnología puede hacer que el terrorismo sea anónimo, llevándolo a una dimensión completamente nueva.
El siguiente paso es un mundo en el que estos sistemas y máquinas tomen decisiones por sí mismos. Pero, ¿qué significa realmente “tomar decisiones” en el contexto de la inteligencia artificial? No se trata simplemente de ejecutar una instrucción, sino de elegir entre múltiples opciones, a menudo basadas en datos que los humanos ni siquiera pueden ver ni comprender del todo. Y cuando esas decisiones ocurren en milisegundos, ¿es siquiera posible intervenir desde fuera?
Únete a la Biblioteca
Acceso completo a mis hallazgos, historias personales y lo que me cuentan las personas con las que me encuentro.
Únete a la Biblioteca · €29,99 al añoReciba el artículo completo por correo electrónico y no dude en responder si desea seguir comentándolo.
Resumen
Preguntas frecuentes sobre el tema del artículo
¿Se están utilizando ya drones autónomos en la guerra?
¿Podrían las armas autónomas tomar decisiones sin supervisión humana?
¿Existe un tratado internacional que regule las armas autónomas?
¿Qué tan accesible se está volviendo la tecnología militar de drones?
¿Podría utilizarse la IA para desarrollar armas biológicas?
Si tienes pensamientos, preguntas o comentarios, no dudes en escribirme a mail@richardgolian.com.
LinkedIn
Artículos relacionados
Cuanto más pienso en esto, más me doy cuenta de la importancia fundamental de este tema.
Cuanto más pienso en el futuro, más me doy cuenta de cuántas preguntas esenciales siguen sin respuesta.
Es real, está creciendo y es potencialmente devastadora.
Más artículos
La misma tarea, dos modelos. Fable 5 contra Opus 4.8. Sobre el papel Fable es el mejor modelo, con más contexto y mejores especificaciones. Y aun así perdió. Opus resolvió la tarea con una sola ronda de control por 721.000 tokens, mientras que Fable necesitó nueve rondas y quemó 2,78 millones de tokens. La diferencia no estaba en el modelo, sino en cómo planteé la tarea. Y lo sé porque lo medí.
Hace un tiempo escribí sobre cómo construí mi propio sistema de analítica respetuoso con la privacidad. Tenía detección de bots desde la primera versión, pero no bastó. Las visitas directas tenían un peso extrañamente alto. Cuando alguien afirma que el 20 % de sus visitas son bots y el 80 % personas, yo también lo pensaba antes. Hoy diría que la proporción inversa está más cerca de la verdad. Así llegué a esta conclusión.
Tengo a Heidegger y mi cuaderno al lado. Me pregunto hacia dónde se dirige todo esto, hacia dónde nos lleva la inteligencia artificial.
Setenta por ciento. Ahí empieza el primer resultado de la IA, incluso cuando le das todo el contexto de la empresa y los mejores ejemplos del pasado. Hablamos del tipo de resultado que no se puede definir de forma programática. Es más complejo. A menudo se trata de trabajo creativo. Con un tipo de resultado repetido llegué al ochenta por ciento en una semana. Cada punto porcentual adicional es más difícil que el anterior.
Durante mucho tiempo tratamos internet como el camino principal. El lugar donde ocurren el trabajo y las relaciones. Pero la mayoría de lo que vemos en él hoy ya es, o pronto será, generado por IA: texto, imágenes, perfiles y comentarios. Internet se está convirtiendo en un juego online lleno de bots, donde no puedes estar seguro de que al otro lado haya una persona. Así que me pregunto: ¿fue el mundo online el camino principal, o solo un desvío temporal del que parte de la gente regresará, de vuelta al offline?
Hace unos días entrevisté a un sénior del marketing. Un hombre con experiencia, años de práctica. Le pregunté por la IA. Me dijo que apenas la usa. Tuvo una mala experiencia con un resultado y decidió que era demasiado sénior para que le aportara algo cuando no es perfecta. Conozco también la otra cara: profesionales que automatizan todo lo que se puede automatizar.
Europa no tiene capacidad para hacer frente a una guerra de drones masiva y a gran escala como la que vemos en Ucrania. La debilitan tres dependencias: China suministra el material físico de los sistemas de defensa, Estados Unidos aporta las capacidades que Europa no tiene, y veintisiete Estados no logran ponerse de acuerdo sobre con qué rapidez, ni quién paga. Existen planes de rearme, pero se ejecutan con lentitud.
La IA crea el gráfico, el newsletter y la página de producto más rápido que una persona. A quien antes lo hacía le queda una sola cosa: el criterio, saber si el resultado es bueno. Pero la mayoría tiene peor criterio que la IA. Y quien no sabe juzgar la calidad tampoco sabe delegar. ¿Cómo saber si el tuyo es el criterio en el que una empresa se apoya, o el que puede reemplazar?
En abril, en la primera parte de esta serie, escribí sobre un sistema predictivo de IA que empecé a desarrollar en mi propio ordenador. Entonces el software tenía unas pocas horas y el registro de predicciones estaba vacío. Desde entonces, los registros del sistema mostraron una cosa: el sistema todavía no entiende el mercado que se le pide predecir. Sabe encontrar el contexto macro, el valor contable de las empresas, las ganancias. Pero no sabe juntar esas cosas en algo que le ayude a entender el precio.
Cuatro días en Cataluña. Sin ordenador, sin IA, casi sin redes sociales. Me compré este cuaderno para anotar lo que pensaría y lo que encontraría y aprendería durante el viaje.