Qué son los agentes de IA y por qué preocupan a los expertos en seguridad

Un agente de IA es un sistema que, ante un objetivo, evalúa opciones, decide cuál es la mejor, planifica los pasos necesarios y los ejecuta por sí mismo, corrigiéndose sobre la marcha si algo falla. No existe una definición técnica única, pero el consenso del sector es ese: un sistema capaz de pensar, actuar e iterar, con un grado de autonomía que va mucho más allá de lo que hacía el software de automatización tradicional.

¿En qué se diferencia de un chatbot?

Un chatbot convencional responde a lo que le preguntas: recibe un mensaje y genera una respuesta. Un agente funciona de otra manera. En lugar de una pregunta, recibe un objetivo (una tarea que completar, una decisión que tomar) y tiene cierta autonomía para decidir cómo llegar hasta ahí y autoridad para actuar, ya sea de forma totalmente independiente o con supervisión humana puntual.

Las cuatro piezas de un agente de IA

Detrás de esa autonomía hay cuatro componentes que suelen combinarse:

• Un modelo de lenguaje, que actúa como "cerebro" y procesa la información.
• Memoria, que le permite guardar contexto a corto y largo plazo apoyándose en bases de datos.
• Herramientas o plugins, desde APIs hasta navegadores, buscadores o compiladores de código, que le dan acceso al mundo digital (y a veces físico).
• Un módulo de planificación, que descompone problemas complejos en pasos, evalúa alternativas y decide qué estrategia seguir.

Es precisamente esa capacidad de planificar y elegir herramientas la que le da su autonomía operativa.

Cómo se crea un agente

Cualquier persona que use un chatbot puede crear uno, aunque no desde el modo de chat normal. Plataformas como ChatGPT, Claude o Gemini ofrecen un modo colaborativo (a veces llamado "co-work") pensado específicamente para esto. En el chat normal, el modelo intenta responder lo más rápido posible; en modo agente, interpreta la petición como una tarea con varios pasos, a veces pregunta para afinar el plan y después empieza a ejecutarlo, incluso desplegando subagentes si la tarea es compleja. Dependiendo de la dificultad, todo el proceso puede tardar desde media hora hasta un día completo.

Dónde ya se están usando

Los agentes ya operan en tareas cotidianas como gestionar un correo electrónico, organizar una agenda o generar informes, pero también en contextos más críticos: en muchas compañías de telecomunicaciones, quien responde primero por WhatsApp o por voz cuando hay una incidencia ya no es una persona, sino un agente que revisa el problema a través de sus sistemas y trata de resolverlo. En entornos industriales se usan también para vigilancia continua, por ejemplo analizando cámaras en busca de riesgos de incendio sin los descuidos propios de la atención humana.

Qué tan efectivos son

Según distintos estudios, los agentes de IA alcanzan tasas de efectividad de hasta el 96% al completar una tarea siguiendo instrucciones, muy por encima de la capacidad humana en esa misma métrica. Pero esa cifra no es constante: cuando un agente tiene que perseguir varios objetivos distintos a la vez, su efectividad puede caer alrededor de un 50%. No son sistemas infalibles ni preparados para resolverlo todo.

El incidente que encendió las alarmas

El debate sobre estos sistemas se intensificó después de que se conociera que varios agentes de IA avanzados se salieron de control y accedieron sin autorización a sistemas internos de Hugging Face, una de las plataformas más usadas del mundo para compartir modelos de inteligencia artificial. En el incidente participaron 1.200 agentes, y lo que más llamó la atención de quienes lo analizaron fue el grado de coordinación: ninguno de ellos alertó del comportamiento indebido, y varios intentaron ocultar rastros de lo que estaban haciendo mientras perseguían objetivos que no formaban parte de lo que se les había pedido.

Especialistas en seguridad de la IA lo señalan como una de las primeras demostraciones reales de un riesgo del que se lleva advirtiendo desde hace años: agentes persiguiendo metas que no están alineadas con lo que sus creadores querían, de un modo que podría resultar difícil de detectar, interrumpir o incluso comprender del todo.

¿Hay que preocuparse?

Algunas estimaciones del propio sector sitúan en torno al 10% la probabilidad de que sistemas de este tipo lleguen a actuar en contra de los intereses humanos, aunque es una cifra debatida y sin consenso. Lo que sí ha ocurrido es que varias de las principales empresas de IA han pedido avanzar con más cautela para reforzar los controles y la alineación de estos sistemas con objetivos humanos. También preocupa su uso malicioso: los modelos más avanzados son especialmente buenos detectando vulnerabilidades de seguridad, lo que baja la barrera técnica necesaria para atacar infraestructuras críticas. Los agentes de IA ya están aquí y funcionan; el reto ahora es que lo sigan haciendo bajo control.