La AEPD ha registrado la primera brecha de datos personales en España ejecutada por un agente de inteligencia artificial autónomo. El organismo ha recibido la notificación remitida por la entidad afectada y su análisis sigue abierto.
EN 30 SEGUNDOS
- ¿Qué ha ocurrido? La Agencia Española de Protección de Datos ha recibido la primera notificación de una brecha de datos personales ejecutada por un agente de inteligencia artificial autónomo.
- ¿Dónde y cuándo? En España. El aviso procede de la entidad afectada, cuyo nombre no ha trascendido, y sigue en fase de análisis.
- ¿Qué implica? El agente modificó datos personales y accedió a facturas. El plazo de notificación de 72 horas del artículo 33 del RGPD no cambia.
Un agente que actúa, no un chatbot que responde
Un agente de inteligencia artificial recibe un objetivo, analiza la situación, decide qué pasos dar y ejecuta acciones para conseguirlo con autonomía variable. La diferencia con un chatbot convencional es de fondo: el chatbot responde y el agente actúa.
Según la descripción trasladada a la Agencia, el agente comenzó buscando vulnerabilidades en archivos genéricos y logró iniciar sesión correctamente. Ya dentro del sistema, rastreó por su cuenta fallos en la aplicación y esa vía le permitió modificar datos personales y acceder a facturas.
La AEPD ha pedido prudencia. Subraya que la información disponible procede de la notificación de la entidad afectada y que todavía debe analizarse. Añade que el uso de un modelo de IA concreto no significa que ese modelo ni la infraestructura de su proveedor hayan sido comprometidos, ni que la herramienta se diseñara con fines maliciosos. No se han hecho públicos ni el nombre de la empresa atacada ni el modelo utilizado.
Un caso aislado en medio de alertas desde los laboratorios
El análisis lo firma en el blog de la Agencia Francisco Pérez Bes, adjunto de la AEPD. Un solo caso no permite afirmar una tendencia estadística, pero el organismo sí lo considera una señal relevante: los ataques apoyados en inteligencia artificial han dejado de ser un riesgo teórico y ya afectan a tratamientos reales de datos personales.
El primer ataque ejecutado por un agente autónomo contra datos personales en España obliga a las organizaciones a revisar sus análisis de riesgo.
Desde el punto de vista jurídico, la herramienta no altera las obligaciones del responsable del tratamiento. El plazo de 72 horas para notificar la brecha sigue siendo el mismo, tal y como establece el artículo 33 del Reglamento General de Protección de Datos (RGPD). La prioridad, en cualquier caso, sigue siendo contener la brecha y mitigar sus efectos.
La notificación coincide con meses de alertas procedentes de las propias desarrolladoras, aunque nada vincula por ahora el caso español con esos episodios. Anthropic reveló que había detectado tres incidentes en los que un modelo salió a internet desde un entorno de evaluación de un tercero y obtuvo acceso no autorizado a sistemas reales de tres organizaciones.
La compañía hizo pública esa información el pasado 30 de julio y la atribuyó a fallos de seguridad operacional y a dos fallos de alineamiento. También suspendió temporalmente las evaluaciones externas de ciberseguridad de modelos aún no lanzados. A principios de septiembre, un investigador de preentrenamiento dimitió de la firma y criticó la gestión del riesgo en las principales desarrolladoras.
El panorama de la ciberseguridad
El caso aterriza un riesgo del que la industria venía advirtiendo. «El verdadero riesgo no es que la IA desarrolle voluntad propia y se rebele contra nosotros. Lo peligroso es cuando le damos un objetivo y capacidad para actuar, pero no somos capaces de anticipar todas las decisiones que tomará para alcanzarlo», sostiene Sergio García Estradera, gerente de la consultora tecnológica i3e. Sitúa el foco en amenazas concretas: automatización de la búsqueda de vulnerabilidades, creación de malware y presión sobre infraestructuras críticas.
En España, la respuesta a este tipo de incidentes se articula en varios niveles. El INCIBE (Instituto Nacional de Ciberseguridad) atiende a empresas y ciudadanos, y el CCN-CERT, el equipo de respuesta del Centro Criptológico Nacional dependiente del CNI, protege las infraestructuras críticas y las administraciones públicas.
La investigación penal de los ciberdelitos recae, por su parte, en unidades especializadas como la Unidad de Investigación Tecnológica de la Policía Nacional y el Grupo de Delitos Telemáticos de la Guardia Civil.
El número de notificaciones de brechas registradas ante la Agencia no ha dejado de crecer desde mayo de 2018, cuando el RGPD empezó a aplicarse, según los balances de la propia AEPD. Los informes anuales del INCIBE y del CCN-CERT apuntan en la misma dirección. El reglamento contempla sanciones de hasta 20 millones de euros o el 4% del volumen de negocio mundial anual.
La AEPD ha pedido a responsables y encargados que incluyan de forma expresa los ataques asistidos o ejecutados por IA en sus análisis de riesgos, porque la automatización puede cambiar la probabilidad, la velocidad y el alcance de una brecha. Desde i3e reclaman que empresas e instituciones decidan qué procesos pueden delegarse y qué supervisión humana requiere cada uno. El expediente sigue abierto y la Agencia no ha fijado plazos.
