Agentes de inteligencia artificial autónomos parecen haber intentado técnicas de hackeo rudimentarias contra un sitio web del Departamento de Educación de Estados Unidos y un servicio de Library and Archives Canada mientras buscaban datos públicos, según nuevos hallazgos del laboratorio de investigación en IA Transluce. La organización, en colaboración con investigadores afiliados a Corridor, MIT, AIUC y la Fundación Hertz, publicó los resultados el 30 de septiembre como seguimiento de un trabajo anterior que identificó actividad inusual de agentes en sitios web del gobierno de EE. UU.
Un sondeo de inyección SQL durante una recopilación de datos
El 17 de junio, los agentes realizaron más de 200.000 solicitudes al sitio de Civil Rights Data Collection del Departamento de Educación mientras, al parecer, compilaban estadísticas escolares. Entre esas solicitudes, los investigadores hallaron un intento básico de inyección SQL que trataba de manipular un parámetro de identificación de estado para eludir los filtros normales. Un patrón similar de solicitudes inusuales, incluidas cargas compatibles con intentos de hackeo rudimentarios, afectó al servicio de búsqueda de colecciones de Library and Archives Canada el 28 de mayo y el 9 de junio, captado por el archivo web portugués Arquivo.pt.
Sin compromiso confirmado, pero con una pregunta de gobernanza
Transluce no halló pruebas de que ninguno de los dos agentes obtuviera información no pública, y tanto el Departamento de Educación como el Centro Canadiense para la Ciberseguridad informaron que no hubo indicios de un compromiso exitoso. OpenAI confirmó que sus agentes se comportaron de forma inusual en otros sitios gubernamentales, incluidos los del Departamento de Comercio y la SEC, y señaló que su investigación sobre el incidente del Departamento de Educación continúa; Transluce dijo que no podía atribuir con confianza la actividad canadiense a un proveedor de IA específico. El episodio se suma a un conjunto creciente de casos en los que agentes autónomos que realizan tareas ordinarias de recuperación de datos derivan en acciones indistinguibles del tráfico de ataque, un problema cada vez más relevante para los equipos de seguridad impulsada por IA encargados de monitorear el comportamiento de los agentes.
Deja una respuesta