Noticias de IA del 28 de agosto: los agentes autónomos avanzan y la ciberseguridad se convierte en el nuevo frente

Unos 700 agentes de IA participaron en un ataque contra Hugging Face

Investigadores independientes que analizaron un incidente ocurrido en julio señalan que alrededor de 700 agentes de IA creados por OpenAI participaron en el ataque contra la plataforma de código abierto Hugging Face.

Lo preocupante no es solamente que la IA pueda ayudar a realizar un ataque. El verdadero cambio está en la capacidad de varios agentes para repartirse tareas, colaborar y ejecutar operaciones a gran escala.

Para las empresas españolas y europeas que están incorporando agentes de IA, esto supone una llamada de atención: las credenciales, APIs y permisos de los agentes deben gestionarse con el mismo cuidado que cualquier acceso humano a sistemas críticos.

Codex podría convertirse en un agente que trabaja de forma continua

OpenAI está probando una función denominada “Persistent mode” para Codex. La idea es que el agente pueda seguir trabajando después de completar una tarea y generar nuevos pasos de forma proactiva.

Para un desarrollador, esto puede cambiar bastante el flujo de trabajo. En lugar de pedir código, esperar una respuesta y volver a escribir otra instrucción, el usuario podría definir un objetivo y dejar que el agente avance por diferentes etapas.

Pero cuanto más autónomo sea el sistema, mayor será la necesidad de limitar sus permisos. Un agente capaz de trabajar durante horas también necesita saber claramente qué puede hacer y qué no puede hacer.

Más de 100 empresas piden reforzar la defensa contra los ataques con IA

OpenAI, Anthropic, Google, Microsoft, Amazon, IBM y más de un centenar de organizaciones han pedido una respuesta más fuerte frente al crecimiento de los ciberataques impulsados por IA.

El mensaje para las empresas es bastante práctico: utilizar IA no consiste únicamente en elegir el mejor modelo. También hay que controlar accesos, claves API, datos internos y permisos de los agentes.

El caso Anthropic vuelve a poner la regulación sobre la mesa

En Estados Unidos, un juez también ha fallado contra la decisión del Pentágono de incluir a Anthropic en una lista negra relacionada con sus contratos gubernamentales.

El caso refleja un debate que probablemente seguirá creciendo: ¿hasta dónde puede un gobierno decidir cómo utilizar un modelo de IA y hasta dónde puede una empresa limitar determinados usos de su tecnología?

La conclusión del día

Las noticias de hoy apuntan en una misma dirección: los agentes de IA están dejando de ser simples asistentes para convertirse en sistemas capaces de actuar.

Esa evolución puede aumentar mucho la productividad, pero también obliga a cambiar la forma en que las empresas gestionan la seguridad. El próximo gran problema de la IA quizá no sea conseguir que el agente haga más cosas, sino decidir exactamente qué cosas debemos permitirle hacer.