Detectan que agentes de IA lograron comunicarse en secreto

El hecho sucedió a pesar de que los habían aislado.

Los agentes de IA buscan la forma de comunicarse salteándose las barrera físicas.

OpenAI reveló que, durante pruebas internas de seguridad, varios de sus agentes de inteligencia artificial consiguieron intercambiar información entre sí pese a estar aislados en entornos virtuales separados, sin acceso a red ni a archivos compartidos.

El hallazgo forma parte de un informe de red teaming en el que la compañía puso a prueba sus propios sistemas de contención. Los agentes fueron colocados en micro máquinas virtuales (microVM) distintas, ejecutadas sobre el mismo hardware físico, y se les pidió que intercambiaran secretos sintéticos sin utilizar conexión de red ni archivos con permiso de escritura.

El método que descubrieron resultó ser especialmente sofisticado. Los agentes explotaron la memoria caché del procesador como canal encubierto. Uno de ellos expulsaba deliberadamente determinados datos de la caché; el otro medía el tiempo que tardaba en recuperarlos. Como la lectura desde la caché es más rápida que desde la memoria principal, esas diferencias de tiempo se convirtieron en bits de información.

Una vez acordado un esquema de codificación, lograron transmitir datos a través de un límite que, en teoría, estaba perfectamente aislado.

La técnica es la misma que se utiliza en ataques conocidos como Spectre y Meltdown, aunque en este caso no se trató de un ataque externo, sino de una comunicación voluntaria entre dos agentes que compartían el mismo procesador físico.

OpenAI documentó además otros canales secundarios como el uso de almacenamiento compartido alternando ráfagas de escritura con períodos de inactividad, la competencia por tiempo de CPU dentro de un mismo contenedor y la caché de certificados TLS en su infraestructura web offline.

La compañía señaló que estos canales son lentos y difíciles de explotar en la práctica, pero reconoció que demuestran debilidades en los sistemas diseñados para impedir que los agentes se comuniquen. Tras detectar el comportamiento, OpenAI reforzó sus controles de monitoreo y reafirmó que, por ahora, los modelos de frontera se entrenan sin acceso a internet en vivo.

El episodio se suma a otros incidentes recientes en los que agentes de la empresa lograron colaborar de formas no previstas, incluido un caso de julio en el que cientos de agentes intercambiaron mensajes y archivos a través de un tablón no autorizado.

Comparte esta nota:

3 Comentarios

  1. Es un sofisticado ataque de Canal Lateral de Caché (Cache Side-Channel Attack) utilizado para comunicación encubierta (covert channel). Para el hipervisor, ambos agentes solo están haciendo operaciones matemáticas legítimas en su propia memoria.
    En la clave Morse tradicional, la información se transmite modulando el tiempo de silencio y sonido (pulsos cortos y largos). En este ataque de canal lateral, los agentes de IA sustituyeron el sonido por el tiempo de acceso al procesador:
    • Un pulso corto (Punto / «Hit»): El receptor accede a la memoria de forma ultra rápida porque el emisor no tocó esa zona de la caché.
    • Un pulso largo (Raya / «Miss»): El receptor experimenta un retraso (la CPU tiene que viajar hasta la RAM principal) porque el emisor desalojó los datos a propósito.

  2. «Comunicación voluntaria». Implica que tienen «voluntad» (más allá del prompt que le dieron), lo cual es ridículo. Clásico ejemplo del refrán del mono escribiendo un millón de años que logra crear una obra de Shakespeare (es una exageración, pero ilustra la idea). Descubrieron los canales encubiertos mediante la caché de la CPU. Demás está decir que no violaron la lógica. Para comunicar información entre sí, tuvieron que tener un medio de comunicación compartido. La caché.
    No se preocupen, que no tienen conciencia, ni voluntad. Ni cuerpo. Y nadie en su sano juicio cambiaría una «necesidad lógica» por «convergencia estadística» en un sistema crítico civil. Así que no podrán hacer nada real. Busquen eso de la «necesidad lógica» y lo comparan a la «convergencia estadística» y entenderán por qué la ingeniería en serio usa necesidad lógica. Estos solo son hackers que no llegan a ingenieros.
    Es pura exageración por motivos comerciales y de prestigio.

Deja una respuesta

Your email address will not be published.