La carrera de la Reina Roja: por qué la IA puede hallar fallos de seguridad antes de que haya tiempo de corregirlos

El investigador Christoph Landolt, del centro alemán de ciberseguridad CISPA, advierte de que la inteligencia artificial puede acelerar tanto la búsqueda de fallos de seguridad que quienes deben corregirlos apenas dispongan de tiempo. Para explicarlo recurre a la imagen de la Reina Roja de Lewis Carroll: hay que correr con todas las fuerzas solo para mantenerse en el mismo sitio.

El problema es que una misma herramienta sirve a defensores y atacantes. Una IA que detecta una puerta mal cerrada en un programa ayuda a protegerlo, pero en manos de un atacante puede facilitar la entrada. Si todos reciben esa herramienta a la vez, la ventaja no es necesariamente de quien defiende.

Landolt y sus colaboradores señalan una desigualdad de partida. Quien protege debe localizar el fallo, preparar una corrección, comprobar que no altera otras funciones, distribuirla y esperar a que los usuarios la instalen. El atacante no tiene que cumplir esos pasos. Además, publicar una reparación puede revelar dónde estaba el agujero y facilitar un ataque contra los equipos que aún no se han actualizado.

La propuesta del equipo consiste en cambiar el orden de acceso a las IA más avanzadas: antes de su lanzamiento público, los desarrolladores de software podrían utilizarlas para buscar vulnerabilidades y preparar reparaciones, de forma que las correcciones estén listas cuando el modelo llegue a todo el mundo. No se trata de confiar en que la IA distinga siempre las buenas intenciones, sino de dar tiempo a quienes deben cerrar las puertas.

Para estudiarlo, Landolt, Tobias Lorenz, Marta Kwiatkowska y Mario Fritz han desarrollado un modelo matemático basado en la teoría de juegos, presentado en el trabajo The Oracle's Gambit. Intervienen tres actores: la empresa que crea la IA, los responsables de los programas y los atacantes. El modelo calcula cómo escalonar el acceso para reducir daños, teniendo en cuenta también los intereses comerciales y reputacionales de la compañía desarrolladora.

Los autores reconocen que han simplificado las interacciones posibles y que deben contrastar sus supuestos con la práctica. Incluso así, resolver el modelo una sola vez exigió dos terabytes de memoria RAM. Su aportación es plantear una pregunta que suele quedar en segundo plano: quién debería utilizar primero cada nueva IA. Esta información procede de un medio de Ibiza y no incluye datos concretos sobre Palma.

Información elaborada a partir de Diario de Ibiza.