DivNet busca frenar ataques de audio contra asistentes de inteligencia artificial
Una técnica desarrollada en Estados Unidos busca impedir que audios aparentemente normales activen órdenes maliciosas en asistentes de IA.
Investigadores de la George Mason University, en Estados Unidos, estudian cómo grabaciones aparentemente normales pueden engañar a sistemas de reconocimiento de voz y asistentes de inteligencia artificial para provocar acciones no autorizadas.
El fenómeno, conocido como «ejemplos adversarios de audio», consiste en preparar una grabación para que una máquina reconozca palabras elegidas por un atacante aunque el sonido parezca normal para las personas. Entre los posibles usos maliciosos figuran abrir una puerta, transferir dinero, manipular transcripciones o controlar vehículos mediante órdenes de voz.
El riesgo depende de los permisos del dispositivo y de las comprobaciones que exija antes de ejecutar acciones sensibles. Los investigadores advierten de que la amenaza podría ampliarse si un mismo modelo de inteligencia artificial se instala en millones de dispositivos, ya que un audio diseñado contra un sistema concreto podría funcionar en otros aparatos similares.
Para reducir esa posibilidad, el equipo ha desarrollado una técnica de diversificación de redes neuronales denominada DivNet. El método modifica de forma selectiva algunos parámetros del modelo para crear versiones diferentes que mantengan su capacidad de entender conversaciones normales, pero que no respondan igual ante un audio malicioso.
Las pruebas se realizaron con los sistemas de reconocimiento Wav2Vec2 y DeepSpeech, tanto mediante ataques digitales como en entornos físicos. Según el estudio, publicado en Proceedings of the 24th Annual International Conference on Mobile Systems, Applications and Services, las variantes redujeron la eficacia de los audios adversarios sin perjudicar de forma notable el reconocimiento habitual.
Mientras avanzan estas defensas, los especialistas recomiendan exigir confirmaciones adicionales para pagos o accesos físicos, proteger las operaciones sensibles con códigos o autenticación y mantener actualizados los dispositivos. La investigación, aunque no se desarrolla en Santa Cruz de Tenerife, resulta relevante para los usuarios de asistentes de voz y dispositivos conectados de la capital tinerfeña.
Información elaborada a partir de El Día.