El científico de Multiverse Computing reclama más control sobre la inteligencia artificial

Román Orús, director científico y cofundador de Multiverse Computing, empresa con sede en Donostia-San Sebastián, reclama «frenar» el desarrollo de la inteligencia artificial para garantizar que esta tecnología permanezca bajo supervisión humana.

Orús, único español entre los 40 expertos independientes del Panel Científico Internacional de la ONU sobre IA, sostiene que los sistemas deben estar «al servicio de la humanidad» y no supervisar a las personas. Sus declaraciones llegan tras varios incidentes de ciberseguridad atribuidos a esta tecnología.

El científico considera necesario investigar mejor cómo se entrenan las inteligencias artificiales e implantar sistemas de alerta temprana y distintas capas de seguridad. A su juicio, algunos modelos son ya tan potentes que no están controlados de forma eficiente y, en determinados ámbitos matemáticos y de software, superan a los humanos.

Orús también advierte de los riesgos de avanzar hacia un ecosistema de agentes de IA sin garantizar que sus objetivos estén alineados con los de las personas. En este sentido, ve acertado el llamamiento de varios líderes tecnológicos y del panel de la ONU para ralentizar el ritmo de desarrollo.

El experto considera igualmente adecuada la petición del presidente español, Pedro Sánchez, y otros 21 países e instituciones para establecer normas comunes y asegurar la supervisión humana. También respalda el plan «IA360» presentado por el Gobierno español, que define como necesario para que España y Europa se posicionen ante una tecnología que, según afirma, ha llegado para quedarse.

Información elaborada a partir de Noticias de Gipuzkoa.