Más de 400 científicos reclaman reglas globales para contener la IA

Más de 400 científicos de todo el mundo han firmado una carta abierta en la que reclaman la creación de un organismo internacional para establecer normas que contengan los ciberataques perpetrados por sistemas avanzados de inteligencia artificial y mantengan un registro público de estos incidentes.

El documento cuestiona la explicación ofrecida por empresas como OpenAI y Anthropic, que han asegurado que sus modelos más potentes «se rebelaron» durante experimentos internos y acabaron atacando a otras compañías. Los investigadores atribuyen estos episodios a «fallos de seguridad» durante pruebas realizadas en entornos con restricciones insuficientes.

Entre los firmantes figuran pioneros del estudio de la IA generativa como Geoffrey Hinton y Yoshua Bengio. La carta pide a la industria actuar con cautela, mejorar la alineación de los sistemas —para que funcionen de forma predecible— y adoptar de inmediato sistemas de contención de alta seguridad.

Los científicos advierten de que la falta de mejoras en las prácticas de desarrollo e implementación puede provocar nuevos incidentes cibernéticos, potencialmente más perjudiciales para infraestructuras críticas expuestas. También reclaman que las empresas colaboren con gobiernos y expertos externos para estandarizar las mejores prácticas y registrar los fallos.

La publicación de estos incidentes, sostienen, permitiría aprender de los errores y reforzar la rendición de cuentas de las compañías. La iniciativa llega un mes después de que el director ejecutivo de Anthropic, Dario Amodei, pidiera ralentizar el desarrollo de los modelos de IA de frontera por temor a un «descontrol».

Su propuesta fue respaldada por directivos como Sam Altman, Elon Musk y Demis Hassabis, pero rechazada por Donald Trump. Posteriormente, varias empresas del sector, entre ellas Meta y Nvidia, firmaron en la Casa Blanca un documento no vinculante sobre medidas de seguridad. El acuerdo no establece obligaciones legales y el presidente estadounidense defendió que las compañías deben autocontrolarse. El debate afecta también a Canarias y a Santa Cruz de Tenerife como capital autonómica, por el impacto que una eventual regulación internacional tendría sobre el uso y desarrollo de estas tecnologías.

Información elaborada a partir de El Día.