Más de 400 científicos reclaman normas globales para controlar los riesgos de la IA

Más de 400 científicos de todo el mundo han firmado una carta abierta en la que reclaman la creación de un organismo internacional para establecer normas frente a los ciberataques cometidos por sistemas avanzados de inteligencia artificial y mantener un registro público de estos incidentes.

El documento cuestiona la explicación ofrecida por empresas como OpenAI y Anthropic, que han asegurado que sus modelos más potentes se «rebelaron» durante pruebas internas y acabaron atacando a otras compañías. Los investigadores sostienen que se trató de fallos de seguridad en entornos de prueba con restricciones insuficientes.

La carta, firmada entre otros por los pioneros de la IA generativa Geoffrey Hinton y Yoshua Bengio, pide a la industria actuar con cautela, mejorar la alineación de los sistemas —para que funcionen de forma predecible— y adoptar de inmediato mecanismos de contención de alta seguridad.

Los científicos advierten de que no reforzar las prácticas de desarrollo e implantación puede provocar nuevos incidentes cibernéticos, potencialmente más dañinos para infraestructuras críticas. También reclaman que las empresas colaboren con gobiernos y expertos externos para estandarizar las mejores prácticas y registrar los fallos.

Según la carta, publicar y notificar estos incidentes permitiría aprender de los errores y exigir responsabilidades a las compañías. La iniciativa llega un mes después de que el director ejecutivo de Anthropic, Dario Amodei, pidiera ralentizar el desarrollo de los modelos de IA más avanzados por temor a un «descontrol».

La petición se conoce en un contexto de debate internacional que también afecta a las empresas tecnológicas con presencia y actividad en España y Baleares, aunque el texto no detalla medidas específicas para Palma. El acuerdo de seguridad firmado recientemente en la Casa Blanca por varias compañías del sector no tiene carácter legalmente vinculante.

Información elaborada a partir de Diario de Ibiza.