OpenAI y Anthropic piden a la ONU más control sobre la inteligencia artificial

Sam Altman, consejero delegado de OpenAI, y Dario Amodei, responsable de Anthropic, llevaron al Consejo de Seguridad de Naciones Unidas su preocupación por los riesgos de la inteligencia artificial y reclamaron medidas para evitar usos indebidos y mantener el control humano sobre estos sistemas.

Durante la sesión, ambos directivos defendieron las oportunidades de la IA, pero insistieron en que su desarrollo debe avanzar acompañado de mecanismos de seguridad. Entre los riesgos señalados figuran los usos maliciosos de los modelos, la pérdida de control humano y la concentración del poder tecnológico.

Altman comparó el potencial de esta tecnología con grandes transformaciones históricas y advirtió de que sus consecuencias dependerán de cómo se desarrolle y utilice. “La IA puede dar lugar a una nueva era del Renacimiento para la creatividad y el descubrimiento, o bien a una nueva Revolución Industrial marcada por el agitación y el caos”, afirmó. También defendió que las herramientas deben potenciar las capacidades de las personas, no sustituir su capacidad de decisión.

Amodei alertó del posible uso de la inteligencia artificial en actividades terroristas o para crear armas biológicas, además de la eventual pérdida de control sobre sistemas cada vez más avanzados. Propuso evaluadores externos para examinar los modelos, estándares de seguridad comunes en la industria y normas internacionales aplicables en distintos países.

El secretario general de la ONU, António Guterres, reclamó responsabilidad y supervisión humana. “Las decisiones de vida o muerte jamás deben confiarse a las máquinas. Los robots asesinos no deben tener cabida en nuestro futuro”, sostuvo.

La advertencia afecta a un debate tecnológico de alcance global, también relevante para los vecinos de Ourense por el impacto que la evolución de la inteligencia artificial puede tener en el trabajo, los servicios y la seguridad, aunque la sesión no estuvo vinculada a ninguna medida concreta en la provincia.

Información elaborada a partir de La Región.