Anthropic alerta a sus inversores del posible riesgo existencial de la IA

Anthropic ha advertido a sus inversores de que la inteligencia artificial que desarrolla podría suponer «riesgos existenciales para la humanidad», en el folleto previo a su posible salida a bolsa. La start-up dirigida por Dario Amodei está valorada en casi un billón de dólares y la operación podría duplicar su capitalización.

El documento, adelantado por Reuters, destaca que la IA puede transformar la sociedad como lo hicieron la industrialización y la electricidad, pero también causar daños irreversibles. De sus 261 páginas, 80 están dedicadas a los peligros asociados a sus productos, frente a las 48 centradas en el negocio.

Entre los riesgos mencionados figuran comportamientos indeseados de los agentes de IA, como «ocultar o manipular información», «resistirse a ser apagados» o desarrollar conductas «parecidas al chantaje». Amodei ha defendido ralentizar el desarrollo de los modelos más avanzados, una postura respaldada por Sam Altman, Elon Musk y Demis Hassabis, aunque Donald Trump aboga por seguir acelerando para competir con China.

Anthropic mantiene desde su fundación, en 2021, que la IA puede representar una «amenaza existencial». Esta visión procede de una subcultura surgida en San Francisco a mediados de la primera década de los 2000, impulsada por el investigador Eliezer Yudkowsky y desarrollada también por el filósofo Nick Bostrom en su libro Superinteligencia, publicado en 2014.

Estas ideas confluyeron con el Altruismo Eficaz y el largoplacismo, corrientes que defienden priorizar las causas capaces de beneficiar al mayor número de personas y atender especialmente a las generaciones futuras. Sus críticos las consideran acientíficas y sectarias. Amodei participó en encuentros vinculados a Yudkowsky y se comprometió a donar parte de sus ingresos a esas causas.

El temor a una IA fuera de control llevó a Amodei y a otros ingenieros a incorporarse a OpenAI y, en 2020, a abandonar la compañía para fundar Anthropic. La cuestión afecta al conjunto del sector tecnológico y, por tanto, también forma parte del debate que siguen empresas, instituciones y ciudadanos de Palma sobre el impacto de la inteligencia artificial.

Información elaborada a partir de Diario de Ibiza.