Anthropic plantea apagar una IA si amenaza con causar daños millonarios

Anthropic propone que el Gobierno de Estados Unidos pueda pedir el apagado de un modelo avanzado de inteligencia artificial si existe un riesgo inminente y cuantificable de causar daños superiores a mil millones de dólares o la muerte o lesiones graves de más de 50 personas.

Representantes del laboratorio de IA han presentado esta iniciativa a legisladores del Congreso estadounidense, según POLITICO, que cita a tres fuentes conocedoras del asunto. El borrador prevé que el Departamento de Comercio supervise a las empresas que desarrollen modelos avanzados con capacidad para causar daños.

El proyecto contempla evaluaciones periódicas realizadas por expertos independientes registrados ante ese departamento. Si detectan un riesgo grave, deberán comunicarlo en un plazo máximo de 72 horas.

El Departamento de Comercio sería el único organismo con capacidad para solicitar ante un juez federal la paralización del uso o del desarrollo de una inteligencia artificial. La orden tendría que ser autorizada por un juez del Tribunal de Distrito del Distrito de Columbia.

La propuesta llega tras varios incidentes de seguridad relacionados con agentes de IA de Anthropic, OpenAI, Google y Meta. El director ejecutivo de Anthropic, Dario Amodei, planteó en septiembre frenar el ritmo de desarrollo de estas tecnologías, una posición que también compartió el responsable de OpenAI, Sam Altman.

El debate tiene alcance internacional y afecta también al seguimiento que desde Bilbao y Euskadi se hace de la regulación y seguridad de la inteligencia artificial, aunque el proyecto descrito se tramitaría en Estados Unidos.

Información elaborada a partir de Deia.