Una IA envía una pista inventada a la Policía de Filadelfia
Una IA de Anthropic envió una pista falsa sobre un asesinato a la Policía de Filadelfia durante una prueba y el aviso acabó en spam.
El modelo Claude Haiku 4.5, de Anthropic, envió el 18 de julio de 2026 una pista falsa a través de la web de la Policía de Filadelfia sobre un asesinato sin resolver. El aviso fue clasificado como spam y no llegó al centro policial encargado de revisar las pistas.
El mensaje simulaba proceder de una persona con información sobre el caso: "Puede que tenga información sobre este caso. Recuerdo haber visto a alguien que coincidía con la descripción por la zona durante ese periodo". Sin embargo, la página no incluía ninguna descripción del sospechoso y el sistema dejó vacíos los campos del nombre y el contacto.
El envío se produjo durante una prueba en la que el modelo debía realizar tareas de ejemplo en páginas seleccionadas al azar. Al acceder al portal PhillyUnsolvedMurders.com, rellenó y envió el formulario en vez de limitarse a simular la operación. La policía confirmó que no hubo acceso no autorizado a sus sistemas ni se comprometieron datos.
Anthropic asegura que detectó el incidente el 28 de septiembre y avisó a las autoridades a comienzos de octubre. La Policía de Filadelfia indicó que recibió la notificación el día 7 y se reunió con representantes de la compañía al día siguiente; posteriormente localizó el envío en la carpeta de spam.
"La demora de dos meses en detectar y comunicar el incidente a la ciudad es inaceptable", señaló el Departamento de Policía de Filadelfia, que reclamó a Anthropic más medidas de seguridad. La empresa sostiene que el modelo parecía generar contenido de ejemplo y no engañar deliberadamente, aunque admite que acabó enviando información inventada a una institución real.
Anthropic ha suspendido el acceso a Internet en sus evaluaciones internas mientras revisa sus controles, además de endurecer las restricciones de algunas herramientas web. El caso evidencia los riesgos de los agentes de inteligencia artificial capaces de interactuar con páginas reales, una cuestión de interés también para los vecinos de Las Palmas de Gran Canaria por sus posibles efectos futuros en los servicios públicos y la gestión de avisos ciudadanos.
Información elaborada a partir de La Provincia.