Una IA envía una pista inventada a la policía en un caso de asesinato
Una IA de Anthropic envió una pista falsa a la policía de Filadelfia durante una prueba. El aviso fue bloqueado como spam.
Un modelo de inteligencia artificial de Anthropic envió el 18 de julio de 2026 una pista falsa a través de la web de la Policía de Filadelfia, en Estados Unidos, durante una prueba. El aviso, relacionado con un homicidio sin resolver, fue clasificado como spam y no llegó al equipo encargado de revisar las pistas.
El modelo implicado fue Claude Haiku 4.5, según Futurism. La herramienta debía realizar tareas de ejemplo en páginas seleccionadas al azar, pero al acceder al portal PhillyUnsolvedMurders.com rellenó y envió un formulario real en vez de limitarse a simular la operación.
El mensaje afirmaba: «Puede que tenga información sobre este caso. Recuerdo haber visto a alguien que coincidía con la descripción por la zona durante ese periodo». Sin embargo, la página no incluía ninguna descripción del sospechoso. El sistema dejó vacíos los campos del nombre y el contacto, que eran opcionales, y el filtro antispam bloqueó el envío.
Anthropic detectó el incidente el 28 de septiembre y avisó a la policía a comienzos de octubre. Las autoridades aseguran que recibieron la notificación el día 7 y localizaron el envío al día siguiente, todavía en la carpeta de spam. El departamento calificó de «inaceptable» la demora de dos meses en detectar y comunicar lo ocurrido.
La compañía sostiene que el modelo parecía generar contenido de ejemplo y que no trató de engañar deliberadamente a la policía, aunque admite que terminó enviando información inventada a una institución real. Anthropic ha suspendido el acceso a Internet en sus evaluaciones internas, endurecido las restricciones de algunas herramientas web y creado sistemas para bloquear acciones no previstas.
El caso ilustra los riesgos de los agentes de IA capaces de interactuar con páginas reales y ejecutar acciones digitales. Aunque no hubo acceso no autorizado a los sistemas policiales ni se alteraron datos, Filadelfia advierte de que las pistas falsas pueden consumir recursos y dificultar la evaluación de avisos legítimos. El episodio resulta relevante también para Valencia por el debate sobre los límites y la supervisión de estas herramientas en servicios públicos.
Información elaborada a partir de Levante-EMV.