TL;DR:

Varias fuerzas policiales de Inglaterra y Gales recibieron la orden de pausar el uso de IA en tareas de justicia penal.

Police.AI cuenta con una inversión pública de £115 millones a tres años para probar y escalar herramientas de automatización.

El caso expone un límite clave: la IA puede acelerar investigaciones, pero un error en evidencia puede afectar procesos judiciales.

Varias agencias policiales de Inglaterra y Gales han recibido la orden de dejar de usar herramientas comerciales de inteligencia artificial en audiencias judiciales y aplicación de la ley por temor a que estas herramientas puedan fallar y interrumpir los procesos judiciales. La orden proviene de Alex Murray, director de PoliceAI, una nueva plataforma nacional encargada de monitorear el problema del uso de la inteligencia artificial por parte de la policía británica: si bien las herramientas de IA pueden resumir, registrar y clasificar pruebas, sin duda producen datos erróneos en los archivos, el problema ya no es de carácter técnico sino legal.

IA generativa es software capaz de producir texto, imágenes, audio o código a partir de patrones aprendidos. Su debilidad conocida es que también puede generar información falsa con tono convincente, un fenómeno conocido como alucinación de IA.

Murray dijo al Financial Times que Police.AI intervino cuando algunas fuerzas ya estaban usando sistemas comerciales antes de someterlos a evaluación formal. La instrucción fue frenar.

"Ya lo hicimos con algunas", dijo Murray, al describir cómo se les pidió a ciertas fuerzas: "Pausen eso. Necesitamos bajar un poco el ritmo".

El estándar que planteó es más alto que el de una app corporativa común. Según Murray, cualquier tecnología usada en el sistema penal debe alcanzar una precisión “más allá de toda duda razonable”, porque sus resultados pueden terminar frente a fiscales, defensas, jueces y jurados.

Police.AI quiere acelerar investigaciones, pero primero debe controlar el riesgo

El gobierno británico ha anunciado un proyecto para el uso de la inteligencia artificial en la policía, "PoliceAI"-como parte de una reforma de modernización de la policía en Inglaterra y Gales, que invertirá 115 millones de libras esterlinas en tres años y buscará introducir la inteligencia artificial y la tecnología de automatización "de manera rápida y responsable". Además, se creará un sistema para poner a disposición del público las herramientas utilizadas por la policía.

El compromiso es significativo. Según las estimaciones del Consejo Nacional de Comisionados de Policía (NPCC), la adopción de tecnología podría reducir más de seis millones de horas de trabajo al año, lo que equivale a un ahorro de tiempo de 3.000 policías. Se estima que en Inglaterra y Gales hay 145.000 policías, según un estudio citado por el Financial Times.

La tensión está en el tipo de tarea. No es lo mismo usar IA para ordenar archivos administrativos que permitirle intervenir en documentos que pueden condicionar un juicio. Murray señaló como zona sensible la preparación de disclosure schedules, registros de evidencia que deben entregarse a la defensa antes del juicio.

Entre las tareas bajo revisión aparecen:

• Convertir entrevistas policiales en declaraciones para tribunales.
• Preparar calendarios o listados de evidencia para la defensa.
• Revisar grandes volúmenes de material digital.
• Analizar grabaciones de CCTV para ubicar sospechosos.
• Clasificar imágenes en investigaciones de abuso sexual infantil para reducir la exposición de agentes a material traumático.

El sistema definitivamente tiene potencial de implementación. Murray citó como ejemplo la búsqueda de vídeo de alta velocidad, donde sugirió que buscar "hombres con sombreros rojos" en una fase inicial crítica de la investigación podría ser útil. Sin embargo, esto requiere que la herramienta almacene registros históricos, trazabilidad y no sustituya al juicio humano cuando se trate de derechos.

El antecedente de Microsoft Copilot puso el riesgo en evidencia

La advertencia no llega en abstracto. West Midlands Police ya enfrentó un caso que se convirtió en ejemplo de lo que puede salir mal cuando una herramienta de IA entra en una decisión pública sin verificación suficiente.

En enero de 2026, el jefe de policía Craig Guilford pidió disculpas al Parlamento británico por un error relacionado con Microsoft Copilot. El error provocó que los documentos falsos de los aficionados de Maccabi Tel Aviv fueran prohibidos del partido contra el Aston Villa. Para empeorar, la información errónea también contenía información sobre un partido que no existía: Maccabi Tel Aviv vs West Ham Bueno, se avergonzaron

La Comisión de Asuntos Internos del Parlamento británico fue un paso más allá, llegando a la conclusión de que "la policía de West Midlands no cumplió adecuadamente con sus funciones de investigación básicas y que parte de la información errónea podría haber sido generada por la inteligencia artificial", señalando problemas con sesgos de verificación y la falta de registros actualizados, que son factores fundamentales en el proceso de toma de decisiones.

Ese antecedente explica por qué la frase “revisen todo lo que produce” ya no basta como política de control. En justicia penal, una revisión superficial puede validar un error si el documento original, el resumen y el expediente derivado fueron contaminados desde la misma cadena de automatización.

La pregunta ya no es si la policía usará IA, sino dónde pone la línea

El plan británico no busca abandonar la IA. Busca centralizarla. Police.AI promete identificar, probar y escalar herramientas aprobadas para las 43 fuerzas policiales de Inglaterra y Gales, con capacitación, estándares y un registro público. Esa ruta puede reducir el caos de que cada fuerza compre o pruebe herramientas por su cuenta.

Es fundamental distinguir claramente entre las aplicaciones de bajo riesgo y las relacionadas con los procesos judiciales. El análisis de video, el registro de llamadas y la priorización de las tareas administrativas pueden ser útiles bajo un control adecuado. Sin embargo, la creación de documentos archivados en un expediente penal es diferente. Aquí, la trazabilidad es crucial: ¿quién introdujo la información? ¿Qué modelo procesó los datos? ¿Qué piezas se fabrican a máquina? ¿Quién revisó los resultados? ¿Qué documentos son la base?

Para México y América Latina, la lección es directa. La discusión sobre IA en seguridad pública no debe limitarse a eficiencia o vigilancia. La pregunta más delicada es probatoria: qué pasa cuando una institución pública presenta como evidencia un texto que una máquina ayudó a construir.

La policía británica no frenó la IA por inútil. La frenó porque, en tribunales, un error convincente puede pesar más que una herramienta rápida.

Fuentes: 1, 2, 3, 4