Demanda en Florida expone los peligros de la tecnología de reconocimiento facial

Un ciudadano de Florida ha iniciado una batalla legal contra varias agencias de seguridad tras ser arrestado injustamente por un crimen que no cometió, identificado erróneamente por un sistema de reconocimiento facial basado en inteligencia artificial. El caso de Robert Dillon, de 52 años, presentado el 10 de junio de 2026 con el respaldo de la Unión Estadounidense por las Libertades Civiles (ACLU), destapa las graves fallas y sesgos inherentes a esta tecnología y subraya la crítica necesidad de establecer salvaguardas legales estrictas.

El caso Dillon: un error del 93% de probabilidad

En agosto de 2024, Robert Dillon fue arrestado en su domicilio, a más de 300 millas de distancia del lugar del delito, acusado de un crimen ocurrido en Jacksonville Beach, una ciudad que nunca había visitado en su vida. La base principal para su detención fue la identificación generada por un software de reconocimiento facial, que arrojó una coincidencia del 93% de probabilidad al comparar una imagen de baja calidad de las cámaras de vigilancia con la fotografía de Dillon en los archivos estatales.

A pesar de que Dillon tenía una coartada sólida y no existían pruebas que lo vincularan con Jacksonville Beach, las autoridades procedieron con el arresto. La demanda, presentada contra la policía de Jacksonville Beach y las oficinas del sheriff de Jacksonville y del condado de Pinellas, alega que la investigación se centró en confirmar la conclusión de la IA en lugar de realizar una indagación objetiva, ignorando evidencia que lo exculpaba.

Los sesgos inherentes de la vigilancia automatizada

El caso de Robert Dillon no es un incidente aislado, sino un ejemplo de un patrón preocupante. Diversos estudios han demostrado que la tecnología de reconocimiento facial tiene tasas de error significativamente más altas al identificar a personas de color, mujeres y jóvenes. Un influyente estudio del MIT reveló una tasa de error de casi el 35% para mujeres de piel oscura, en comparación con menos del 1% para hombres de piel clara. Esta disparidad se origina, en gran medida, en los datos de entrenamiento de los algoritmos, que a menudo están sobrerrepresentados por rostros de hombres blancos.

Esta falla tecnológica tiene consecuencias devastadoras en el mundo real, llevando a arrestos injustificados que refuerzan las desigualdades existentes en el sistema de justicia penal. La ACLU ha advertido que, dado que las personas de color son arrestadas con mayor frecuencia por delitos menores, sus rostros están desproporcionadamente presentes en las bases de datos policiales, lo que aumenta su vulnerabilidad a ser identificados incorrectamente por estos sistemas defectuosos.

La urgencia de un marco legal

Actualmente, el uso del reconocimiento facial por parte de las fuerzas del orden opera en un vacío legal casi total en gran parte de Estados Unidos. Mientras algunas ciudades y estados han implementado moratorias o prohibiciones totales sobre su uso, no existe una ley federal integral que regule esta poderosa herramienta de vigilancia. Organizaciones de derechos civiles argumentan que, como mínimo, se deben establecer requisitos estrictos de transparencia y rendición de cuentas.

Entre las salvaguardas propuestas se incluye la obligación de que las agencias policiales informen a los acusados cuando la tecnología fue utilizada en su investigación, permitiendo así que la defensa pueda cuestionar la fiabilidad del proceso. Además, se exige la obtención de una orden judicial antes de emplear el reconocimiento facial y la limitación de su uso a la investigación de delitos graves, evitando así la vigilancia masiva e indiscriminada de la población.

El litigio de Robert Dillon se convierte en un llamado de atención para legisladores y la sociedad. La confianza ciega en algoritmos falibles, sin la supervisión humana y legal adecuada, no solo amenaza con destruir vidas inocentes, sino que también erosiona principios fundamentales como la presunción de inocencia y el derecho a la privacidad. El avance de la tecnología no debe producirse a costa de los derechos civiles, y la regulación se presenta como la única vía para garantizar un equilibrio justo.