En su premiado ensayo, el joven escritor científico británico Adrian Dredge escribió sobre los posibles peligros de la IA y la labor policial.
El ensayo ganó el Premio al Joven Escritor Científico 2026 , otorgado anualmente por la Asociación Británica de Escritores Científicos. A continuación, se presenta una versión editada del trabajo presentado.
Los investigadores han advertido que el creciente uso de la inteligencia artificial en las labores policiales conlleva el riesgo de aumentar la discriminación contra los grupos minoritarios.
Los estudios sugieren que las predicciones sobre futuros focos de delincuencia pueden basarse en datos sesgados, lo que puede magnificar los prejuicios existentes y crear un peligroso círculo vicioso.
Los expertos piden que se revise el uso de la IA en la labor policial y que se implemente una mayor supervisión humana.
Esto implicaría revisar los datos que utilizan las fuerzas de seguridad para detectar y eliminar cualquier sesgo, según la Dra. Carolyn McKay, profesora asociada e investigadora en justicia digital de la Facultad de Derecho de la Universidad de Sídney.
«Las funciones públicas de la policía estatal deberían estar sujetas a la supervisión y el escrutinio humanos», afirma.
Según McKay, el problema radica en que los sistemas de IA se entrenan con datos que ya contienen sesgos humanos, lo que puede dar lugar a profecías autocumplidas.
Imagina a la IA como un cartógrafo al que se le pide que dibuje el mapa de una ciudad que nunca ha visitado. Está encerrado en una habitación sin ventanas y no puede salir. Lo único que tiene son mapas de hace 50 años.
Quien siga el nuevo mapa se encontrará con muros derribados hace años y caminos que ya no existen. El cartógrafo no ha creado nada nuevo; simplemente ha copiado los mapas antiguos.
Rocque Pine TinneySupongamos ahora que al cartógrafo se le entrega una lista de crímenes pasados y los lugares donde ocurrieron, y se le pide que sombree las zonas donde es probable que ocurran los próximos. La policía patrulla entonces las áreas sombreadas.
Se registran más delitos allí simplemente porque hay más agentes presentes para detectarlos. Las áreas fuera del área sombreada parecen tener menos delitos porque hay menos personas vigilando. Cuando se dibuja el siguiente mapa, las mismas áreas aparecen sombreadas con un tono aún más oscuro.
Por lo tanto, las cifras de delincuencia no constituyen una lista exhaustiva de los delitos. Son, en parte, un registro de las zonas que la policía ha decidido investigar.
El problema es tan antiguo como la propia policía, pero la IA podría estar acelerándolo.
Sarah Brayne, socióloga de la Universidad de Texas en Austin, pasó un tiempo en el Departamento de Policía de Los Ángeles estudiando cómo utiliza el big data. En su artículo de investigación, publicado en la revista American Sociological Review, descubrió que la policía utilizaba cada vez más los datos para predecir delitos, en lugar de solo para responder a ellos.
También descubrió que los datos introducidos en estos sistemas estaban sesgados. Era más probable que se vieran y registraran los delitos en lugares públicos, y la policía centraba su atención desproporcionadamente en los barrios negros. Una vez que esta información entra en el sistema, escribe, «las predicciones parecen imparciales».
Según explica, estos modelos crean «un ciclo de retroalimentación en el que no solo predicen sucesos como delitos o contactos con la policía, sino que también contribuyen a que ocurran en el futuro».
Pero esta opinión es cuestionada por el Dr. Dimitrios Kollias, profesor asociado de inteligencia artificial multimodal en la Universidad Queen Mary de Londres (QMUL). Según él, la tecnología ha evolucionado hasta tener en cuenta el sesgo de los datos históricos.
«La analogía del mapa antiguo es útil para explicar cómo se pueden heredar los prejuicios históricos, pero tiene sus limitaciones», declaró a BBC News.
«Los sistemas de IA modernos no se limitan a recuperar o copiar sus ejemplos de entrenamiento; pueden combinar la información aprendida de formas novedosas y generar resultados y soluciones que no estaban explícitamente presentes en esos ejemplos.»
Pero esos nuevos hallazgos plantean un riesgo aparte, añade Kollias.
«A medida que los sistemas de IA se vuelven más capaces de generar decisiones novedosas y actuar con mayor autonomía, debemos asegurarnos de que su comportamiento siga siendo seguro, fiable y bajo un control humano significativo», afirmó.
Por ejemplo, un estudio de 2019 publicado en la revista Science analizó un sistema de IA utilizado en el sistema sanitario estadounidense para ayudar a decidir qué pacientes debían recibir apoyo adicional. Para ello, predecía qué atención médica resultaría más costosa. Sin embargo, los datos utilizados presentaban un sesgo inherente. Ya se gastaba menos en pacientes negros que en pacientes blancos con la misma enfermedad, en parte debido a un menor acceso a la atención médica. Al interpretar los costes más elevados como un indicador de mayor necesidad, el sistema favorecía injustamente a los pacientes blancos.
Imágenes de GettyEra como si al cartógrafo le hubieran pedido que marcara las zonas más enfermas de la ciudad, pero en cambio hubiera marcado los lugares donde más dinero se gastaba. Cuando los investigadores modificaron el sistema para predecir la gravedad de la enfermedad de los pacientes, en lugar del coste de su atención, el sesgo prácticamente desapareció. El porcentaje de pacientes negros seleccionados para recibir ayuda adicional habría aumentado de aproximadamente el 18 % al 47 %.
Kollias reconoce que el sesgo de la IA derivado de datos erróneos es «una preocupación importante».
«Pero esto no significa que el sesgo sea inevitable», afirma.
«Podemos poner a prueba los sistemas para detectar resultados injustos, mejorar los datos y los objetivos que utilizan e introducir salvaguardias para reducir estos efectos.»
Una mejora consistiría en proporcionar datos adicionales que aporten contexto. ¿Qué pasaría si el cartógrafo recibiera más información que una simple lista de delitos? También podría ver qué zonas han sido descuidadas: lugares con alumbrado público averiado, escasa financiación y falta de servicios públicos. Esto permitiría determinar si el entorno local influye en la situación. En lugar de enviar patrullas policiales a las zonas desfavorecidas, los ayuntamientos podrían destinar fondos para reparar el alumbrado, apoyar a la comunidad y mejorar la propia zona.
Sin embargo, según McKay, incluso esto podría no ser suficiente.
«Los entornos afectados siguen estando íntimamente ligados a sus habitantes», afirma. «Es posible que sigan sufriendo una vigilancia policial excesiva y marginación».
Ella señala sistemas que fueron diseñados para usar información sobre lugares en lugar de sobre personas. Aun así, los críticos expresaron su preocupación de que todavía conducen a una vigilancia policial excesiva.
Es como si el cartógrafo hubiera prometido dejar de escribir los nombres de las personas en el mapa y marcar solo las calles y los edificios. Pero esas calles estaban sombreadas debido a años de abandono y fuerte vigilancia policial, así que borrar los nombres cambia muy poco.
La IA no tiene creencias ni personalidad propias. Como el cartógrafo en la habitación sin ventanas, solo sabe lo que se le dice. Si quien describe la ciudad guarda rencor contra un barrio, ese rencor termina plasmado en el mapa.
En última instancia, el problema radica en el sesgo humano que alimenta la IA. Las personas deciden cómo luce una persona sospechosa en las cámaras de seguridad o qué se considera un préstamo de riesgo, y traen consigo sus propios sesgos culturales, educativos y políticos. Por lo tanto, quizás la IA pueda ser parte de la solución en lugar de agravar el problema, afirma Kollias.
«Un sistema de IA cuidadosamente diseñado y evaluado de forma independiente puede hacer que algunos de estos patrones sean más medibles y visibles, lo que nos brinda la oportunidad de identificarlos y reducirlos.»
Pero los humanos también deben poner de su parte. El estudio sobre atención médica demuestra que esas decisiones pueden revisarse y modificarse. Por eso, los investigadores sostienen que las personas deben mantenerse informadas. De lo contrario, como un cartógrafo que reescribe viejos trazos de lápiz, la IA corre el riesgo de dejarnos a todos en una habitación sin ventanas, atrapados para siempre en los errores del pasado.