Seattle es una de las pocas ciudades donde los departamentos de policía están utilizando una plataforma de inteligencia artificial para filtrar miles de horas de grabaciones de cámaras corporales de la policía, en busca de patrones de comportamiento de los oficiales que puedan abordarse mediante la capacitación.
Seattle es un «cliente ancla» para el software, según la startup Truleo, con sede en Chicago, una startup fundada en 2021 que surgió de una plataforma desarrollada por primera vez para analizar llamadas telefónicas y mensajes de texto entre banqueros de Wall Street.
El Departamento de Policía de Seattle ha estado usando la tecnología desde 2021, dice la compañía.
SPD se negó a responder preguntas sobre el uso de Truleo por parte del departamento. Una portavoz dijo que «es demasiado temprano en el proceso para hablar de resultados medibles».
“Sin embargo, esperamos con ansias las posibles ideas que Truleo pueda brindar en el futuro, y seguimos comprometidos con la vigilancia policial basada en datos y evidencia”, dijo Valerie Carson, oficial de información pública del SPD.
Los departamentos de policía generan miles de horas de imágenes de cámaras corporales. La idea detrás de Truleo es usar inteligencia artificial para escanear las grabaciones, buscando señales de audio que puedan ayudar a identificar patrones, como los problemas que los oficiales de patrulla pueden tener al interactuar con el público. Luego, los departamentos pueden abordar los problemas a través de la capacitación antes de que los problemas se intensifiquen.
“El producto final de Audio Analysis de Truleo es un análisis enriquecido de miles de conversaciones, lo que permite a los departamentos identificar rápidamente incidentes en riesgo y tendencias en todo el departamento”, dijo la compañía en una publicación de blog que explica cómo funciona la plataforma de IA.
Axios informó sobre la tecnología la semana pasada, señalando cómo podría adoptarse más ampliamente después de la muerte de Tire Nichols en Memphis, donde la policía “desencadenó un aluvión de comandos que eran confusos, contradictorios y, a veces, incluso imposibles de obedecer”, The New York Times. informado.
“Mientras lamentamos la pérdida de vidas y el colapso de la confianza en Memphis esta noche, tengan la esperanza de que haya una solución”, escribió el CEO de Truelo, Anthony Tassone, en LinkedIn esta semana. “Como la mayoría de los departamentos, el departamento de policía de Memphis revisa menos del 1% de los videos de sus cámaras corporales porque simplemente hay demasiados datos para que los vean los humanos. Sin embargo, existen análisis automatizados y la tecnología ayuda a garantizar una cultura de responsabilidad y profesionalismo, especialmente en un momento en que los departamentos son tan jóvenes y están llenos de nuevos empleados”.
Truleo identifica a los departamentos de policía de California en Alameda, Atwater y Vallejo como clientes actuales, junto con los departamentos de Florida, Alabama y Pensilvania. Atwater ha utilizado los datos que obtuvo del análisis de las grabaciones de Truleo para crear métricas de rendimiento que son «estadísticas de tarjetas de béisbol que los policías pueden buscar», dijo Truleo.
Un estudio de caso realizado por la empresa afirma que el departamento de policía de Alameda vio una reducción del 36 % en el uso de la fuerza por parte de los agentes después de implementar una revisión de Truleo de las grabaciones de las cámaras corporales y usar esos hallazgos para enfocar la capacitación.
El estudio, que comparó datos de un período de seis meses en 2021 con un período de seis meses en 2022, también citó una caída del 30 % en el lenguaje poco profesional utilizado por los oficiales y un aumento del 12 % en el cumplimiento de las personas con las que interactuaban.
Antes de usar Truleo AI, el departamento de Alameda tenía sargentos que auditaban al azar alrededor del 1% de las grabaciones de cámaras corporales de sus oficiales, según el estudio.
Sin embargo, existen problemas potenciales con este tipo de software, dijo Os Keyes, estudiante de doctorado en Diseño e Ingeniería Centrados en el Ser Humano de la Universidad de Washington, quien se ha pronunciado en contra del uso de IA con cámaras corporales.
En un nivel básico, las cámaras corporales registran cada interacción que un oficial tiene con otras personas y pueden grabar imágenes y audio de conversaciones cercanas o actos en los que el oficial no está involucrado. Una cámara corporal en un oficial de policía se convierte en una especie de herramienta de vigilancia digital itinerante, dijo Keyes.
Hay motivos para temer que la IA malinterprete lo que escucha en las grabaciones de audio de la cámara corporal, dijo Keyes. Incluso la mejor IA tiene dificultades para identificar correctamente el sarcasmo, y una serie de modelos de procesamiento del lenguaje natural han mostrado sesgos raciales, étnicos y de género.
Un estudio encargado por el Washington Post determinó que los altavoces inteligentes de Amazon y Google tenían un 30 % menos de probabilidades de entender a los humanos que no hablaban inglés con acento estadounidense. La tasa de precisión para los hablantes con acento chino, indio o español fue de alrededor del 80 %.
Combine el problema de las cámaras de vigilancia itinerantes con la lucha de la IA para comprender el espectro completo del habla humana, y tendrá un problema, dijo Keyes.
Analizar las grabaciones de las cámaras corporales “puede ser una práctica realmente útil, no solo para entrenar, sino también para detectar cosas como brutalidad o acoso no denunciados”, dijo Keyes.
Pero debido a que es tan importante, «es completamente inapropiado» usar un sistema que no ha sido revisado de forma independiente, señaló Keyes.
Deja una respuesta