El Departamento de Policía de Seattle suspendió el uso de una plataforma de inteligencia artificial diseñada para analizar imágenes de cámaras corporales debido al rechazo del sindicato que representa a los oficiales.
Mike Solan, presidente del Sindicato de Oficiales de Policía de Seattle, le dijo a GeekWire el jueves que “básicamente el departamento estaba espiando a sus empleados” y que el sindicato se opuso al uso de la tecnología de SPD de la empresa emergente Truleo, con sede en Chicago.
“Nada de eso se negoció nunca con el sindicato y la ciudad. Esta es la primera vez que escuchamos al respecto”, dijo Solan sobre el uso de la tecnología para analizar el audio de la cámara corporal en busca de un comportamiento potencialmente inapropiado de los oficiales. “Es una violación de nuestra actual [collective bargaining agreement] en términos del proceso de rendición de cuentas”.
El departamento dijo la semana pasada que detuvo un proyecto piloto destinado a validar la funcionalidad de la tecnología de Truleo «a la luz de las reacciones» a los informes recientes en Axios y GeekWire. El departamento se negó a especificar quién reaccionó de qué manera.
Cuando se le preguntó si SPD proporcionó alguna razón para abandonar el uso de su producto, Anthony Tassone, cofundador y director ejecutivo de Truleo, dijo en un comunicado enviado por correo electrónico a GeekWire que le dijeron que «el sindicato de policías de Seattle reaccionó negativamente al enterarse de los dos empleados de SPD». renovación de año con Truleo.”
“Es desafortunado que este sindicato en particular haya reaccionado de esta manera porque el análisis de la cámara corporal realizado de una manera responsable que protege la privacidad de los civiles es el futuro de la supervisión y el entrenamiento policial”, dijo Tassone.
Truleo se conectó por primera vez con SPD en 2021 y el departamento se convirtió en un «cliente ancla».
Truleo dice que su software escanea grabaciones asociadas con las muchas miles de horas de imágenes de cámaras corporales generadas por los departamentos de policía. La tecnología busca pistas de audio para ayudar a identificar patrones, como los problemas que los oficiales de patrulla pueden tener al interactuar con el público. Luego, los departamentos pueden abordar los problemas a través de la capacitación antes de que los problemas se intensifiquen.
Solan dijo que Guild tenía un problema con un proveedor externo que analizaba las palabras de los oficiales con IA y marcaba esas palabras por sarcasmo o inflexión de voz y las calificaba contra el profesionalismo de los oficiales.
“A los miembros no se les dijo que sus datos de video corporales se estaban comparando con una tecnología de inteligencia artificial”, dijo Solan. «Voy a duplicar que estaban siendo espiados, lo que para mí es atroz a nivel humano, y mucho menos a nivel de empleado».
SPD se encontraba entre un puñado de departamentos que Truleo había identificado como clientes actuales, incluidas las ciudades de Alameda, Atwater y Vallejo en California, así como departamentos en Florida, Alabama y Pensilvania.
Informes recientes sobre la tecnología señalaron cómo podría adoptarse más ampliamente después de la muerte de Tire Nichols en Memphis, donde la policía “desencadenó un aluvión de órdenes que eran confusas, conflictivas y, a veces, incluso imposibles de obedecer”, informó The New York Times.
Algunos han expresado su preocupación sobre si la IA podría malinterpretar lo que escucha en las grabaciones de audio de la cámara corporal, como conversaciones de civiles cercanos en las que no participa un oficial. Os Keyes, estudiante de doctorado en Diseño e Ingeniería Centrados en el ser humano en la Universidad de Washington , se ha pronunciado en contra del uso de IA con cámaras corporales.
Tassone calificó la tecnología de su compañía como un «marcado contraste» con las tecnologías de búsqueda y transcripción de cámaras corporales implementadas por más de 1,000 departamentos de policía que, según él, no diferencian entre el audio de civiles y oficiales.
“Los departamentos eligen Truleo específicamente debido a nuestra capacidad única de separar el audio civil del audio de los oficiales y centrar nuestro análisis y puntuación en el lenguaje de los oficiales”, dijo. “Continuaremos agregando departamentos de policía en todo el país con el apoyo de sus sindicatos porque Truleo funciona”.
SPD dijo anteriormente que era «demasiado temprano en el proceso para hablar de resultados medibles» del uso de la tecnología de Truleo, pero que esperaba con ansias posibles conocimientos en el futuro. Después de anunciar que detendría el proyecto, un portavoz dijo: «SPD se dedica a la mejora continua y los enfoques basados en evidencia para la gestión de riesgos, el desempeño de los empleados y la prestación del servicio policial».
Solan se llamó a sí mismo un «gran defensor» de la nueva tecnología y la nueva capacitación y dijo que es importante respaldar la tecnología que podría ser beneficiosa para la sociedad.
Pero citando la pérdida de cientos de oficiales del Departamento de Policía de Seattle en los últimos años y 16 en lo que va de 2023, Solan dijo que cree que la tecnología de inteligencia artificial “que se usa a espaldas de los oficiales” es otro ejemplo de por qué se van.
“El problema aquí es que este software, desde nuestro punto de vista, se estaba utilizando para intentar que los oficiales tuvieran un estándar de responsabilidad diferente sin su conocimiento”, agregó Solan. “No tenemos ningún problema con la rendición de cuentas. Hablemos de eso. Negociémoslo. Porque si vas a relacionarlo con la disciplina, entonces los oficiales deben saberlo”.
Deja una respuesta