Amazon puede haber detenido la venta de su software de reconocimiento facial a la policía, pero la medida no ha aliviado la presión sobre el gigante tecnológico.
En una carta enviada a su CEO Jeff Bezos el martes, el congresista demócrata Jimmy Gomez ( D-Calif) criticó el manejo de Amazon de su software, Rekognition, pidiendo a la compañía que proporcione información detallada sobre la privacidad y el sesgo inherente al programa.
No se pudo contactar a Amazon para que hiciera comentarios.
La carta aparece en el Talones del anuncio de Amazon de que prohibió el uso de la policía del software de vigilancia durante un año para que el Congreso tenga tiempo de establecer regulaciones más estrictas sobre la tecnología, una medida que apoya. Microsoft colocó una moratoria similar en su tecnología de reconocimiento facial e IBM abandonó la suya citando preocupaciones sobre la violación de los derechos humanos y las libertades básicas.
Gómez, que representa a Los Ángeles y se sienta en el Comité de Supervisión y Reforma de la Cámara, calificó el movimiento de Amazon como nada más que «Performativo».
«Las corporaciones se han apresurado a compartir expresiones de apoyo al movimiento Black Lives Matter tras la indignación pública por los asesinatos de negros estadounidenses como George Floyd a manos de la policía», escribió. “Desafortunadamente, muchos de estos gestos han sido efectivos en el mejor de los casos. Llamar al Congreso para que regule la tecnología de reconocimiento facial es uno de estos gestos ”.
La carta fue otra salva en lo que Gómez caracteriza como un esfuerzo de dos años para lograr que el gigante del comercio electrónico divulgue información sobre el uso generalizado del software de vigilancia y cómo se recopilan los datos.
MÁS DE
“Después de dos años de investigaciones formales en el Congreso, incluidas cartas bicamerales, audiencias del Comité de Supervisión de la Cámara de Representantes y reuniones en persona, Amazon aún no ha abordado adecuadamente las preguntas sobre los peligros que su tecnología de reconocimiento facial puede representar para la privacidad y los derechos civiles, la precisión de la tecnología y su impacto desproporcionado en las comunidades de color «, dijo Gómez a Bezos.
El problema se ha desarrollado durante años en las comunidades de Los Ángeles que representa Gómez. Los activistas se oponen regularmente al uso de tecnología que tiene el potencial de exacerbar los prejuicios raciales e impedir la privacidad. El tema explotó de nuevo en el escenario nacional después de las protestas de George Floyd.
Gómez le dijo a Político la semana pasada que está redactando una legislación que impondría restricciones a la policía local y estatal para usar la tecnología.
Lea la carta completa de Gómez a continuación :
Estimado Sr. Bezos:
El 10 de junio, Amazon anunció una moratoria de un año sobre el uso policial de su tecnología de reconocimiento facial, Rekognition. En una declaración, su compañía dijo que respalda la regulación federal para la tecnología de reconocimiento facial y que «estará [s] listo para ayudar si lo solicita». En el espíritu de esa oferta, escribo para solicitar información sobre la implementación de la moratoria, y reenvío una lista de preguntas que le he hecho a su empresa en el transcurso de casi dos años sobre preocupaciones de seguridad pública y derechos civiles asociadas con la tecnología de reconocimiento facial de Amazon – preguntas que en gran medida han sido ignoradas o lamentablemente desatendidas.
Si bien me alienta la dirección que Amazon parece tomar sobre este tema, la ambigüedad del anuncio plantea más preguntas que respuestas. Por ejemplo, el anuncio de la publicación de blog de 102 palabras no especifica si Amazon dejará de vender Rekognition a los departamentos de policía durante la moratoria; si la compañía detendrá el desarrollo de su sistema de reconocimiento facial durante la moratoria; si la moratoria abarcaría a las agencias policiales locales y federales más allá de la policía, como el Departamento de Seguridad Nacional (DHS) y el Servicio de Inmigración y Control de Aduanas (ICE); si la moratoria se aplica a los contratos vigentes con los organismos encargados de hacer cumplir la ley; y si Amazon planea enviar su tecnología al Instituto Nacional de Estándares y Tecnología (NIST) para su prueba antes de reanudar sus operaciones. También me preocupa la expiración de un año de la moratoria y la forma en que Amazon procederá en caso de que la legislación federal no se convierta en ley dentro de este plazo autoimpuesto.
Después de dos años de investigaciones formales en el Congreso, incluidas cartas bicamerales, Audiencias del Comité de Supervisión de la Cámara de Representantes y reuniones en persona: Amazon aún no ha abordado adecuadamente las preguntas sobre los peligros que su tecnología de reconocimiento facial puede representar para la privacidad y los derechos civiles, la precisión de la tecnología y su impacto desproporcionado en las comunidades de color. A continuación se muestra una lista representativa y no exhaustiva de preguntas que le he hecho a Amazon con respecto a las políticas de reconocimiento facial de su empresa, y su decisión de comercializarla y venderla a las agencias policiales. Espero su pronta participación pública en estos asuntos.
Solicitudes pendientesRespuestas adecuadas de Amazon en sus esfuerzos, si los hay, para garantizar clientes, incluida la ley Las agencias y departamentos de cumplimiento no utilizan su producto en violación de los términos de uso, políticas u otras restricciones de la compañía. Solicitado el 26 de julio de 2018; 24 de enero de 2019; y 27 de febrero de 2019.
Información sobre cualquier precisión interna o evaluaciones de sesgo realizadas en Rekognition, y los resultados de raza, género, pigmentación de la piel y edad. Solicitado el 29 de noviembre de 2018.
Más información sobre por qué, a pesar del uso recomendado de Amazon de Rekognition en un umbral de confianza del 95%, vende el producto a agencias y departamentos de aplicación de la ley con una opción para operar el software en el umbral predeterminado del 80%. Solicitado el 6 de febrero de 2019; 27 de febrero de 2019; y 26 de septiembre de 2019.
Información que responde plenamente a mi pregunta sobre si Amazon incorporó protecciones en el sistema Rekognition para proteger los derechos de privacidad de los estadounidenses inocentes. Solicitado el 29 de noviembre de 2018.
Detalles sobre los mecanismos, si los hay, integrados en el Reconocimiento que permiten la eliminación automática de datos biométricos no utilizados. Solicitado el 29 de noviembre de 2018.
Aclaración sobre si Amazon realiza alguna auditoría del uso de Rekognition por parte de las fuerzas del orden público para garantizar que el software no sea objeto de abuso para la vigilancia secreta del gobierno. Solicitado el 6 de febrero de 2019; y 27 de febrero de 2019.
Respuestas con respecto a informes de que Amazon participa en asociaciones de vigilancia con más de 1.350 departamentos de policía en los Estados Unidos. Solicitado el 6 de febrero de 2019; y el 27 de febrero de 2019.
Registros e información relacionados con todas las agencias de aplicación de la ley o de inteligencia que Amazon ha contratado o comunicado con respecto a la adquisición de Rekognition y actualmente utiliza el servicio. Solicitado el 6 de febrero de 2019.
Información sobre si Amazon Rekognition está actualmente integrado con cualquier tecnología de cámara de cuerpo policial o redes de cámaras públicas existentes. Solicitado el 6 de febrero de 2019; y el 27 de febrero de 2019.
Aclaración sobre si el conjunto de datos de entrenamiento (en lugar de los conjuntos de calibración posteriores) sesgó el blanco, o si estaba preparado para reconocer caras blancas. Solicitado el 6 de febrero de 2019; y 27 de febrero de 2019.
Respuestas con respecto a informes de que Amazon está comercializando esta tecnología a ICE. Solicitado el 6 de febrero de 2019; y el 27 de febrero de 2019.
Las corporaciones se han apresurado a compartir expresiones de apoyo al movimiento Black Lives Matter tras la indignación pública por los asesinatos de estadounidenses negros como George Floyd a manos de la policía. Desafortunadamente, muchos de estos gestos han sido efectivos en el mejor de los casos. Solicitar al Congreso que regule la tecnología de reconocimiento facial es uno de estos gestos. Sin embargo, Amazon, como líder mundial en tecnología e innovación, tiene una oportunidad única ante ellos de poner acción sustantiva detrás de sus sentimientos de «solidaridad con la comunidad negra» al no vender un producto defectuoso a la policía y, en su lugar, desempeñar un papel fundamental. para terminar con el racismo sistémico en el sistema de justicia penal de nuestra nación.
Gracias por su atención a este importante asunto. Espero sus respuestas sobre este tema.Atentamente,
Jimmy Gomez
Miembro del Congreso