El CEO de Microsoft, Satya Nadella, advierte sobre las consecuencias sin una «ley nacional fuerte» sobre reconocimiento facial

El CEO de Microsoft, Satya Nadella, advierte sobre las consecuencias sin una "ley nacional fuerte" sobre reconocimiento facial 2
CEO de Microsoft Satya Nadella. (GeekWire File Photo / Kevin Lisota)

Las decisiones de Microsoft y Amazon de abstenerse de vender software de reconocimiento facial a las agencias de aplicación de la ley podrían tener consecuencias negativas a largo plazo si los legisladores estadounidenses no promulgan regulaciones que rijan el uso de la tecnología, Microsoft El CEO Satya Nadella dijo a los investigadores de visión por computadora esta semana.

«Necesitamos usar este momento para abogar por una ley nacional fuerte, de lo contrario veremos compañías responsables que abandonan el mercado y otras que intervienen», dijo Nadella, dirigiéndose a la Conferencia sobre Visión por computadora y reconocimiento de patrones (CVPR) en una conversación pregrabada el martes por la mañana.

Además, dijo Nadella, Microsoft pronto dará a otros clientes nuevas formas de medir cómo funciona su tecnología de reconocimiento facial junto con sus datos, buscando abordar el potencial sesgo en sus implementaciones.

Por separado, los correos electrónicos publicados el miércoles por la ACLU muestran que Microsoft lanzó repetidamente su reconocimiento facial software de la itión a la Administración Federal de Control de Drogas en 2017 y 2018.

Las declaraciones del CEO de Microsoft subrayaron los comentarios hechos por Brad Smith, presidente de la compañía, al prometer la semana pasada que Microsoft no venderá programas de reconocimiento facial a la policía en ausencia de un ley federal que proporciona barreras de protección para su uso.

Microsoft dice que no había estado proporcionando programas de reconocimiento facial a ninguna fuerza policial de los EE. UU., pero con el anuncio, la compañía se unió a Amazon e IBM para poner nuevos límites a la tecnología. Amazon pausó las ventas de su software Rekognition a las fuerzas del orden público durante un año, luego de que IBM redujera las ventas de la tecnología por completo. El reconocimiento facial ha causado preocupación por su uso potencial para la vigilancia, y debido a los estudios que muestran un mayor potencial para identificar erróneamente a las personas de color. Evan Greer, subdirector del grupo de defensa digital Fight for the Future, calificó la semana pasada los movimientos como «acrobacias en gran medida de las relaciones públicas», pero dijo que «también son un testimonio del hecho de que Big Tech se está dando cuenta de que el reconocimiento facial es políticamente tóxico». ”

Hablando con el ex ejecutivo de Microsoft Harry Shum durante el evento de esta semana, Nadella señaló el trabajo del Instituto Nacional de Estándares y Tecnología para examinar la forma en que las diferentes tecnologías de reconocimiento facial identifican a personas de diferentes géneros , edades y antecedentes raciales.

«Uno de los primeros desafíos fue cómo nos aseguramos de que no haya prejuicios», dijo Nadella. «Gracias a NIST, ahora hay puntos de referencia sólidos para medir el rendimiento frente a una serie de grupos étnicos para garantizar que no haya sesgos en nuestros modelos y para crear un nivel de transparencia que sea muy útil».

«Pronto lo haremos estar proporcionando orientación a nuestros clientes y cómo pueden medir el rendimiento de Face API en relación con sus propios datos para establecer los umbrales correctos y equilibrar estas coincidencias falsas «, dijo.

Nadella agregó,» Entonces, por otro lado, están las consideraciones de tiempo de ejecución y el uso ético de la IA. Creo que todos tendremos que darnos cuenta de que a veces, incluso con todas las buenas intenciones durante el tiempo de diseño, si no tienes garantías en el tiempo de ejecución para proteger la privacidad y nuestras libertades democráticas, por ejemplo, podría haber consecuencias no deseadas realmente malas «. 19659003] Microsoft publicó anteriormente sus principios para el uso ético de la inteligencia artificial, incluido el reconocimiento facial, y estableció una Oficina interna de IA responsable junto con un comité que asesora a los ejecutivos de la compañía sobre cuestiones éticas relacionadas a medida que surgen nuevos escenarios para el uso de la tecnología.

Mira el video completo de la charla CVPR de Nadella arriba. Charlie Bell, vicepresidente senior de Amazon Web Services, habla en el evento el jueves por la tarde. (Día corregido desde la publicación original.)

Source link

Deja un comentario