Una nueva función de Amazon Web Services alertará a los desarrolladores sobre posibles sesgos en los algoritmos de aprendizaje automático, como parte de un esfuerzo mayor de la industria de la tecnología para evitar que las predicciones automatizadas discriminen a las mujeres, las personas de color y otros subrepresentados
La función, SageMaker Clarify, se anunció en la conferencia AWS re: Invent el martes como un nuevo componente de la plataforma de aprendizaje automático AWS SageMaker. La tecnología analiza los datos utilizados para entrenar modelos de aprendizaje automático en busca de signos reveladores de sesgo, incluidos conjuntos de datos que no reflejan con precisión a la población en general. También analiza el modelo de aprendizaje automático en sí mismo para ayudar a garantizar la precisión de las predicciones resultantes.
Un estudio del MIT de 2018 encontró que la presencia de un número desproporcionado de hombres blancos en conjuntos de datos utilizados para entrenar algoritmos de reconocimiento facial llevó a un mayor número de errores en el reconocimiento de mujeres y personas de color.
Se informó que la propia Amazon había descartado una herramienta de reclutamiento de inteligencia artificial que resultó estar sesgada en contra de las mujeres, en parte porque los datos utilizados para entrenar el modelo provenían de la observación de patrones en currículums anteriores
«Los sesgos pueden aparecer en todas las etapas del flujo de trabajo de aprendizaje automático», dijo el Dr. Nashlie Sephus, gerente de ciencia aplicada de Amazon Web Services AI, al presentar el nuevo característica en re: Invent. «Así que, incluso con las mejores intenciones posibles y mucha experiencia, es difícil eliminar el sesgo en los modelos de aprendizaje automático».
Citó ejemplos como la creación de un algoritmo de recomendación de programas de televisión sin suficientes dramas televisivos en los datos de entrenamiento. También existe el desafío de la «deriva del modelo», donde los datos de capacitación terminan siendo sustancialmente diferentes de los datos utilizados para hacer predicciones, como cambios en las tasas hipotecarias que provocan que un modelo de aprendizaje automático para préstamos hipotecarios se sesgue.
SageMaker Clarify es una de una serie de características y productos de aprendizaje automático anunciados por Swami Sivasubramanian, vicepresidente de IA de Amazon, en la conferencia virtual del martes. El siguiente discurso principal importante de re: Invent es el jueves con Peter DeSantis, vicepresidente de infraestructura global.
Deja una respuesta