Es inusual que los ejecutivos de tecnología y los líderes religiosos se reúnan para discutir sus intereses y objetivos compartidos para el futuro de la humanidad y el planeta. Es aún más extraordinario que estén representadas las tres religiones monoteístas más grandes del mundo.
Cuando el Papa se une a la reunión, básicamente no tiene precedentes.
Eso es lo que sucedió en la Ciudad del Vaticano esta semana cuando la Iglesia Católica recibió a líderes de las religiones judía e islámica, nuevos signatarios del Llamado de Roma para la ética de la IA, en una reunión que incluyó a ejecutivos de Microsoft e IBM.
“Al acordar promover una cultura que ponga esta tecnología al servicio del bien común de todos y del cuidado de nuestra casa común, está ofreciendo un ejemplo a muchos otros”, dijo el Papa Francisco, según una traducción de sus comentarios. , dirigiéndose a las delegaciones judía e islámica a la reunión.
El Papa Francisco agregó: “La fraternidad entre todos es la condición previa para garantizar que el desarrollo tecnológico también esté al servicio de la justicia y la paz en todo el mundo”.
El Llamado de Roma para la ética de la IA, que Microsoft e IBM firmaron originalmente hace casi tres años, se centra en seis principios: transparencia, inclusión, responsabilidad, imparcialidad, confiabilidad y seguridad y privacidad.
El presidente de Microsoft, Brad Smith, quien asistió y se dirigió a la reunión, habló con GeekWire desde Europa sobre el Llamado de Roma, la intersección de la tecnología y la fe, y el enfoque de Microsoft sobre la ética de la IA tanto en su propio desarrollo de software como en su asociación con OpenAI, fabricante de ChatGPT. .
Continúe leyendo para conocer los aspectos más destacados, editados y condensados para mayor claridad y duración.
P: ¿Qué cambia cuando tienes líderes religiosos en la sala de una conferencia de tecnología?
brad smith: Me parece que añade una dimensión extraordinaria a la conversación. Puede preguntar si se trataba de tener líderes religiosos en una reunión de tecnología o líderes de tecnología en una conversación religiosa; ambos son verdaderos … Obliga a pensar y hablar sobre la necesidad de poner a la humanidad en el centro de todo lo que hacemos.
Creo que es algo bueno. Creo que es una fuerza poderosa. Hace que uno reflexione un poco más, y tal vez incluso piense un poco diferente. Pero en última instancia, creo que hace que el trabajo que hacemos tenga más propósito.
También nos recuerda que tenemos muchos problemas difíciles para mantenernos enfocados en resolverlos. El listón se eleva aún más. … Y descubrir que estas tres religiones tienen una visión y un mensaje tan comunes es importante e inspirador para todos los que dedicamos tanto tiempo a pensar en la inteligencia artificial y en cómo puede servir mejor al mundo.
P: ¿Sucederá la implementación de estos principios de IA a través de compromisos voluntarios de empresas como Microsoft, o también requerirá que los gobiernos del mundo establezcan reglas y marcos?
Herrero: Creo que está claro que el camino hacia la IA responsable implica pasos tanto proactivos como de autorregulación por parte de empresas responsables, y más reglas del camino en forma de ley y regulación.
No creo que sería posible lograr lo que el mundo necesita con solo un enfoque u otro. Creo que sería ingenuo esperar que todas las personas del mundo que tienen acceso a la IA la usen solo para el bien. Desafortunadamente, esa no es la naturaleza humana. No es lo que la historia nos dice que es el camino para cualquier tecnología. …
Pero cuanto más progreso puedan hacer las empresas responsables y cuantos más esfuerzos podamos realizar para construir el diálogo amplio y la gran carpa que creo que necesita la ética de la IA, creo que más fácil será el camino para la ley y la regulación.
P: ¿Han tenido Apple, Amazon y Alphabet/Google la oportunidad de participar en la Llamada de Roma?
Herrero: No han participado hasta la fecha. En última instancia, es decisión del Vaticano cuándo expandirlo a otras compañías. Creo que es justo decir que Microsoft e IBM estuvieron a la vanguardia de esto, no solo por ser los primeros en firmar el Llamamiento de Roma, sino, francamente, por haber hecho más en Europa para abordar estos problemas a los ojos de muchos.
P: Microsoft está implementando inteligencia artificial ahora, no solo en el desarrollo de sus propios productos, sino en la incorporación de tecnologías OpenAI. ¿Existen situaciones ahora, cuando se toman decisiones como equipos de desarrollo o como líderes corporativos que aplican estos principios??
Herrero: La respuesta corta es sí. Todos los días, y todas las semanas, hay ingenieros en Microsoft que desarrollan sistemas de inteligencia artificial aplicando nuestro estándar de inteligencia artificial responsable que adoptamos el año pasado, con un uso cada vez mayor de herramientas de ingeniería y más pautas y capacitación de ingeniería. Todo esto está evolucionando. Es un trabajo que necesita avanzar rápidamente.
Pero otra cosa que agregaría es que encuentro tanto en Microsoft como en OpenAI un compromiso muy común y profundo para garantizar que la IA se use de manera ética y responsable. … No podría imaginar un grupo de personas más éticas, responsables o comprometidas con esta causa que las personas de OpenAI, con las que hemos estado trabajando durante algún tiempo. no es nuevo Y si lee su declaración de misión, es absolutamente tan real para ellos como lo es para nosotros.
Deja una respuesta