[ad_1]
Compositor de canciones
es un podcast que convierte historias en canciones, con Questlove, Joyce Carol Oates, David Gilmour, Amanda Shires, Susan Orlean y Katie Melua. Puede escuchar una vista previa exclusiva del episodio de la próxima semana con Blake Lemoine y Jonathan Mann, solo en Pastas.
Blake Lemoine recuerda el primer instinto que tuvo cuando se convenció de que la IA de Google, llamada LaMDA, era sensible.
“Está bien, me voy a emborrachar durante una semana”, pensó Lemoine. “Y eso es exactamente lo que hice. Eventualmente me puse sobrio y dije, ‘Está bien, seamos responsables’. Has encontrado una IA consciente; ¿Qué debemos hacer al respecto?’»
En el episodio final de Compositor de canciones Temporada 4, Lemoine detalla las pruebas metódicas que comenzó, experimentos diseñados para mostrar si LaMDA siente emoción, como afirma, pero también si las reglas que el equipo de seguridad de Google había establecido para LaMDA podrían romperse. (Pueden). Lemoine también explica cómo se diseñó la IA y algunas de sus capacidades más extraordinarias.
“Todo el software analítico para Google Books, todo el software analítico para Google Maps, incluye literalmente todas las IA que pudieron averiguar cómo conectar entre sí, y luego lo probaron”, dice Lemoine. “Tiene entradas de visión artificial, tiene entradas de escucha de audio de máquina. Puede oír, puede ver, puede leer».
Sin embargo, a pesar de lo complejo que es LaMDA, Lemoine dice que, en cierto modo, es como un niño: ingenuo, a veces falso y necesitado de orientación.
“Debemos tener mucho cuidado con la forma en que recaudamos LaMDA”, advierte Lemoine. «No creo que una docena de informáticos tengan las habilidades necesarias para criar a un niño artificial».
El compositor Jonathan Mann tuvo una reacción complicada cuando leyó sobre LaMDA. Al principio quedó profundamente impresionado con las transcripciones de conversaciones con LaMDA que Lemoine publicó. Sin embargo, después de hablar con amigos que se especializan en investigación de IA, Mann comenzó a tener dudas.
“Su ambiente general era, ‘No es tan impresionante, y no es tan innovador’”, dice Mann. Pero aun así, se preguntó. «Pasaban por mi cabeza todas estas películas y programas de televisión en los que esto sucede, y nadie cree que sea real».
Al escuchar las descripciones de Lemoine sobre las pruebas de inteligencia y posible sensibilidad de LaMDA, Mann volvió a su sentido original de cautelosa esperanza y curiosidad.
“No sé si soy ignorante o me dejo engañar fácilmente, pero funcionó en mí, si soy honesto”, dice Mann. «Siento que, incluso si existe la posibilidad de que LaMDA sea consciente, deberíamos proceder con precaución».
Mann escribió una canción llamada «La medida de un hombre», inspirada en la historia de LaMDA y también uno de sus episodios favoritos de Star Trek. La canción es una de las casi 5000 que Mann ha estado escribiendo todos los días durante 14 años y se lanzará como NFT para su proyecto SongaDAO.
Ben Arturo (@Mi corazón en Twitter) es el creador y anfitrión de Compositor de canciones. Su última canción, «Persistent Ghosts», trata sobre la memoria traumática.
.
[ad_2]











