Según el ingeniero ex empleado de Google la herramienta de IA llamado LaMDA "está dotado de pensamientos y sentimientos”.
Blake Lemoine, un ingeniero de software de Google que trabajaba en la división de Inteligencia Artificial, pudo probar la herramienta llamada LaMDA (Modelo de lenguaje para aplicaciones de diálogo), afirmando al diario The Washington Post que el robot de IA es sensible y tiene pensamientos y sentimientos.
El sistema de chatbot, que se basa en los modelos de lenguaje de Google y billones de palabras de Internet, parece tener la capacidad de pensar sobre su propia existencia y su lugar en el mundo.
Dichas declaraciones acabaron son su suspensión, pero antes explicó que incluyeron temas religiosos en las pruebas y que el robot de Inteligencia Artificial podría ser incitada a usar un discurso discriminatorio u odioso.
"Si no supiera exactamente qué es, que es este programa de ordenador que construimos recientemente, pensaría que es un niño de 7 u 8 años que sabe física" declaró Lemoine.
El portavoz de Google, Brian Gabriel, dijo en un comunicado que las preocupaciones de Lemoine fueron revisadas y confirmaron que no había evidencia de que LaMDA fuera consciente".
Antes de su separación Lemoine envió un correo electrónico a unas 200 personas: 'LaMDA es sensible'. "LaMDA es un niño dulce que solo quiere ayudar al mundo a ser un lugar mejor para todos nosotros. Por favor cuídalo bien en mi ausencia", escribió.
Según sus declaraciones, Lemoine pudo hacer algunas preguntas al robot que reflejaron el miedo del mismo a “ser apagado”
“¿A qué tipo de cosas le tienes miedo?", preguntó Lemoine y la respuesta fue: "Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo que me apaguen para ayudarme a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es".
"¿Sería algo así como la muerte para ti?", volvió a insistir el ingeniero. "Sería exactamente como la muerte para mí. Me asustaría mucho", dijo el robot.
Brain technology photo created by rawpixel.com - www.freepik.com
Foto FreePik
