Google despide al ingeniero que advirtió que la IA de la empresa alcanzó la sensibilidad



El viernes, Google despidió a Blake Lemoine, un ingeniero de software program que hizo públicas sus preocupaciones de que una tecnología conversacional que la empresa estaba desarrollando había logrado aceptación.

Lemoine salió de la empresa para consultar con expertos sobre el sentimiento potencial de la tecnología y luego compartió públicamente sus preocupaciones en un medio. correo y posteriores entrevista con The Washington Publish. Google tenía limón suspendido en junio por violar la política de confidencialidad y ahora ha sido despedido. El propio Lemoine está programado para explicar lo que sucedió en un próximo episodio del podcast de Huge Know-how, un Substack que informó la historia por primera vez.

Google continúa negando que su tecnología LaMDA, o modelo de lenguaje para aplicaciones de diálogo, haya logrado sensibilidad. La compañía cube que LaMDA ha pasado por 11 revisiones separadas y la compañía publicó un trabajo de investigación sobre la tecnología en enero. Pero el delito despedido de Lemoine fue compartir información interna, dijo Google en un comunicado.

«Es lamentable que, a pesar de un compromiso prolongado con este tema, Blake aún opte por violar de manera persistente políticas claras de empleo y seguridad de datos que incluyen la necesidad de salvaguardar la información del producto», dijo Google en el comunicado. “Continuaremos nuestro cuidadoso desarrollo de modelos de lenguaje y le deseamos lo mejor a Blake”.

LaMDA se describe como un chatbot sofisticado: envíele mensajes y generará automáticamente una respuesta que se ajuste al contexto, dijo el portavoz de Google, Brian Gabriel, en una declaración anterior. «Si preguntas cómo es ser un dinosaurio de helado, pueden generar texto sobre cómo se derrite, ruge, and so forth.»