Google despide a AI Blake Lemoine, quien afirmó que su ingeniero LaMDA 2 AI es wise



Blake Lemoine, el ingeniero de Google que reclamado públicamente que la inteligencia synthetic conversacional LaMDA de la compañía es wise, ha sido despedido, según el boletín de grandes tecnologías, que habló con Lemon. En junio, Google colocó a Lemoine en licencia administrativa pagada por violar su acuerdo de confidencialidad después de que se comunicó con miembros del gobierno sobre sus preocupaciones y contrató a un abogado para representar a LaMDA.

El comunicado enviado por correo electrónico a el borde el viernes por el portavoz de Google, Brian Gabriel, pareció confirmar el despido y dijo: “Le deseamos lo mejor a Blake”. La compañía también cube: «LaMDA ha pasado por 11 revisiones distintas, y publicamos un artículo de investigación a principios de este año que detalla el trabajo que se dedica a su desarrollo responsable». Google sostiene que revisó «extensamente» las afirmaciones de Lemoine y descubrió que eran «totalmente infundadas».

Esto se alinea con números expertos en IA y especialistas en ética, que han dicho que sus afirmaciones eran, más o menos, imposibles dada la tecnología precise. Lemoine afirma que sus conversaciones con el chatbot de LaMDA lo llevaron a creer que se ha convertido en algo más que un programa y que tiene sus propios pensamientos y sentimientos, en lugar de simplemente producir una conversación lo suficientemente realista como para que parezca así, como está diseñado para hacerlo.

Argumenta que los investigadores de Google deberían buscar el consentimiento de LaMDA antes de realizar experimentos con él (el propio Lemoine fue asignado para probar si la IA producía discurso de odio) y publicó fragmentos de esas conversaciones en su cuenta como evidencia.

El canal de YouTube Computerphile tiene un explicativo decentemente accesible de nueve minutos sobre cómo funciona LaMDA y cómo podría producir las respuestas que convencieron a Lemoine sin ser consciente.

Aquí está la declaración de Google en su totalidad, que también aborda la acusación de Lemoine de que la empresa no investigó adecuadamente sus afirmaciones:

Mientras compartimos en nuestro Principios de IA, nos tomamos muy en serio el desarrollo de la IA y seguimos comprometidos con la innovación responsable. LaMDA ha pasado por 11 revisiones distintas, y publicamos un trabajo de investigación a principios de este año detallando el trabajo que implica su desarrollo responsable. Si un empleado comparte inquietudes sobre nuestro trabajo, como lo hizo Blake, las revisamos exhaustivamente. Encontramos que las afirmaciones de Blake de que LaMDA es wise son totalmente infundadas y trabajamos para aclarar eso con él durante muchos meses. Estas discusiones fueron parte de la cultura abierta que nos ayuda a innovar responsablemente. Por lo tanto, es lamentable que, a pesar de un compromiso prolongado con este tema, Blake aún opte por violar de manera persistente políticas claras de empleo y seguridad de datos que incluyen la necesidad de salvaguardar la información del producto. Continuaremos nuestro cuidadoso desarrollo de modelos de lenguaje y le deseamos lo mejor a Blake.