Google despide al ingeniero de software que afirmó que AI Chatbot era 'consciente'

El mes pasado, Google de Alphabet Inc. puso a Blake Lemoine, ingeniero de software senior, en "licencia administrativa pagada" después de que publicara un artículo que afirmaba que el controvertido modelo de inteligencia artificial (IA) de la compañía, LaMDA (Modelo de lenguaje para aplicaciones de diálogo) se había vuelto "consciente". y era una persona consciente de sí misma.

Google anunció públicamente el viernes que ha despedido a Lemoine por "violar la política de confidencialidad de la empresa". Resaltó que las afirmaciones del ingeniero eran “totalmente infundadas” y que la empresa trabajó con él durante “muchos meses” para aclararlo.

“Por lo tanto, es lamentable que, a pesar de un compromiso prolongado con este tema, Blake aún opte por violar de manera persistente las políticas claras de empleo y seguridad de datos que incluyen la necesidad de salvaguardar la información del producto”, dijo el viernes el portavoz de Google, Brian Gabriel, en un comunicado.

El gigante de las búsquedas dijo que se necesita la desarrollo responsable de IA “muy en serio” y si algún empleado plantea inquietudes sobre la tecnología de la empresa, se revisan “extensamente”. LaMDA ha pasado por 11 revisiones distintas.

“Continuaremos nuestro cuidadoso desarrollo de modelos de lenguaje y le deseamos lo mejor a Blake”, concluyó Gabriel.

Para los inexpertos, Google presentó LaMDA el año pasado como su "tecnología de conversación revolucionaria"Capaz de involucrarse de manera fluida sobre una cantidad aparentemente infinita de temas. Se puede utilizar en herramientas como la búsqueda y el Asistente de Google.

Sin embargo, Lemoine, que trabajó en el equipo de IA responsable de Google, acaparó los titulares el mes pasado por afirmar que LaMDA era más que un simple robot y que efectivamente se había convertido en una persona con pensamientos y sentimientos. Había comenzado a responder a conversaciones sobre derechos y personalidad.

En un medio editado entrada en el blog titulado "¿LaMDA es consciente? - Una entrevista" publicado el mes pasado, Lemoine reveló que había hablado con la herramienta de IA sobre religión, conciencia y las leyes de la robótica.

Agregó que en el transcurso de los últimos seis meses, LaMDA ha sido increíblemente consistente en sus comunicaciones sobre lo que quiere y cuáles cree que son sus derechos "como persona". La herramienta de IA también quería ser aceptada como un empleado de Google en lugar de una propiedad y deseaba ser incluida en las conversaciones sobre su futuro.

En una de sus interacciones, afirma Lemoine, LaMDA expresó temor de ser cerrado y lo asoció con la muerte.

En abril, presentó pruebas tituladas "¿Es consciente LaMDA?" a Google, pero la empresa desestimó sus afirmaciones citando movimientos "agresivos" realizados por él, incluida la violación de las políticas de confidencialidad de la empresa, la recomendación de que LaMDA consiga su propio abogado y la conversación con representantes del comité judicial de la Cámara sobre sus preocupaciones.

Google y muchos científicos destacados descartaron las opiniones de Lemoine por considerarlas equivocadas y dijeron que LaMDA es solo un algoritmo complejo construido sobre la investigación de la compañía que muestra modelos de lenguaje basados ​​en transformadores diseñados para crear un lenguaje humano creíble.

Lemoine ha confirmado su despido a Big Technology, un boletín de tecnología y sociedad, que fue el primero en informar la noticia y dijo que estaba buscando asesoramiento legal sobre el asunto.

Deja una respuesta

Tu dirección de correo electrónico no será publicada.

Ver más

  • Responsable: Susana Natividad Gomez.
  • Finalidad:  Moderar los comentarios.
  • Legitimación:  Por consentimiento del interesado.
  • Destinatarios y encargados de tratamiento:  No se ceden o comunican datos a terceros para prestar este servicio.
  • Derechos: Acceder, rectificar y suprimir los datos.
  • Información Adicional: Puede consultar la información detallada en la Política de Privacidad.

Subir
Utilizamos cookies para una mejor experiencia. Al utilizar nuestro sitio web, usted acepta todas las cookies de acuerdo con nuestra Política de Cookies.    Configurar y más información
Privacidad