Microsoft elimina gradualmente la herramienta de reconocimiento facial de IA que identifica emociones

Microsoft Corp. anunció el martes que planea eliminar gradualmente su llamada herramienta de "reconocimiento de emociones" basada en inteligencia artificial de sus servicios de reconocimiento facial Azure Face citando preocupaciones de privacidad.

Los expertos han criticado severamente tales herramientas de "reconocimiento de emociones", ya que las expresiones faciales y las emociones difieren según el país y la raza, lo que hace que sea inapropiado equiparar las manifestaciones externas de sentimientos con las emociones internas.

Según los informes, el gigante de Redmond ha estado revisando los sistemas de reconocimiento de emociones desde el año pasado para comprobar si tienen raíces científicas. Para esto, colaboró ​​con investigadores internos y externos para comprender las limitaciones y los beneficios potenciales de esta tecnología y navegar por las ventajas y desventajas.

"Específicamente en el caso de la clasificación de emociones, estos esfuerzos plantearon preguntas importantes sobre la privacidad, la falta de consenso sobre una definición de 'emociones' y la incapacidad de generalizar el vínculo entre la expresión facial y el estado emocional en casos de uso, regiones y demografía. , "Sarah Bird, gerente principal de productos del grupo en la unidad Azure AI de Microsoft, dijo en una entrada de blog.

"El acceso de la API a las capacidades que predicen los atributos confidenciales también abre una amplia gama de formas en que pueden ser mal utilizados, incluido someter a las personas a estereotipos, discriminación o denegación injusta de servicios".

Para mitigar estos riesgos, Microsoft ha decidido no admitir un sistema de propósito general en Face API que pretende inferir estados emocionales, género, edad, sonrisa, vello facial, cabello y maquillaje.

A partir del 21 de junio de 2022, la detección de estos atributos ya no está disponible para nuevos clientes. Tendrán que solicitar acceso para usar operaciones de reconocimiento facial en Azure Face API, Computer Vision y Video Indexer.

Por otro lado, los clientes existentes tienen hasta el 30 de junio de 2023 para descontinuar el uso de las herramientas de reconocimiento emocional antes de que se retiren. Además, tienen un año para solicitar y recibir aprobación para el acceso continuo a los servicios de reconocimiento facial en función de los casos de uso proporcionados.

Sin embargo, las capacidades de detección facial (incluida la detección de borrosidad, exposición, anteojos, posición de la cabeza, puntos de referencia, ruido, oclusión y cuadro delimitador facial) permanecerán generalmente disponibles y no requieren una aplicación.

Al presentar el acceso limitado, la compañía agrega una capa adicional de escrutinio al uso y la implementación del reconocimiento facial para garantizar que el uso de estos servicios se alinee con el "Estándar de inteligencia artificial responsable de Microsoft", un documento de 27 páginas producido por Microsoft que establece las pautas. para que los sistemas de IA garanticen que no van a tener un impacto nocivo en la sociedad.

Los requisitos incluyen garantizar que los sistemas brinden "soluciones válidas para los problemas que están diseñados para resolver" y "una calidad de servicio similar para grupos demográficos identificados, incluidos los grupos marginados".

Por ahora, Microsoft acaba de pedir a sus clientes “que eviten situaciones que infrinjan la privacidad o en las que la tecnología pueda tener problemas”, como la identificación de menores, pero no prohibió explícitamente tales usos.

La compañía también ha puesto algunas restricciones en la función 'Voz neuronal personalizada', que requerirá que los usuarios presenten una solicitud y expliquen cómo usarán esta función.

Deja una respuesta

Tu dirección de correo electrónico no será publicada.

Ver más

  • Responsable: Susana Natividad Gomez.
  • Finalidad:  Moderar los comentarios.
  • Legitimación:  Por consentimiento del interesado.
  • Destinatarios y encargados de tratamiento:  No se ceden o comunican datos a terceros para prestar este servicio.
  • Derechos: Acceder, rectificar y suprimir los datos.
  • Información Adicional: Puede consultar la información detallada en la Política de Privacidad.

Subir
Utilizamos cookies para una mejor experiencia. Al utilizar nuestro sitio web, usted acepta todas las cookies de acuerdo con nuestra Política de Cookies.    Configurar y más información
Privacidad