IBM Japón tendrá que revelar los datos utilizados por su IA para evaluar a los empleados

IBM Japón ha llegado a un acuerdo histórico con el sindicato de trabajadores sobre el uso de inteligencia artificial (IA) en la evaluación del personal.

Este acuerdo busca garantizar la transparencia en el proceso de evaluación de los empleados, un tema que había generado controversia y disputa laboral.

Acuerdo con el sindicato

El 2 de agosto, la Unión de Trabajadores del Metal, Manufactura, Información y Telecomunicaciones de Japón (JMITU) anunció en una conferencia de prensa que se había alcanzado un acuerdo con IBM Japón. Según este acuerdo, la empresa debe informar al sindicato sobre los datos utilizados por la IA para realizar las evaluaciones de los empleados.

Este convenio también establece que el sindicato desempeñará un papel de monitorización para asegurar la transparencia, dado que las leyes y regulaciones nacionales aún no abordan adecuadamente el uso de la IA en las relaciones laborales.

Evaluaciones de IA desde 2019

IBM Japón implementó un sistema de IA para evaluar el rendimiento y la actitud laboral de los empleados a partir del año fiscal 2019, afectando los aumentos salariales. Esto llevó al sindicato a presentar una solicitud de orden de alivio en abril de 2020, argumentando que las evaluaciones carecían de transparencia.

El sistema de IA considera 40 ítems para evaluar los salarios, como la demanda de habilidades. Ahora, la empresa debe divulgar todos estos ítems al sindicato y explicar cómo la IA influye en los elementos de evaluación dentro de las reglas salariales.

Para los empleados con calificaciones bajas, la empresa revelará el contenido de las evaluaciones generadas por la IA. El sindicato había exigido esta transparencia debido a que «la IA influye en las decisiones de los directores» y planteó preocupaciones sobre invasión de la privacidad, discriminación y sesgos automáticos, donde los humanos confían demasiado en las decisiones tomadas por la IA.

La empresa había argumentado que las decisiones finales de evaluación las toman los directores y que la IA solo sirve como referencia.

Regulación global de la IA

En todo el mundo, se están desarrollando leyes para garantizar la seguridad de la IA. Japón también ha comenzado a considerar regulaciones legales al respecto. En mayo, la Unión Europea aprobó la primera Ley de Inteligencia Artificial del mundo, clasificando el uso de la IA para la evaluación del personal como el segundo nivel de cuatro con más riesgo y exigiendo una gestión estricta.

Esta resolución marca un precedente importante en la relación entre la tecnología y los derechos laborales, subrayando la necesidad de una mayor regulación y supervisión en el uso de la inteligencia artificial en el ámbito laboral.