Ibrahim Diallo se encontró sin trabajo durante tres semanas sin tener idea de por qué. «No era la primera vez que fallaba mi tarjeta, asumí que era hora de reemplazarla».
Ibrahim Diallo
Entonces comenzó una secuencia de eventos que vieron a Ibrahim Diallo despedido de su trabajo, no por su gerente sino por una máquina.
Él ha detallado su historia en una publicación de blog que espera servirá como una advertencia a las empresas sobre confiar demasiado en la automatización.
«La automatización puede ser un activo para una empresa, pero es necesario que haya una forma de que los humanos se hagan cargo si la máquina comete un error«, escribe.
pixabay
La historia del despido del Sr.Diallo por una máquina comenzó cuando su entrada al rascacielos de Los Ángeles, donde se estableció su oficina, no funcionó, lo que le obligó a confiar en el guardia de seguridad para permitirle la entrada.
«Tan pronto como llegué a mi piso, fui a ver a mi gerente para avisarle. Ella prometió pedirme una nueva de inmediato». No poder entrar en su oficina fue frustrante, pero no hizo sonar la alarma del Sr. Diallo
Luego se dio cuenta de que había cerrado la sesión de su sistema de trabajo y un colega le dijo al Sr. Diallo que la palabra «Inactivo» figuraba junto a su nombre.
Su día empeoró. Después del almuerzo -y una espera de 10 minutos para que un compañero de trabajo lo dejara regresar a su oficina- su reclutadora le dijo que había recibido un correo electrónico que decía que su contrato había sido cancelado. Ella prometió resolver el problema.
Al día siguiente, le habían bloqueado todos los sistemas «excepto mi máquina Linux» y luego, después del almuerzo, aparecieron dos personas en su escritorio. Se informó al Sr. Diallo que se había recibido un correo electrónico para que lo escoltaran desde el edificio.
En el momento en que fue escoltado del edificio, supo que las cosas habían tomado un nuevo giro
Su jefe estaba confundido pero impotente como recuerda el Sr. Diallo: «Me despidieron. No había nada que mi gerente pudiera hacer al respecto. No había nada que el director pudiera hacer al respecto. Permanecieron impotentes mientras yo empacaba mis cosas y abandonaba el edificio«.
En ese momento, tenía ocho meses de un contrato de tres años y durante las siguientes tres semanas lo copiaron en correos electrónicos sobre su caso.
«Observé que se ampliaba a títulos más grandes y poderosos una y otra vez, sin embargo, nadie podía hacer nada al respecto. De vez en cuando, adjuntaban un correo electrónico del sistema.
«No tenía alma y estaba escrito en rojo, ya que daba órdenes que dictaban mi destino. Inhabilita esto, deshabilita eso, cancela el acceso aquí, cancela el acceso allí, escolta fuera de las instalaciones, etc.”
“El sistema no tenía sangre y yo fui su primera víctima».
Le tomó tres semanas a los jefes del Sr. Diallo averiguar por qué lo habían despedido. Su empresa estaba experimentando cambios, tanto en términos de los sistemas que utilizaba como de las personas que empleaba.
Su gerente original había sido despedido recientemente y enviado a trabajar desde su casa por el resto de su tiempo en la empresa y en ese período no había renovado el contrato de Diallo en el nuevo sistema.
Una vez que una casilla no estaba marcada, todo el sistema se activó para expulsar a Diallo. Después de eso, la máquina tomó el control, señalándolo como un ex empleado.
«Todos los pedidos necesarios se envían automáticamente y cada pedido completado genera otro pedido. Por ejemplo, cuando se envía el pedido para deshabilitar mi tarjeta de clave, no hay forma de que se vuelva a habilitar.
«Una vez que está deshabilitado, se envía un correo electrónico a la seguridad sobre los empleados despedidos recientemente. Escanear la tarjeta clave es una señal de alerta. También se envía la orden de deshabilitar mi cuenta de Windows. También hay una para mi cuenta de Jira. Y así sucesivamente»
Aunque a Diallo se le permitió regresar al trabajo, se había perdido el pago de tres semanas y fue escoltado desde el edificio «como un ladrón». Tuvo que explicar su desaparición a otros y descubrió que sus compañeros de trabajo se distanciaron.
Él decidió mudarse a otro trabajo.
Su historia debería servir como una advertencia sobre la relación hombre-máquina, opina el experto en IA Dave Coplin. «Es otro ejemplo de una falla del pensamiento humano en el que permiten que sean humanos frente a las máquinas en lugar de los humanos más las máquinas«, dijo.
«Una de las habilidades fundamentales para todos los humanos en un mundo de IA es la responsabilidad: solo porque el algoritmo dice que es la respuesta, no significa que realmente lo sea«.