A empresa instalou um sistema de monitoramento de IA, que afirma ser capaz de prever a intenção de saída dos funcionários analisando microexpressões e tom de voz.

No mês passado, o sistema marcou a recepcionista como “alto risco”. O motivo foi que ela suspirava mais de quinze vezes por dia na estação de trabalho.
Ela foi chamada para uma conversa com RH. No escritório, três pessoas sentadas do lado dela, com um gráfico impresso de “curva de variação emocional” espalhado na mesa. Ela olhou para o gráfico por um longo tempo e disse: Eu suspiro porque minha mãe está na UTI, não porque quero sair. RH guardou o gráfico e não a procurou mais.
Mas o sistema não parou. Começou a marcar mais pessoas. O velho Zhang do departamento de P&D foi marcado porque não sorriu na sala de reuniões por três dias consecutivos. A pequena Liu do administrativo foi marcada porque não participou do evento de equipe após o expediente, o sistema a considerou “isolada socialmente”. A irmã Wang do financeiro foi marcada porque a velocidade de resposta dela no grupo da empresa, que era em média cinco segundos no mês passado, aumentou para uma média de onze segundos neste mês. Cada pessoa marcada apareceu na lista de convocação do RH no dia seguinte.
Até a semana passada, o sistema enviou um alerta de nível máximo.
Não era um funcionário. Era o CEO.
O sistema determinou que ele era “extremamente perigoso, recomendando intervenção imediata”. O relatório de análise dizia que ele vinha andando de um lado para o outro na sala de reuniões com frequência, o horário do almoço era irregular, a frequência de contração das pupilas estava anormal, e detectou “raiva reprimida” na voz dele. O RH não ousou chamá-lo para uma conversa, enviou o relatório direto ao conselho. No dia seguinte, o CEO reuniu toda a empresa na grande sala de reuniões, ficou no palco, projetou o relatório na parede da frente e disse uma frase que deixou todos em silêncio: esse IA não sabe que eu ando de um lado para o outro na sala de reuniões porque minha esposa pediu divórcio na semana passada. Também não sabe que minhas pupilas contraíram porque vi vocês todos com medo dele hoje de manhã.
Ele anunciou na hora que iria cancelar o projeto e desligar o sistema. Depois da reunião, voltei ao meu posto e percebi que a recepção estava vazia. No seu lugar, havia a sua curva de variação emocional impressa pelo sistema, ao lado de um calendário com o horário de visitas à UTI marcado. Ela levou o calendário, mas não levou o gráfico. No topo, havia uma nota gerada automaticamente pelo sistema, que categorizou suas quinze suspiros como “tristeza desconhecida”.
Naquela tarde, todos nós, no espaço vazio, colocamos um doce na fila. O atendente da loja de conveniência do andar de baixo perguntou qual era a ocasião. Eu disse que não era nada, que uma colega não tinha vindo hoje, mas que ela talvez viesse depois, ou talvez não. Ela não insistiu. Apenas, ao vendermos todos os doces da loja, silenciosamente nos deu um desconto de vinte por cento.