O título “The Tyranny of Metrics” do professor Jerry Z. Muller é indissociável do título “The Tyranny of Merit” do imensamente mais conhecido professor Michael J. Sandel. Mas em defesa de Muller, o seu livro é de 2018, e o de Sandel de 2020. Mas a aproximação não se fica pelos títulos, vai ao fundo dos dois tópicos eleitos: mérito e métricas. Não as colocando lado a lado, mas antes em lados opostos, diga-se lados políticos. Porque se o “mérito” é o santo graal da esquerda, o motor da crença messiânica de que todos podemos ser tudo e fazer tudo desde que nos esforcemos. As métricas são o Santo Graal da direita, em que tudo tem de ser medido para que tudo possa ser transparente, porque só quando ajustado pela medida objetiva se pode eliminar qualquer vestígio de viés humano.
Com este primeiro ponto, coloco desde já de lado as questões ideológicas que se podem atacar ao livro de Muller. É verdade que ele nunca reconhece como a nossa sociedade evoluiu para uma tirania de métricas graças aos preceitos do neoliberalismo. Mas não deixa de ser verdade que todo o seu livro ataque de todas as formas essas mesmas métricas. Claro que tal como Sandel, o ataque por si não quer dizer que se estejam a desviar completamente das suas bases políticas. Ambos procuram otimizar as suas crenças. Mas enquanto leitores, não nos cabe seguir tudo o que cada um pensa, mas cabe analisar o que cada um diz e daí retirar o melhor para o seu ecossistema de valores.
Assim, e apesar de no final do livro nos poder parecer que nada é dito de muito novo, é preciso reconhecer todo o esforço de sintetizar e colocar num formato de livro imensamente acessível a todos algo que precisa de ser desvelado. A sociedade sente-se imensamente cansada já não só da burocratização, mas agora também da constante inquirição, auto-inquirição, busca de objetivos onde antes existiam apenas tarefas, definições de indicadores onde antes existiam apenas necessidades das pessoas, a definição total e completa de padrões passíveis de serem medidos, numa espécie de insanidade promovida pelos recém-criados Departamentos da Qualidade.
E se Muller fala do nascimento desta insanidade no domínio dos negócios, e do modo como por forma a garantir responsabilização e transparência dos serviços públicos, se começaram a aplicar técnicas de análise estatística de coisas na análise de pessoas, algo que podemos apontar o dedo ao formato neoliberal. Eu sinto que existe algo mais subterrâneo, e que é hoje por demais evidente para todos, é que este movimento não foi criado apenas por um movimento político, mas antes por uma evolução tecnológica. Desde logo por tudo aquilo que foi transformado com a conversão dos livros de contabilidade e folhas de Excel. Mas com o passar dos anos, como essas folhas de excel se transformaram em Bases de Dados, que por sua vez começaram a alimentar sistemas de Inteligência Artificial que servem na automatização de tudo aquilo que é feito pelo ser humano.
Ou seja, a insanidade métrica não serviu apenas uma gestão mais eficaz, ela foi essencial na tradução do comportamento humano por uma codificação que as máquinas fossem capazes de entender. A partir do momento que pudemos reduzir a enorme complexidade humana em indicadores de desempenho, em máximos, mínimos e medianias, as máquinas começaram também a poder compreender como serem mais parecidas com os humanos. O big data não é um mero repositório de dados, a sua importância reveste-se pela forma como conseguimos usar esses dados, para o que precisamos de cientistas sociais para criar as melhores métricas comportamentais para chegar à utilidade desses dados.
Daqui nasceram máquinas capazes de montar carros; máquinas capazes de vencer jogos de xadrez; máquinas capazes analisar milhares de conversas numa rede social e apresentar-nos apenas aquelas que nos “interessam”; máquinas capazes de compor textos, músicas, imagens, etc. Mas na verdade tudo isto é sempre feito seguindo as tais métricas que nós humanos concebemos para estipular o que é que o humano “necessita”, e isso acarreta problemas. Não apenas para aquilo que a IA nos consegue oferecer, mas especialmente para aquilo que é a vida humana que se foi deixando aprisionar por estes modos de gerir o trabalho, por que como diz Muller:
“while [metrics] are a potentially valuable tool, the virtues of accountability metrics have been oversold, and their costs are often underappreciated.” Muller, 2018
O primeiro grande problema do uso de métricas surge a partir da confusão entre Medição e Julgamento. Enquanto seres humanos fomos moldados nos últimos séculos pela ideia de que aquilo que é medido é feito segundo categorias profundamente objetivas e não contaminadas por desvios humanos. Contudo, nunca paramos para pensar que o "metro" é apenas uma barra de ferro criada em 1790 e guardada em Paris que nos serve de referência. Serve a comunicação humana, e acima de tudo a negociação, mas não é uma verdade de nada, é uma convenção que criámos e que tem, até agora, servido bem os nossos interesses.
Contudo se fomos capazes de fazer isto com o ato de medir distâncias, com ato de medir pesos, com ato de medir tudo aquilo que é inorgânico, fazer o mesmo sobre elementos orgânicos é algo de um nível totalmente diferente. Quando queremos classificar uma espécie de árvores, não podemos dizer que possui uma medida exata, temos sempre de definir limites máximos e mínimos, e ainda assim possuir tolerância para as excecões, pois a variabilidade orgânica é grande. Quando passamos depois a orgânico animado, tudo se complexifica ainda mais, por muito que os criadores de cães tenham conseguido subverter a natureza, fazendo cruzamentos artificiais para chegar ao que dizem ser uma raça pura, na verdade nunca conseguem determinar o tipo de personalidade do cão em si. O exterior pode ser aproximado, ainda que padeça das mesmas questões da qualificação das árvores, mas quando vamos para o interior e começamos a medir o comportamento, tudo cai por terra. Usei aqui uma gradação de complexidade para chegar à ideia central de que algo que seja Medido não pode ser automaticamente Julgado por essa medida. Os valores da raça do cão podem estar todos corretos, e ainda assim o comportamento ser totalmente desviante.
E se assim é quando falamos de árvores ou de cães, basta agora transferir a complexidade para o ser humano, para termos de aceitar que por mais categorias que criemos para Medir o comportamento, o desempenho, todas essas medidas serão apenas referências da realidade. Não se pode medir ninguém por meio de categorias fixas, ditas objetivas, que nada possuem da natureza ou condição humana.
E é por isso que a AI não é capaz de nos oferecer o verdadeiro Original. A AI pode ser criativa seguindo métodos mais básicos de fusão e agregação, mas a AI tem de o fazer seguindo o aglomerado de médias humanas sem o que não conseguirá agradar aos humanos. A AI não estará nunca autorizada a ser o estranho, o diferente, a vanguarda, porque não experiencia as mesmas necessidades humanas, aquelas que permitem justificar a saída da norma.
Do mesmo modo, não nos podemos admirar quando focamos toda a atenção do comportamento do humano no seguimento de métricas que a sociedade comece a declinar em termos criativos. E não o digo apenas de forma genérica, é a própria ciência a gritar este sinal de alerta no estudo publicado já neste ano de 2023 na Nature, “Papers and patents are becoming less disruptive over time”. Analisada a ciência produzida "ao longo de seis décadas, utilizando dados sobre 45 milhões de artigos e 3,9 milhões de patentes" verificou-se que "os artigos e patentes são cada vez menos susceptíveis de romper com o passado por forma a empurrar a ciência e a tecnologia em novas direcções. Com toda a insanidade que criámos em redor da avaliação dos professores e investigadores por meio de métricas, estamos a conduzir toda uma classe, e assim a própria ciência, para o mesmo desígnio da AI em que é a Mediania que reina.
Como se tudo isto não bastasse, estamos a esquecer que o ser-humano não é meramente um ser orgânico animado, este possui consciência, ou seja, é capaz de se reconhecer a si próprio, o que faz tudo isto assumir proporções ainda mais perturbadoras. Enquanto o litro de água fica estanque no contentor, enquanto a árvore e o cão não querem saber do nome ou raça que lhes atribuem, a consciência humana é construída exatamente com base no modo como os outros olham para ela, ou seja, a catalogam. Logo, se usarmos métricas para avaliar humanos, a primeira coisa que a Consciência vai fazer é tentar perceber como ficar bem na fotografia dessas métricas, por forma a garantir o reconhecimento de quem a avalia. Assim, para cada medida imposta, teremos a consciência a desviar recursos na realização da tarefa que eram suposto estar a fazer para a tentativa de responder às medições em análise. Não se trata sequer de tentar usar modos ilegítimos, que dependerão da formação de cada um, mas trata-se da inevitabilidade humana de se confrontar com o que lhe é imposto. Se um simples médico deixa de ser reconhecido pelo quão bem conversa e trata os seus pacientes, e passa a ser avaliado pelo número de pacientes que consegue despachar numa manhã. Se um professor deixa de ser reconhecido pelas suas competências no ensino de língua ou álgebra, e passa a ser avaliado por quão altas são as notas dos seus alunos. O que vos parece que a Consciência destes vai tentar conduzi-los a fazer? A partir do momento que o humano percebe que está a ser analisado e medido, a sua consciência consegue operar internamente para se ajustar a essa medição, mas mais do que isso, esta consegue trabalhar para melhorar essa medição, desviando se for necessário recursos para o fazer. No fundo, temos andado a gameficar as profissões, envolvidos numa névoa ingénua e beática, fortemente negligente, de que os profissionais não vão jogar o sistema.
Sem comentários:
Enviar um comentário