Weapons of Math Destruction já está na minha lista de livros a ler faz um bom tempo.
O livro saiu em 2016 e por incontáveis vezes ouvi citações em podcasts, vídeos e artigos.
Eis que finalmente consegui prioriza-lo e que bom que o fiz.
Cada capítulo é um tapa na cara e converge diretamente com tudo que tenho estudado e lido nos últimos anos.
É um livro mais do que necessário.
A autora, Cathy O’Neil, é uma matemática, mantém o blog mathbabe.org e é autora de diversos livros sobre data science.
Cathy conta que desde criança a matemática foi sua paixão.
Ela se formou na área, fez phd e virou professora.
Depois de um tempo Cathy fez uma mudança, parou de lecionar e começou a trabalhar em uma empresa de funding.
Aqui é legal notar que Cathy sai do mundo acadêmico, onde ela ficava muito com a teoria e vai para a prática, aplicando modelos matemáticos no mundo real, e é aí que ela identifica os principais problemas citados no livro.

Logo na introdução Cathy já consegue nos mostrar as falhas de modelos matemáticos opacos que se espalharam em nossa sociedade com a avanço da tecnologia da última década.
Não é que a matemática é falha, muito pelo contrário. As falhas que a autora nos mostra são bem humanas.
Como no caso em que o governo em Washington queria resolver o problema de notas baixas.
A ideia era associar notas ruins de alunos com avaliações baixas de professores e professoras.
Parece fazer sentido até. Se um professor possui uma avaliação ruim nos termos da escola e de alunos, e alunos estão com notas baixas, é possível usar matemática para reverter isso.
Seguindo a lógica, se livrar de professores ruins e trazer melhores professores fará com que as notas dos alunos aumentem.

O que Cathy nos mostra neste caso é que existem milhares de variáveis envolvidas que podem afetar o desempenho de um aluno na escola.
Problemas em casa com os pais, bullying, problemas no seu bairro, o fato do aluno ser da periferia, etc. São muitas vairáveis.
Os modelos matemáticos da escola em questão se baseavam em algumas variáveis que faziam sentido, porém, era um modelo estático.
Os modelos não são como os modelos de Amazon e Google que estão sempre incluindo dados e variáveis que afetam o resultado e os deixam mais próximos do acerto.

O que a autora nos mostra, com exemplos práticos, é que a grande maioiria desses modelos são falhos, justamente por levar em conta apenas dados constantes.
É preciso alimenta-los, e mesmo assim, em casos como o das escolas, ainda temos muitas chances de falha.
Como ela mesmo mostra casos de professores que foram demitidos por algoritmos, mesmo sendo excelentes em seu trabalho.
Essa é a grande ilusão do Big Data e da inteligência artificial, achar que é possível resolver qualquer problema com matemática e com dados.
Cathy fala que para a estatística, esses modelos são uma piada.
Para avaliar um professor de forma mais acertiva, seriam necessárias milhares ou milhoẽs de variáveis oriundas de milhares ou milhões de avaliações de estudantes.
O título do livro vem do termo que Cathy chamou esses modelos e algoritmos: Armas de destruição matemática (WMDs - weapons of math destruction).

Seguindo os capítulos, Cathy passa pelo mundo da publicidade, indo além dos problemas clássicos e mostrando o quão falho e prejudicial essas máquinas de propaganda, como ela chama, podem ser.
A autora também explora os modelos utilizados pelas empresas de seguro, que há anos se baseiam em modelos matemáticos repletos de vieses e completamente falhos.
Sistemas de entrevista de emprego que se espalharam pelo mundo e são WMDs completas, que deixam escapar o lado humano, que deveria ser basilar em uma entrevista.
O sistema de crédito, que também segue o modelo de seguradoras, e cai na mesma lógica de mais prejudicar do que ajudar.
Em resumo, o que Cathy quer nos dizer é que WMDs são cruéis e normalmente só prejudicam os menos favorecidos.

Weapons of Math Destruction é incrível, cheio de exemplos, pesquisas, dados e propostas de soluções para o futuro.
Cathy consegue explorar bem todos os aspectos das chamadas WMDs e nos faz parar para pensar.
Será que precisamos de mais e mais sistemas ou precisamos de mais e mais pessoas operando e analisando sistemas?
Se basear em modelos matemáticos falhos é pior do que não usar modelos matemáticos.