Calvin Lawrence, ex-CTO de inteligência artificial responsável e confiável da IBM, afirma que sistemas de IA podem reproduzir desigualdades históricas mesmo quando não usam diretamente informações sobre raça. Para ele, precisão média não garante tratamento justo entre diferentes grupos.
Após 25 anos na IBM, incluindo quatro no conselho de ética em IA, Lawrence deixou a empresa em 2025 e fundou a IntegrityFirst.ai. A companhia desenvolve a XTegrity, plataforma que identifica possíveis danos, testa riscos, calcula a exposição financeira e de negócios e audita modelos em operação.
Como o viés pode ser reproduzido
Lawrence cita como exemplo sistemas que usam registros de prisões para estimar a possibilidade de reincidência. Como comunidades podem ser policiadas de maneira desigual, o histórico de prisões pode refletir padrões de policiamento, e não apenas o comportamento das pessoas. O algoritmo, então, transforma essa desigualdade em números e pode reforçar decisões futuras.
Ele também afirma que variáveis como CEP, escola frequentada, renda, valor do imóvel, histórico de emprego e registros policiais podem funcionar como substitutos indiretos de raça. Por isso, retirar a coluna com essa informação não torna necessariamente o modelo neutro.
Para avaliar um teste de viés, Lawrence recomenda verificar quais populações foram incluídas, quais dados foram usados e se os resultados foram separados por raça, gênero, idade e grupos interseccionais. As taxas de falso positivo e falso negativo também devem ser analisadas para cada grupo.
Um sistema pode alcançar 95% de acerto geral e ainda apresentar desempenho ruim para uma população específica. No exemplo citado por Lawrence, um banco de dados teria 10 mil pessoas, sendo 9 mil de um grupo. Um bom resultado para a maioria poderia esconder erros mais frequentes entre as mil pessoas restantes.
Controle antes e depois da implantação
Para empresas sem uma equipe dedicada ao tema, Lawrence sugere começar com um inventário dos sistemas que tomam ou influenciam decisões sobre pessoas. A organização deve identificar quem é afetado, qual decisão é influenciada, quais dados são usados, o que ocorre quando há um erro e quem responde pelo sistema.
Ele defende revisão humana significativa em decisões de alto impacto, além de monitoramento contínuo. Entre as áreas mais sensíveis estão policiamento e justiça criminal, saúde, crédito e contratação, porque decisões nesses setores podem afetar liberdade, tratamento, acesso a capital e oportunidades.
Lawrence também afirma que modelos treinados principalmente com dados dos Estados Unidos ou da Europa Ocidental podem carregar pressupostos dessas populações e instituições. Para uso no Brasil, ele defende validação local e análise das diferenças raciais, geográficas, socioeconômicas e culturais.
Na avaliação do executivo, a regulação ainda avança mais lentamente que a implantação da tecnologia. Na Europa, partes do AI Act entraram em vigor em 2 de agosto de 2026. Nos Estados Unidos, ele afirma que ainda não existe uma lei federal abrangente sobre IA. No Brasil, cita o PL 2338/2023, aprovado pelo Senado e em análise na Câmara dos Deputados.
