Viés de Automação

O que é o viés de automação?

Viés de automação é um tipo de viés cognitivo, que narra a tendência humana de confiar mais no parecer de sistemas tecnológicos automatizados do que confiam nos pareceres de outros seres humanos.

Em outras palavras, o viés de automação é o motivo pelo qual acreditamos que seres humanos são mais falhos e/ou menos válidos, quando comparados com algoritmos.

À primeira vista, faz todo sentido, concorda? Afinal de contas, a própria definição padrão de um algoritmo é como "procedimentos precisos, não ambíguos, mecânicos, eficientes e corretos", o que na nossa cabeça é praticamente um sinônimo para perfeito.

Contudo, se analisarmos mais de perto, veremos que as coisas não são tão simples. O uso da automação, em especial a partir do desenvolvimento da inteligência artificial, é um grande desafio para empresas e profissionais de todos os ramos, do piloto automático de um avião a processos de contratação de funcionários e, claro, no gerenciamento do seu rico dinheirinho.

O que é um viés?

Antes de nos aprofundarmos mais nos perigos oferecidos pelo viés de automação, é importante destacar o que é verdadeiramente são os vieses cognitivo.

O chamado viés cognitivo engloba todo e qualquer erro no processamento de informações do mundo exterior pelo cérebro humano, que apesar de sua aparência perfeitamente lógica, acaba por gerar uma falha na maneira como julgamos a nossa realidade.

Se você estiver sob o efeito do viés de confirmação, por exemplo, tenderá a buscar apenas as informações que comprovem as opiniões que você já tem. Se o viés da vez for a heurística do afeto, entretanto, a propensão será tomar decisões com base em qual opção te deixa emocionalmente mais confortável - mesmo que não seja a melhor racionalmente. Sem falar no viés do resultado, heurística da disponibilidade, efeito avestruz, negligência de probabilidade, ilusão monetária … Ufa, a lista é enorme!

Mas cabe a nós pontuar: nada (ou pouquíssimo) disso é consciente. Na verdade, em nossas cabeças, temos ótimos argumentos para fazer o que fazemos e perceber que se trata de um viés exige muita reflexão.

No caso do viés de automação não é diferente: confiar indiscriminadamente nos sistemas automatizados parece fazer todo sentido - mesmo que questioná-los, muitas vezes, seja o melhor a ser feito.

Como o viés de automação afeta o seu cotidiano?

Ensinar às máquinas a contratar pessoas já gerou um problemão em grandes empresas como a Amazon. Isso porque o deep learning, método para "ensinar" sistemas de inteligência artificial a realizar tarefas a partir de padrões óbvios para os seres humanos, usa informações históricas para aprender melhor sobre nossos padrões.

Ou seja, se o maior número de contratações na última década foi de homens brancos, qualquer termo relacionado a grupos opostos (mulheres e negros, por exemplo) são pior classificados no ranking de seleção.

O resultado: o padrão, que por vezes não é benéfico é mantido. Sem falar que o objetivo principal desse tipo de automação, que é justamente combater a influência dos vieses humanos sobre as decisões de contratação, não está sendo cumprido.

O sistema automatizado, nesse caso, não gera necessariamente escolhas melhores - logo, acreditarmos indiscutivelmente nisso é parte do viés de automação.

Agora se lembre que há uma tendência na adoção dos algoritmos para automatizar de tudo - até os investimentos.

Enviesados, podemos apenas comemorar e acreditar que podemos sentar e relaxar enquanto um computador ganha dinheiro para nós. Contudo, como podemos perceber, estamos longe desse mundo ideal e nos render ao viés de automação pode render prejuízos aos negócios, aos funcionários e, sem dúvidas, ao seu bolso.