Por isso é hora de parar de acreditar cegamente em big data
Vida / / December 19, 2019
algoritmos decidir agora que aprovar o empréstimo, seguro ou que receber um convite para uma entrevista, mas muitas vezes eles fazem isso de forma injusta. E só aumenta o espaço entre as camadas da população.
Katie O'Neill (Cathy O'Neil)
O matemático, na análise de especialista em mercados financeiros, autor do livro "Armas de derrota matemática."
Para construir um algoritmo, precisamos de duas coisas: de dados (o que aconteceu no passado) e a definição de um resultado positivo (o que você quer encontrar usando este algoritmo). Em seguida, determina quais os critérios que levam a um resultado bem sucedido. Mas a definição de sucesso não pode ser universal.
Algoritmo - é a opinião de outra pessoa, o código embutido.
Costumávamos pensar que os algoritmos são objetivas e confiáveis, mas é apenas uma jogada de marketing concebida para nos intimidar e fazer-nos confiar em algoritmos e dados matemáticos.
O'Neill cita exemplos em que os algoritmos podem causar sérios danos. Isso acontece quando se avalia funcionários. Por exemplo, em 2011, em uma escola no condado de Washington ter sido demitido mais de 200 professores após a sua
extirpar algoritmoMesmo que eles tinha excelentes recomendações de seus pais e colegas.Além disso, os algoritmos são muitas vezes a razão para a remoção de veredictos enviesados. Notícias organização ProPublica, recentemente conduziu uma investigação e encontradoQue os algoritmos que determinam o risco de reincidência, trabalhar objetivamente. Ao mesmo crimes frases muitas vezes retirado negros americanos.
Estamos todos sujeitos a vieses, e trazê-los para os algoritmos que decidem quais as necessidades de dados a ter em conta.
Algoritmos são simplesmente repetindo os erros do passado, automatizar a ordem existente. Portanto, não podemos confiar neles cegamente, precisamos testá-los para ser objetivo: a repensar a definição de um resultado positivo, erro, não são segurados por qualquer algoritmo. Quantas vezes eles ocorrem e quem é afetado? Qual é o custo de tais erros?
Profissionais que trabalham com os dados, não devem ser os árbitros da justiça. É hora de parar de acreditar cegamente big Data.