{"id":3504,"date":"2023-11-28T20:00:00","date_gmt":"2023-11-28T23:00:00","guid":{"rendered":"http:\/\/www.55bet-pro.com\/pet\/sistemas-de-informacao\/?p=3504"},"modified":"2025-09-02T14:44:51","modified_gmt":"2025-09-02T17:44:51","slug":"vies-algoritmico","status":"publish","type":"post","link":"http:\/\/www.55bet-pro.com\/pet\/sistemas-de-informacao\/2023\/11\/28\/vies-algoritmico","title":{"rendered":"Vi\u00e9s Algor\u00edtmico\u00a0"},"content":{"rendered":"\n

Ol\u00e1 pessoal! Nesta edi\u00e7\u00e3o do PET Reda\u00e7\u00e3o, vamos entender um pouco sobre um problema cada vez mais relevante na \u00e1rea da computa\u00e7\u00e3o: o vi\u00e9s algor\u00edtmico.<\/span><\/p>\n

\u00c9 comum pensarmos em computadores como aparatos de exatid\u00e3o e racionalidade, por\u00e9m \u00e9 importante lembrar que nenhuma m\u00e1quina \u201cnasce\u201d do nada. Todo sistema possui influ\u00eancia humana em sua constru\u00e7\u00e3o e, caso n\u00e3o seja devidamente testado e avaliado, est\u00e1 propenso a falhas. Vi\u00e9s cognitivo, por defini\u00e7\u00e3o, \u00e9 \u201c[…]um padr\u00e3o de distor\u00e7\u00e3o de julgamento que ocorre em situa\u00e7\u00f5es particulares, levando \u00e0 distor\u00e7\u00e3o perceptiva, ao julgamento pouco acurado, \u00e0 interpreta\u00e7\u00e3o il\u00f3gica, ou ao que \u00e9 amplamente chamado de irracionalidade\u201d [1], e, no caso dos algoritmos, est\u00e1 relacionado a sistemas de intelig\u00eancia artificial e aprendizagem de m\u00e1quina.<\/span><\/p>\n

\u00a0<\/p>\n

Como surge o vi\u00e9s algor\u00edtmico?<\/b><\/h2>\n

A intelig\u00eancia artificial \u00e9 um campo amplo baseado na ideia de m\u00e1quinas imitando fun\u00e7\u00f5es cognitivas da intelig\u00eancia humana. O aprendizado de m\u00e1quina (<\/span>machine learning<\/span><\/i>) \u00e9 um dos subcampos da IA, em que s\u00e3o usados algoritmos que analisam grandes volumes de dados e extraem conhecimento de maneira aut\u00f4noma.<\/span><\/p>\n

A an\u00e1lise se d\u00e1, resumidamente, da seguinte forma: imagine que voc\u00ea deseja treinar um computador para reconhecer quais livros s\u00e3o adequados para crian\u00e7as, e para isso obteve um conjunto de dados formado por todos os livros de uma certa biblioteca. Cada livro tem certos atributos: g\u00eanero, autor, n\u00famero de p\u00e1ginas, ano de lan\u00e7amento, etc. De in\u00edcio, voc\u00ea deve informar ao sistema quais atributos definem se o livro \u00e9 adequado ou n\u00e3o (o g\u00eanero liter\u00e1rio, por exemplo, \u00e9 relevante, mas o ano de lan\u00e7amento n\u00e3o), e ap\u00f3s suficientes testes e treinamentos, o computador deve ser capaz de identificar sozinho se um livro qualquer se encaixa nos requisitos.<\/span><\/p>\n

A ideia parece clara, certo? Agora imagine o que aconteceria se esses livros tivessem sido classificados com atributos incorretos? Ou se a an\u00e1lise fosse dependente de um atributo mais subjetivo, como por exemplo se o livro \u00e9 bom ou n\u00e3o? E se a biblioteca possu\u00edsse poucos livros e, portanto, pouca variedade de atributos? O que aconteceria quando o sistema encontrasse um livro totalmente diferente do que ele j\u00e1 viu?<\/span><\/p>\n

Quando pensamos em sistemas de tomada de decis\u00e3o baseados em IA, temos que considerar os dados usados para desenvolv\u00ea-los \u2013 se esses dados s\u00e3o incompletos, limitados, ou tendenciosos, o sistema resultante tamb\u00e9m ser\u00e1.<\/span><\/p>\n

\u00a0<\/p>\n

Quais as consequ\u00eancias de algoritmos tendenciosos?<\/b><\/h2>\n

Muitas vezes, algoritmos enviesados s\u00e3o simplesmente um reflexo das discrep\u00e2ncias e discrimina\u00e7\u00f5es do mundo real. Em meados de 2014 a Amazon tentou desenvolver uma IA para avaliar curr\u00edculos de candidatos e agilizar o processo de sele\u00e7\u00e3o para vagas de desenvolvimento de software. O sistema foi desenvolvido usando curr\u00edculos coletados pela empresa durante 10 anos, por\u00e9m devido \u00e0 predomin\u00e2ncia masculina na ind\u00fastria, a maior parte dos curr\u00edculos pertenciam \u00e0 homens, resultando em um sistema que aprendeu a dar prefer\u00eancia a candidatos do g\u00eanero masculino, e chegou a penalizar candidatas graduadas em universidades exclusivamente femininas. A empresa afirma que a ferramenta nunca foi usada para avaliar candidatos, e que foi totalmente descartada em 2017. [2]<\/span><\/p>\n

Outro exemplo de IAs amplificando desigualdades sociais est\u00e1 em um estudo[3] que investigou mais a fundo um algoritmo muito utilizado no setor de sa\u00fade dos Estados Unidos e descobriu que o sistema subestimava as necessidades de pacientes negros. De acordo com a an\u00e1lise, o algoritmo usava o custo dos tratamentos como um agravante para determinar as necessidades m\u00e9dicas. Por diversos motivos, desde quest\u00f5es financeiras at\u00e9 culturais, menos dinheiro era gasto com pacientes negros em condi\u00e7\u00f5es igualmente graves as de pacientes brancos, o que fazia com que o sistema considerasse pacientes negros mais saud\u00e1veis e necessitando de menos cuidados m\u00e9dicos.<\/span><\/p>\n

Os casos citados anteriormente n\u00e3o s\u00e3o os \u00fanicos. Seja no setor jur\u00eddico, com sistemas que tendem a considerar pessoas negras como mais perigosas [4], ou sistemas de reconhecimento facial que s\u00f3 funcionam corretamente em homens brancos [5], s\u00e3o in\u00fameros os casos registrados de vi\u00e9s algor\u00edtmico. Mas porque \u00e9 t\u00e3o dif\u00edcil combat\u00ea-lo?<\/span><\/p>\n

\u00a0<\/p>\n

Porque \u00e9 t\u00e3o dif\u00edcil impedir o vi\u00e9s algor\u00edtmico?<\/b><\/h2>\n

O combate ao vi\u00e9s algor\u00edtmico atualmente \u00e9 dependente da tomada de iniciativa por parte da lideran\u00e7a das empresas desenvolvedoras de sistemas baseados em IA. Yael Eisenstat, ex-chefe do setor de Integridade Eleitoral Global do Facebook[6], relata que desenvolvedores n\u00e3o recebem nenhum treinamento quanto ao combate de vieses cognitivas. Utilizar suposi\u00e7\u00f5es, pr\u00e9-conceitos e padr\u00f5es familiares para tomar decis\u00f5es no dia a dia \u00e9 normal e uma caracter\u00edstica humana inerente, por\u00e9m quando estamos tratando de quest\u00f5es t\u00e9cnicas, \u00e9 necess\u00e1rio fazer o m\u00e1ximo para reconhecer e questionar esses fatores. Apesar de muitas empresas <\/span>tech <\/span><\/i>possu\u00edrem treinamentos de inclus\u00e3o e diversidade, o problema est\u00e1 no desconhecimento sobre como combater o vi\u00e9s de maneira real e met\u00f3dica, pois os desenvolvedores sequer compreendem o que s\u00e3o os vieses cognitivos e de que maneira se apresentam, fazendo com que qualquer tentativa de corrigir o vi\u00e9s algor\u00edtmico seja insatisfat\u00f3ria e rasa. Segundo Eisenstat, \u201cEsses erros s\u00e3o cometidos ao tentar fazer a coisa certa. Mas eles demonstram porque incumbir engenheiros e cientistas de dados despreparados com a tarefa de corrigir o enviesamento \u00e9, ao n\u00edvel mais amplo, ing\u00eanuo, e ao n\u00edvel de lideran\u00e7a, insincero.\u201d[7]\u00a0<\/span><\/p>\n

O uso exclusivo de dados para analisar uma situa\u00e7\u00e3o por si s\u00f3 \u00e9 produto do chamado vi\u00e9s de disponibilidade (<\/span>availability bias<\/span><\/i>), uma propens\u00e3o que surge ao usar informa\u00e7\u00f5es que est\u00e3o mais facilmente dispon\u00edveis ao inv\u00e9s de informa\u00e7\u00f5es que s\u00e3o realmente mais representativas, e muitas vezes ofusca a necessidade de avaliar criticamente as informa\u00e7\u00f5es para garantir que estas n\u00e3o est\u00e3o enviesadas. Essa an\u00e1lise cr\u00edtica exige mais tempo e treinamento, o que vai contra a cultura de \u201c<\/span>move fast and break things<\/span><\/i>\u201d, estrat\u00e9gia que prioriza a a\u00e7\u00e3o em detrimento da an\u00e1lise, adotada por muitas empresas do ramo de tecnologia.<\/span><\/p>\n

Al\u00e9m disso, o campo da Intelig\u00eancia Artificial sofre de um problema de governan\u00e7a: a regulamenta\u00e7\u00e3o do uso de IA \u00e9, no melhor dos casos, incompleta, e no pior, inexistente. Normas globais, pol\u00edticas de uso e institui\u00e7\u00f5es para regular o uso e desenvolvimento de intelig\u00eancias artificiais avan\u00e7adas s\u00e3o escassas, o que \u00e9 um fator negativo para os desenvolvedores de algoritmos de an\u00e1lise, uma vez que n\u00e3o possuem um c\u00f3digo ou regulamento no qual basear seus sistemas, mas que tamb\u00e9m dificulta uma poss\u00edvel inspe\u00e7\u00e3o e corre\u00e7\u00e3o de ferramentas de intelig\u00eancia artificial. Sem um \u00f3rg\u00e3o para avaliar os m\u00e9todos e resultados de an\u00e1lise de uma IA, n\u00e3o h\u00e1 nenhum controle legislativo sobre o vi\u00e9s algor\u00edtmico.<\/span><\/p>\n

\u00a0<\/p>\n

Conclus\u00f5es<\/b><\/h2>\n

Em suma, o problema das IAs tendenciosas \u00e9 complexo, por\u00e9m cada vez mais urgente. Com o aumento na popularidade das intelig\u00eancias artificiais, se torna cada vez mais importante corrigir o vi\u00e9s algor\u00edtmico, tanto de um ponto de vista social quanto pr\u00e1tico, uma vez que a objetividade \u00e9 um dos incentivos para se utilizar de um sistema computacional. \u00c9, portanto, essencial que haja uma mudan\u00e7a tanto no processo de desenvolvimento quanto de avalia\u00e7\u00e3o de ferramentas baseadas em IA, para impedir que o que deveria agilizar processos e solucionar impasses acabe por somente reproduzir e amplificar preconceitos e desigualdades.<\/span><\/p>\n

Quanto \u00e0s quest\u00f5es legislativas, estamos aos poucos observando um aumento na preocupa\u00e7\u00e3o sobre a regulamenta\u00e7\u00e3o do uso de IAs. Em junho de 2023 foi aprovado o <\/span>E.U. AI Act <\/span><\/i>[8], uma regulamenta\u00e7\u00e3o do uso da intelig\u00eancia artificial dentro da Uni\u00e3o Europeia, que objetiva proteger tanto investidores e desenvolvedores quanto usu\u00e1rios e clientes, e dentre as regras aprovadas est\u00e1 uma lista de requisitos legais referentes ao que foi classificado como aplicativos de alto risco, classifica\u00e7\u00e3o que inclui sistemas de an\u00e1lise, como por exemplo uma ferramenta para digitalizar e classificar curr\u00edculos. No Brasil, o PL n\u00ba 2338\/2023 foi apresentado pelo Senador Rodrigo Pacheco, Presidente do Senado Federal, em maio de 2023, e se trata de um projeto de lei que disp\u00f5e sobre o uso da intelig\u00eancia artificial. Atualmente, em novembro de 2023, o projeto est\u00e1 aguardando audi\u00eancia p\u00fablica.[9]<\/span><\/p>\n

As intelig\u00eancias artificiais s\u00e3o uma inova\u00e7\u00e3o que apresenta grande potencial para melhorar processos em diversas \u00e1reas, mas para isso \u00e9 preciso garantir que seu uso seja ben\u00e9fico para a sociedade. O combate ao vi\u00e9s algor\u00edtmico \u00e9 uma medida necess\u00e1ria para que a tecnologia possa servir seu prop\u00f3sito: melhorar as condi\u00e7\u00f5es de vida atrav\u00e9s da supera\u00e7\u00e3o de limita\u00e7\u00f5es que, como \u00e9 o caso dos vieses cognitivos, s\u00e3o essencialmente humanas.<\/span><\/p>\n

\u00a0<\/p>\n

Refer\u00eancias<\/b><\/h2>\n

[1] – Haselton, M. G., Nettle, D., & Andrews, P. W. (2005). <\/span>The evolution of cognitive bias<\/span><\/i>. In D. M. Buss (Ed.), The Handbook of Evolutionary Psychology: Hoboken, NJ, US: John Wiley & Sons Inc. pp. 724\u2013746<\/span><\/p>\n

[2] – <\/span>http:\/\/www.reuters.com\/article\/us-amazon-com-jobs-automation-insight\/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G<\/span><\/a><\/p>\n

[3] – <\/span>http:\/\/www.science.org\/doi\/10.1126\/science.aax2342#editor-abstract<\/span><\/a><\/p>\n

[4] – <\/span>http:\/\/www.propublica.org\/article\/machine-bias-risk-assessments-in-criminal-sentencing<\/span><\/a><\/p>\n

[5] – <\/span>http:\/\/news.mit.edu\/2018\/study-finds-gender-skin-type-bias-artificial-intelligence-systems-0212<\/span><\/a><\/p>\n

[6] – <\/span>http:\/\/www.wired.com\/story\/the-real-reason-tech-struggles-with-algorithmic-bias\/<\/span><\/a><\/p>\n

[7] –\u00a0 <\/span>\u201cThese are mistakes made while trying to do the right thing. But they demonstrate why tasking untrained engineers and data scientists with correcting bias is, at the broader level, na\u00efve, and at a leadership level insincere.\u201d<\/span><\/i><\/p>\n

[8] – <\/span>http:\/\/www.europarl.europa.eu\/news\/en\/headlines\/society\/20230601STO93804\/eu-ai-act-first-regulation-on-artificial-intelligence<\/span><\/a><\/p>\n

[9] – <\/span>http:\/\/www25.senado.leg.br\/web\/atividade\/materias\/-\/materia\/157233<\/span><\/a><\/p>\n

\u00a0<\/p>\n

Autora: <\/strong>Isadora Fenner Spohr<\/p>\n","protected":false},"excerpt":{"rendered":"

Ol\u00e1 pessoal! Nesta edi\u00e7\u00e3o do PET Reda\u00e7\u00e3o, vamos entender um pouco sobre um problema cada vez mais relevante na \u00e1rea da computa\u00e7\u00e3o: o vi\u00e9s algor\u00edtmico. \u00c9 comum pensarmos em computadores como aparatos de exatid\u00e3o e racionalidade, por\u00e9m \u00e9 importante lembrar que nenhuma m\u00e1quina \u201cnasce\u201d do nada. Todo sistema possui influ\u00eancia humana em sua constru\u00e7\u00e3o e, […]<\/p>\n","protected":false},"author":6950,"featured_media":3509,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[124,112],"tags":[197,149],"class_list":["post-3504","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-destaques","category-redacao","tag-ciberseguranca","tag-redacao"],"acf":[],"_links":{"self":[{"href":"http:\/\/www.55bet-pro.com\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/posts\/3504","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/www.55bet-pro.com\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/www.55bet-pro.com\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/www.55bet-pro.com\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/users\/6950"}],"replies":[{"embeddable":true,"href":"http:\/\/www.55bet-pro.com\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/comments?post=3504"}],"version-history":[{"count":0,"href":"http:\/\/www.55bet-pro.com\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/posts\/3504\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/www.55bet-pro.com\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/media\/3509"}],"wp:attachment":[{"href":"http:\/\/www.55bet-pro.com\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/media?parent=3504"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/www.55bet-pro.com\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/categories?post=3504"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/www.55bet-pro.com\/pet\/sistemas-de-informacao\/wp-json\/wp\/v2\/tags?post=3504"}],"curies":[{"name":"wp","href":"http:\/\/api.w.org\/{rel}","templated":true}]}}