Transcrição do vídeo em português: O viés moral por trás dos seus resultados de pesquisa
Tópicos do vídeo:
Transcrição do vídeo em português: Como estou a combater o viés nos algoritmos
Tópicos do vídeo:
Transcrição do vídeo em português: A Era da Fé Cega em Big Data Deve Acabar
Tópicos do vídeo:
1. Elements of AI – curso gratuito em português (Nova SBE)
https://echoboomer.pt/nova-sbe-curso-gratuito-inteligencia-artificial/
Curso criado pela Universidade de Helsínquia e disponível em Portugal em parceria com a Nova SBE. Dura entre 30 e 60 horas e é aberto a qualquer pessoa. É longo, por isso sugiro-o a alunos mais motivados ou para escolher só os capítulos sobre limites e consequências da IA. Em português.
Joy Buolamwini – Fighting the “coded gaze” (vídeo)
https://www.fordfoundation.org/news-and-stories/videos/joy-buolamwini-fighting-the-coded-gaze-how-we-make-artificial-intelligence-benefit-all-public-interest-tech
Joy Buolamwini fundou a Algorithmic Justice League e usa a expressão “coded gaze” para falar de viés algorítmico. No vídeo, explica o projeto Gender Shades e porque é que um sistema de reconhecimento facial não a detetava. Em inglês.
NPR – When Bias Is Coded Into Our Technology
https://www.npr.org/sections/codeswitch/2020/02/08/770174171/when-bias-is-coded-into-our-technology
Reportagem sobre sistemas de reconhecimento facial de grandes empresas que classificam mal mulheres negras. Serve de ponte entre os temas viés e privacidade do texto. Em inglês.
Euronews/Reuters – Amazon scraps secret AI recruiting tool that showed bias against women
https://www.euronews.com/2018/10/10/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women
Caso real que corresponde ao exemplo do recrutamento: o sistema aprendeu com currículos maioritariamente masculinos e penalizava currículos com a palavra “women’s”. Uma fonte noticia que a Amazon disse que a ferramenta nunca foi usada pelos recrutadores para avaliar candidatos. Em inglês.
The Moral Machine experiment (MIT)
https://www.media.mit.edu/publications/the-moral-machine-experiment
Estudo que recolheu 40 milhões de decisões de pessoas em 233 países e territórios sobre dilemas de carros autónomos. Mostra que as preferências éticas variam entre culturas, o que dá um bom debate sobre quem decide as regras da IA. Em inglês.
Conselho da UE – Regulamento IA (AI Act)
https://www.consilium.europa.eu/pt/policies/artificial-intelligence-act/
Explica que o regulamento classifica os sistemas de IA em quatro níveis de risco, com regras mais exigentes quanto maior o risco. Um resumo em português mais acessível está em https://pplware.sapo.pt/informacao/ai-act-conheca-4-niveis-de-risco-da-inteligencia-artificial/amp. A aplicação é faseada, por isso confirmem datas atuais. Em português.
UNESCO – Recommendation on the Ethics of AI: Key Facts
https://gcedclearinghouse.org/en/node/129379
Brochura de 19 páginas que resume a recomendação, indicada para o ensino secundário. A recomendação foi adotada em novembro de 2021 pelos 193 Estados-membros da UNESCO. Em inglês.
CNPD – autoridade portuguesa de proteção de dados
https://www.cnpd.pt
A CNPD fiscaliza o RGPD em Portugal, e qualquer titular de dados pode apresentar reclamação gratuita pelo formulário do site. Os alunos podem ver os direitos que o texto menciona, como saber que dados são recolhidos e como são usados. Um resumo em linguagem simples está em https://www.cgd.pt/site/Saldo-Positivo/negocios/Pages/regulamento-geral-protecao-dados.aspx. Em português.
Strubell et al. (2019) – Energy and Policy Considerations for Deep Learning in NLP
https://arxiv.org/abs/1906.02243
É o estudo da Universidade de Massachusetts Amherst que o texto cita. Quantificou custos financeiros e ambientais do treino de modelos de linguagem e propôs recomendações. Uma síntese mais legível está em https://montrealethics.ai/energy-and-policy-considerations-in-deep-learning-for-nlp. Em inglês.
Uma nota crítica útil para a explorar: a comparação com cinco carros vem de um cenário específico de 2019, um modelo Transformer com procura automática de arquitetura. Por isso convém não a apresentar como valor típico de qualquer modelo atual.
| MILD - Quem somos? Imagem do cabeçalho Thought Catalog on Unsplash |