Podemos criar soluções éticas com IA?


EXPLORAR

Recurso 1

The moral bias behind your search results | Andreas Ekstrom

Transcrição do vídeo em português: O viés moral por trás dos seus resultados de pesquisa

Tópicos do vídeo:

Recurso 2

How I’m fighting bias in algorithms | Joy Buolamwini

Transcrição do vídeo em português: Como estou a combater o viés nos algoritmos

Tópicos do vídeo:

Recurso 3

The era of blind faith in big data must end | Cathy O’Neill

Transcrição do vídeo em português: A Era da Fé Cega em Big Data Deve Acabar

Tópicos do vídeo:

Recurso 4

1. Elements of AI – curso gratuito em português (Nova SBE)
https://echoboomer.pt/nova-sbe-curso-gratuito-inteligencia-artificial/
Curso criado pela Universidade de Helsínquia e disponível em Portugal em parceria com a Nova SBE. Dura entre 30 e 60 horas e é aberto a qualquer pessoa. É longo, por isso sugiro-o a alunos mais motivados ou para escolher só os capítulos sobre limites e consequências da IA. Em português.

Recurso 5

 Joy Buolamwini – Fighting the “coded gaze” (vídeo)
https://www.fordfoundation.org/news-and-stories/videos/joy-buolamwini-fighting-the-coded-gaze-how-we-make-artificial-intelligence-benefit-all-public-interest-tech
Joy Buolamwini fundou a Algorithmic Justice League e usa a expressão “coded gaze” para falar de viés algorítmico. No vídeo, explica o projeto Gender Shades e porque é que um sistema de reconhecimento facial não a detetava. Em inglês.

Recurso 6

NPR – When Bias Is Coded Into Our Technology
https://www.npr.org/sections/codeswitch/2020/02/08/770174171/when-bias-is-coded-into-our-technology
Reportagem sobre sistemas de reconhecimento facial de grandes empresas que classificam mal mulheres negras. Serve de ponte entre os temas viés e privacidade do texto. Em inglês.

Recurso 7

Euronews/Reuters – Amazon scraps secret AI recruiting tool that showed bias against women
https://www.euronews.com/2018/10/10/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women
Caso real que corresponde ao exemplo do recrutamento: o sistema aprendeu com currículos maioritariamente masculinos e penalizava currículos com a palavra “women’s”. Uma fonte noticia que a Amazon disse que a ferramenta nunca foi usada pelos recrutadores para avaliar candidatos. Em inglês.

Recurso 8

The Moral Machine experiment (MIT)
https://www.media.mit.edu/publications/the-moral-machine-experiment
Estudo que recolheu 40 milhões de decisões de pessoas em 233 países e territórios sobre dilemas de carros autónomos. Mostra que as preferências éticas variam entre culturas, o que dá um bom debate sobre quem decide as regras da IA. Em inglês.

Recurso 9

Conselho da UE – Regulamento IA (AI Act)
https://www.consilium.europa.eu/pt/policies/artificial-intelligence-act/
Explica que o regulamento classifica os sistemas de IA em quatro níveis de risco, com regras mais exigentes quanto maior o risco. Um resumo em português mais acessível está em https://pplware.sapo.pt/informacao/ai-act-conheca-4-niveis-de-risco-da-inteligencia-artificial/amp. A aplicação é faseada, por isso confirmem datas atuais. Em português.

Recurso 10

UNESCO – Recommendation on the Ethics of AI: Key Facts
https://gcedclearinghouse.org/en/node/129379
Brochura de 19 páginas que resume a recomendação, indicada para o ensino secundário. A recomendação foi adotada em novembro de 2021 pelos 193 Estados-membros da UNESCO. Em inglês.

Recurso 11

CNPD – autoridade portuguesa de proteção de dados
https://www.cnpd.pt
A CNPD fiscaliza o RGPD em Portugal, e qualquer titular de dados pode apresentar reclamação gratuita pelo formulário do site. Os alunos podem ver os direitos que o texto menciona, como saber que dados são recolhidos e como são usados. Um resumo em linguagem simples está em https://www.cgd.pt/site/Saldo-Positivo/negocios/Pages/regulamento-geral-protecao-dados.aspx. Em português.

Recurso 12

Strubell et al. (2019) – Energy and Policy Considerations for Deep Learning in NLP
https://arxiv.org/abs/1906.02243
É o estudo da Universidade de Massachusetts Amherst que o texto cita. Quantificou custos financeiros e ambientais do treino de modelos de linguagem e propôs recomendações. Uma síntese mais legível está em https://montrealethics.ai/energy-and-policy-considerations-in-deep-learning-for-nlp. Em inglês.

Uma nota crítica útil para a explorar: a comparação com cinco carros vem de um cenário específico de 2019, um modelo Transformer com procura automática de arquitetura. Por isso convém não a apresentar como valor típico de qualquer modelo atual.


 

MILD - Quem somos?

Imagem do cabeçalho Thought Catalog on Unsplash
_
Contactos
_
Acessibilidade
_
Privacidade
_
Lista de distribuição
_
Blogue
_
Facebook
_
Instagram
_
YouTube