Pauta do episódio

Eu já estava ansioso para assistir ao documentário Coded Bias, desde que assisti ao The Social Dilemma (inclusive, fiz vídeo e podcast aqui falando sobre, caso não tenha visto/ouvido, vai lá: https://www.capitalistasdemerda.com/p/assisti-o-documentrio-the-social).Agora que finalmente está disponível na Netflix, consegui conferir e hoje trago minhas impressões.Sinopse:

Quando Joy Buolamwini, pesquisadora do MIT Media Lab, descobre que o reconhecimento facial não vê rostos de pele escura com precisão, ela embarca em uma jornada para promover a primeira legislação dos EUA contra o preconceito em algoritmos que afetam todos nós.

Em vídeo

Anotações e itens abordados

- Tudo começa com o não reconhecimento do rosto de uma pessoa negra, a Joy Buolamwini, que ao por uma máscara branca, passa a ser reconhecida- Cathy O'Neil e Weapons of Math Destruction (https://jaydson.com/reviews/weapons-of-math-destruction/)- Seres humanos são racistas, machistas e tudo mais de ruim, algoritmos replicam o viés- É contra a lei que a polícia faça biometria das pessoas, mas uma câmera pode ser mais do que biometria, ou seja, a polícia está infringindo a lei- Como aceitamos e achamos legal o Google mapear o mundo com suas câmeras?- Preocupações com a vigilância do governo- Preocupação com a vigilância das grandes empresas- Condomínio na periferia com sistema absurdo de vigilância- Sistema que Amazon usava pra vagas desconsiderava mulheres- Cathy fala sobre como a Internet é desigual, com customizações para ricos e para pobres. A sociedade é assim, a Internet amplifica- Interessante pensar que governos sempre quiseram saber tudo sobre as pessoas. E agora poucas empresas possuem esse poder justamente pelo fato de que demos de mão beijada nossos dados. E o jogo vira no momento em que agentes mal intencionados usam o poder, como já é o caso na manipulação em massa pelos governos autoritários e de extrema direita nos últimos anos- Experimento feito pelo Facebook, que fez 100.000 pessoas a mais votarem na eleição- Sem leis e sem regulação, nós dependemos do que o Facebook decida ou não fazer alguma coisa- Matéria new York times sobre ia racista da Amazon (estudo e pesquisa da Joy)- Amazon mentiu e tentou refutar a pesquisa- Safiya fala sobre algoritmos que miram em pessoas vulneráveis e como isso é absurdo, vide a crise imobiliária, etc- Cathy e o caso do sistemas que demitem professores- Score na China- Pessoa chinesa elogiando o sistema de ranqueamento- O contraponto de que pensamos que isso na China é absurdo, mas na verdade vivemos nesse jogo do score também- A diferença da China e EUA é que China é transparente- Patente do Facebook para impressão facial e score- Inteligência sem ética não é inteligência

Links

https://www.ajl.org/https://www.codedbias.com/https://www.imdb.com/title/tt11394170/https://jaydson.com/reviews/weapons-of-math-destruction/

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit www.capitalistasdemerda.com