Desmascarar os preconceitos de género

Atrav s de uma revis o sistem tica da literatura, este documento explora a forma como alguns algoritmos de IA s o tendenciosos, uma situa o que representa um grande risco tico e social, dado que os sistemas automatizados participam ativamente numa s rie de decis es. Discute tamb m a forma como a falta de diversidade nas equipas de desenvolvimento de IA e nos conjuntos de dados de treino aumenta a probabilidade de enviesamento. Al m disso, destaca as implica es ticas e sociais destes enviesamentos em diferentes contextos, como no local de trabalho, onde as ferramentas de recrutamento automatizado discriminam as candidatas do sexo feminino, ou na medicina, onde os diagn sticos s o menos exactos para as mulheres devido falta de dados representativos. Do ponto de vista regulamentar, reconhece-se a insufici ncia de quadros jur dicos vinculativos. Embora existam esfor os como a proposta de lei sobre a IA da Uni o Europeia ou as recomenda es ticas da UNESCO, muitos destes regulamentos carecem de mecanismos de aplica o eficazes. Em contrapartida, pa ses como o Canad avan aram com ferramentas obrigat rias de avalia o do impacto dos algoritmos, que representam um modelo mais eficaz.