É menino! É menina! Os riscos das tecnologias de análise facial para as identidades de gênero trans e não-binárias
DOI:
https://doi.org/10.17808/des.60.1875Palavras-chave:
inteligência artificial, reconhecimento facial, dado pessoal sensível, identidade de gênero trans e não-binárias, direitos humanos, regulação.Resumo
Nos últimos anos, houve rápido crescimento do desenvolvimento e uso de tecnologias de análise facial, como o reconhecimento facial, justificadas por razões ligada à aumento da segurança, ganhos de eficiência, prevenção de fraudes e oferecimento de melhores produtos e serviços. Porém, no atual estado da arte da tecnologia, sua implementação é potencialmente violadora de direitos humanos, principalmente para pessoas de identidades de gênero trans e não-binárias. O objetivo deste artigo é avaliar como a utilização de diferentes aplicações da tecnologia de reconhecimento facial impacta significativamente os direitos dessas pessoas, que já sofrem com marginalização da sociedade. Ao final, conclui-se que uma regulação multisetorial e multidisciplinar é imprescindível para garantir o desenvolvimento e uso de tecnologias que reforcem o exercício pleno de direitos fundamentais desses grupos, sem desconsiderar que alguns dos usos dessa ferramenta devem ser, desde logo, banidos em razão de sua incompatibilidade intrínseca com os direitos humanos, especialmente o direito à identidade e autodeterminação.
Palavras-chave: inteligência artificial, reconhecimento facial, dado pessoal sensível, identidade de gênero trans e não-binárias, direitos humanos, regulação.
Keywords: artificial intelligence, facial recognition, sensitive personal data, trans and non-binary gender identity, human rights, regulation.
Referências
BARIFOUSE, Rafael. STF aprova a criminalização da homofobia. BBC News Brasil, São Paulo, 12 fev. 2019. Disponível em: https://www.bbc.com/portuguese/brasil-47206924. Acesso em 03 jun. 2022.
BENEVIDES, Bruna; NOGUEIRA, Sayonara Naider Bonfim. Dossiê dos assassinatos e violências contra travestis e transexuais brasileiras em 2020. Associação Nacional de Travestis e Transexuais do Brasil (ANTRA). São Paulo: Expresso Popular, 2020.
BUOLAMWINI, Joy; GEBRU, Timnit. Gender Shades: intersectional accuracy disparities in commercial gender classification. Cambridge: Proceedings of Machine Learning Research, vol. 81, pp.1-15, 2018.
BUOLAMWINI, Joy; ORDÓÑEZ, Vicente; MORGENSTERN, Jamie; LEARNED-MILLER, Erik. Facial Recognition Technologies: a primer. Algorithmic Justice League, 2020. Disponível em: https://global-uploads.webflow.com/5e027ca188c99e3515b404b7/5ed1002058516c11edc66a14_FRTsPrimerMay2020.pdf.
BUOLAMWINI, Joy; RAJI, Inioluwa Deborah. Actionable Auditing: investigating the impact of publicly naming biased performance results of commercial AI products. Cambridge: Association for the Advancement of Artificial Intelligence/ACM conference on Artificial Intelligence, Ethics, and Society, 2019. Disponível em: https://www.media.mit.edu/publications/actionable-auditing-investigating-the-impact-of-publicly-naming-biased-performance-results-of-commercial-ai-products/.
BUOLAMWINI, Joy. Hearing on facial recognition technology (part 1): its impact on our civil rights and liberties. Washington: United States House Committee on Oversight and Government Reform, mai. 2019. Disponível em: https://oversight.house.gov/legislation/hearings/facial-recognition-technology-part-1-its-impact-on-our-civil-rights-and.
BUTLER, Judith. Gender Trouble: feminism and the subversion of identity. 1ª ed. Nova York: Routledge Press, 1999.
CAMPOS, Ligia Fabris. O direito de ser si mesmo: a tutela da identidade pessoal no ordenamento jurídico brasileiro. Dissertação (Mestrado em Direito) - Departamento de Direito, Pontifícia Universidade Católica do Rio de Janeiro, Rio de Janeiro, 2006.
COCKERELL, Isobel. Facial recognition systems decide your gender for you. Activists say it needs to stop. Authoritarian Tech, abr. 2021. Disponível em: https://www.codastory.com/authoritarian-tech/facial-recognition-automated-gender.
COMISSÃO DE JURISTAS. Anteprojeto de Lei de Proteção de Dados para segurança pública e persecução penal. Brasília, nov. 2020. Disponível em: https://www2.camara.leg.br/atividade-legislativa/comissoes/grupos-de-trabalho/56a-legislatura/comissao-de-juristas-dados-pessoais-seguranca-publica/documentos/outros-documentos/DADOSAnteprojetocomissaoprotecaodadossegurancapersecucaoFINAL.pdf.
COMISSÃO EUROPEIA. Proposta de Regulamento Europeu e do Conselho que estabelece regras harmonizadas em matéria de Inteligência Artificial (Regulamento Inteligência Artificial). Bruxelas, 21 abr. 2021, COM (2021) 206 final. Disponível em: https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0004.02/DOC_1&format=PDF.
COMISSÃO EUROPEIA. Regulatory framework proposal on Artificial Intelligence. Europa: Shaping Europe's digital future, 2021. Disponível em: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.
CONCERNED RESEARCHERS. On Recent Research Auditing Commercial Facial Analysis Technology. Medium, mar. 2019. Disponível em: https://medium.com/@bu64dcjrytwitb8/on-recent-research-auditing-commercial-facial-analysis-technology-19148bda1832.
COSTA, Ramon Silva; GAGLIARDI, Marília Papaléo; TORRES, Livia Pazianotto. Gender Identity, Personal Data and Social Networks: An analysis of the categorization of sensitive data from a queer critique. Revista Direito e Práxis, Rio de Janeiro, 2022. Disponível em: https://www.e-publicacoes.uerj.br/index.php/revistaceaju/article/view/61992. DOI: 10.1590/2179-8966/2022/61992.
COSTANZA-CHOCK, Sasha. Design Justice, A.I., and escape from the matrix of domination. Camrbidge: Journal of Design and Science, jul. 2018. DOI:10.21428/96c8d426. Disponível em: https://jods.mitpress.mit.edu/pub/costanza-chock/release/4.
CRENSHAW, Kimberle. Documento para o encontro de especialistas em aspectos da discriminação racial relativos ao gênero. Tradução de Liane Schneider. Los Angeles: Estudos Feministas, ano 10, pp. 171-188, 2002.
DE JESUS, Jaqueline Gomes. Orientações sobre identidade de gênero: conceitos e termos. Brasília: Autor, 2012. Disponível em: https://files.cercomp.ufg.br/weby/up/16/o/ORIENTA%C3%87%C3%95ES_POPULA%C3%87%C3%83O_TRANS.pdf?1334065989.
European Union Agency for Fundamental Rights - FRA. Facial recognition technology: fundamental rights considerations in the context of law enforcement. Europa: FRA Focus, 2019.
Instituto Brasileiro de Defesa do Consumidor - IDEC. Ação Civil Pública. São Paulo, 2018. Disponível em: https://idec.org.br/sites/default/files/acp_viaquatro.pdf.
KEYES, Os (2018). The misgendering machines: trans/HCI implications of automatic gender recognition. Proceedings of the ACM on Human-Computer Interaction, vol. 2, n. CSCW, art. 88, 2018. https://doi.org/10.1145/3274357.
KLARE, Brendan F.; BURGE, Mark; KLONTZ, Joshua; BRUEGGE, Richard. Face recognition performance: role of demographic information. IEEE Transactions on Information Forensics and Security, vol. 7, n. 6, pp. 1789-1801, dec. 2012. 10.1109/TIFS.2012.2214212.
LEUFER, Daniel. Computers are binary, people are not: how AI systems undermine LGBTQ identity. Access Now, abr. 2021. Disponível em: https://www.accessnow.org/how-ai-systems-undermine-lgbtq-identity.
MAIA, Aline Passos; BEZERRA, Lara Pinheiro. Transexuais e o Direito à Identidade de Gênero: a interlocução entre os princípios da dignidade da pessoa humana, da igualdade e da liberdade. Quaestio Iuris, vol. 10, n. 3, pp. 1688-1717, 2017. https://doi.org/10.12957/rqi.2017.26854.
MIKKOLA, Mari. Feminist Perspectives on Sex and Gender. California: Stanford Encyclopedia of Philosophy, 2017. Disponível em: https://plato.stanford.edu/entries/feminism-gender/.
O Globo. Brasil mata 175 travestis e transexuais em 2020 e segue recordista global de assassinato de pessoas transgênero, diz dossiê anual da Antra. Rio de Janeiro: O Globo, 29 jan. 2021. Disponível em: https://oglobo.globo.com/sociedade/celina/brasil-mata-175-travestis-transexuais-em-2020-segue-recordista-global-de-assassinatos-de-pessoas-transgenero-diz-dossie-anual-da-antra-24859138.
Supremo Tribunal Federal - STF. STF reconhece a transgêneros possibilidade de alteração de registro civil sem mudança de sexo. Brasília: Notícias STF, mar. 2018. Disponível em: https://www.stf.jus.br/portal/cms/verNoticiaDetalhe.asp?idConteudo=371085.
SCHEUERMAN, Morgan Klaus; PAUL, Jacob; BRUBAKER, Jed. How Computers See Gender: an evaluation of gender classification in commercial facial analysis and image labeling services. Proceedings of the ACM on Human-Computer Interaction, vol. 3, n. CSCW, art. 144, nov. 2019. https://doi.org/10.1145/3359246.
SILVA, Mariah Rafaela; VARON, Joana. Reconhecimento Facial no Setor Público e Identidades Trans: tecnopolíticas de controle e a ameaça à diversidade de gênero em suas interseccionalidades de raça, classe e território. Uma pesquisa realizada pela Coding Rights com apoio da ONG Privacy International via financiamento do International Development Research Center (IDRC). Rio de Janeiro: jan. 2021.
STANFORD. Stanford HAI 2019 Fall Conference - Keynote: the coded gaze with Joy Buolamwini. California: Stanford, 2019. 1 vídeo (45 min). Disponível em: https://www.youtube.com/watch?v=Mk5gLInf7So.
YAVUZ, Can. Machine Bias: artificial intelligence and discrimination. Master Thesis (Master of International Human Rights Law) - Faculty of Law, Lund University, Lund, 2019.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
A submissão de artigos para publicação na Revista Direito, Estado e Sociedade implica a concordância dos autores com os seguintes termos:
1. O(s) autor(es) autoriza(m) a publicação do texto em número da Revista;
2. O(s) autor(es) asseguram que o texto submetido é original e inédito e que não está em processo de avaliação em outra(s) revista(s);
3. O(s) autor(es) assumem inteira responsabilidade pelas opiniões, ideias e conceitos sustentados nos textos;
4. O(s) autor(es) concedem aos editores o direito de realizar ajustes textuais e de adequação ao padrão de publicação da Revista;
5. Permite-se a reprodução total ou parcial dos trabalhos, desde que explicitamente citada a fonte.
