Algorithmic accountability duty under the American Convention on Human Rights
DOI:
https://doi.org/10.24220/2675-9160v6a2025e16093Keywords:
Algorithmic accountability, American Convention on Human Rights, Human rightsAbstract
This article seeks to demonstrate that the American Convention on Human Rights imposes on Brazil the duty to regulate, respect and supervise algorithmic accountability. To this end, based on the hypothetical-deductive methodology, it explains the fundamental aspects of algorithms, exposes their risks to democracy and human rights and highlights the political nature of this field, underscoring the urgent need for domestic regulation of algorithmic accountability. From a multilevel human rights perspective, the hypothesis is confirmed that the American Convention on Human Rights requires the Brazilian State to regulate, respect and supervise algorithmic accountability, under penalty of international liability, including for omission.
Downloads
References
Algorithmic Transparency Recording Standard Hub. GOV.UK, 5 jan. 2023. Available from: https://www.gov.uk/government/collections/algorithmic-transparency-recording-standard-hub. Cited: 2025 May 23.
Bezerra, A. C. B.; Costa, C. M. Pele negra, algoritmos brancos: informação e racismo nas redes sociotécnicas. Liinc em Revista, v. 18, n. 2, e6043, 2022. Doi: https://doi.org/10.18617/liinc.v18i2.6043. DOI: https://doi.org/10.18617/liinc.v18i2.6043
Branco, S.; Teffé, C. S. (coord.). Inteligência Artificial e Big Data: diálogos da pós-graduação em Direito Digital. Rio de Janeiro: Instituto de Tecnologia e Sociedade do Rio de Janeiro, 2022. 327 p. Disponível em: https://itsrio.org/wpcontent/uploads/2022/10/Livro_P%C3%B3s_ITS-UERJ_COMPLETO_v3.pdf. Acesso em: 17 abr. 2024.
Burrell, B. How the machine ‘thinks’: understanding opacity in machine learning algorithms. Big Data & Society, v. 3, n. 1, p. 1-12, 2016. DOI: https://doi.org/10.1177/2053951715622512
Carrera, F.; Carvalho, D. Algoritmos racistas: a hiper-ritualização da solidão da mulher negra em bancos de imagens digitais. Galáxia, n. 43, p. 99-114, 2020. Doi: http://dx.doi.org/10.1590/1982-25532020141614. DOI: https://doi.org/10.1590/1982-25532020141614
Coalizão Direitos na Rede. Projeto de Lei n. 2338/2023. Direitos na Rede, 18 jun. 2024. Disponível em: https://direitosnarede.org.br/2024/06/18/projeto-de-lei-n-2338-2023/. Acesso em: 16 maio 2025.
Conselho Nacional de justiça (Brasil). Protocolo para Julgamento com Perspectiva de Gênero. Brasília: CNJ, 2021. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2021/10/protocolo-para-julgamento-comperspectiva-de-genero-cnj-24-03-2022.pdf. Acesso em: 16 maio 2025.
Corte Interamericana de Direitos Humanos. Caso Vera Rojas e Outros Vs. Chile. Exceções preliminares, Mérito, Reparações e Custas. Sentença de 1 de outubro de 2021. San José: CORTE IDH, 2021. Disponível em: https://www.corteidh.or.cr/docs/casos/articulos/seriec_439_esp.pdf. Acesso em: 2 jun. 2025.
Corte Interamericana de Direitos Humanos. Caso Ximenes Lopes Vs. Brasil. Mérito, Reparações e Custas. Sentença de 4 de julho de 2006. Disponível em: https://www.corteidh.or.cr/docs/casos/articulos/seriec_149_por.pdf. Acesso: 10 dez. 2025.
Dastin, J. Insight − Amazon scraps secret AI recruiting tool that showed bias against women. Reuters, 11 out. 2018. Available from: https://www.reuters.com/article/world/insight-amazon-scraps-secret-ai-recruitingtool-that-showed-bias-against-women-idUSKCN1MK0AG/. Cited: 2025 Dec 11.
European Approach to Artificial Intelligence. European Comission, [202-?]. Disponível em: https://digitalstrategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence. Acesso em: 23 maio 2025.
Fachin, M. Constitucionalismo multinível: diálogos e(m) direitos humanos. Revista Ibérica do Direito, v. 1, n. 1, p. 53-68, 2021. Disponível em: https://www.revistaibericadodireito.pt/index.php/capa/article/view/26. Acesso em: 17 abr. 2024.
Fachin, M.; Ramos, C. M. V. Direito à autodeterminação informativa. In: Fachin, M. G.; Câmara, F. H. (coord.). Dicionário Interamericano de Direitos Humanos. Volume 2: direitos e deveres. Rio de Janeiro: Lumen Juris, 2024. p. 21-23.
Ferrari, I. Accountability de algoritmos: a falácia do acesso ao código e caminhos para uma explicabilidade efetiva. Inteligência Artificial: 3º Grupo de Pesquisa do ITS. Rio de Janeiro: ITS - Instituto de Tecnologia e Sociedade do Rio, 2018. f. 1-18. Disponível em: https://itsrio.org/wp-content/uploads/2019/03/Isabela-Ferrari.pdf. Acesso em: 23 maio 2025.
Ferrari, I. Discriminação algorítmica e poder judiciário: limites à adoção de sistemas de decisões algorítmicas no judiciário brasileiro. Florianópolis: Emais Editora, 2023.
Garbin, G. A. L. Dever de adotar disposições de direito interno. In: Fachin, M. G.; Câmara, F. H. (coord.). Dicionário Interamericano de Direitos Humanos. Volume 2: direitos e deveres. Rio de Janeiro: Lumen Juris, 2024. p. 341-342.
Hora, N. Da neutralidade à IA decolonial. ComCiência, 15 jun. 2024. Disponível em: https://www.comciencia.br/da-neutralidade-a-ia-decolonial/. Acesso em: 23 maio 2025.
Instituto de Tecnologia & Sociedade do Rio. Como regular a inteligência artificial? Expandindo horizontes de análise para além da União Europeia. Rio de Janeiro, 2024. 26 p. Disponível em: https://itsrio.org/wp-content/uploads/2016/12/20240404_Relatorio_Microsoft_Como-Regular-IA_3.pdf. Acesso em: 24 abr. 2024.
Köchling, A.; Wehner, M. C. Discriminated by an algorithm: a systematic review of discrimination and fairness by algorithmic decision-making in the context of HR recruitment and HR development. Business Research, Düsseldorf, v. 13, p. 795-848, 2020. Doi: https://doi.org/10.1007/s40685-020-00134-w. Acesso em: 24 abr. 2024. DOI: https://doi.org/10.1007/s40685-020-00134-w
Kroll, J. A. et al. Accountable Algorithms. University of Pennsylvania Law Review, v. 165, n. 2765268, p. 1-66, 2016. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2765268. Acesso em: 24 abr. 2025.
Lemos, R. China cria a primeira regulação para algoritmos. Folha de São Paulo, 8 set. 2021. Artigos. Disponível em: https://itsrio.org/pt/artigos/china-cria-a-primeira-regulacao-para-algoritmos/. Acesso em: 23 maio 2025.
Lopes, A. J.; Paola, E. Precisamos conter os riscos da inteligência artificial, diz Lula. In: Poder360. Governo, 23 maio. 2024. Disponível em: https://www.poder360.com.br/governo/precisamos-conter-os-riscos-dainteligencia artificial-diz-lula/. Acesso em: 16 maio 2025.
Mattos Filho. Inteligência artificial: avaliação de impacto algorítmico. Notícias e Negócios, 26 set. 2023. Disponível em: https://www.mattosfilho.com.br/unico/inteligencia-artificial-avaliacao-impactoalgoritmico/. Acesso em: 16 maio 2025.
Mota, R. K. B. et al. Concepções teóricas sobre accountability. In: Congresso UFU de Contabilidade, 4., 2021, Uberlândia. Uberlância: UFU, 2021. f. 1-19. Disponível em: https://eventos.ufu.br/sites/eventos.ufu.br/files/documentos/contufu2021.completo0078.pdf. Acesso em: 23 maio 2025.
Nem tudo são flores no mundo da Inteligência Artificial. Estadão, 7 ago. 2023. Disponível em: https://www.estadao.com.br/politica/gestao-politica-e-sociedade/nem-tudo-sao-flores-no-mundo-da-inteligenciaartificial/. Acesso em: 23 maio 2025.
Noble, S. U. Algorithms of Oppression: how search engines reinforce racism. [S. l.]: NYU Press, 2018. O’Neil, C. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Santo André: Rua do Sabão, 2020.
Ordonez, V.; Dunn, T.; Noll, E. OpenAI CEO Sam Altman says AI will reshape society, acknowledges risks: ‘A little bit scared of this’. ABC News Technology, 16 mar. 2023. Disponível em: https://abcnews.go.com/Technology/openai-ceo-sam-altman-ai-reshape-society-acknowledges/story?id=97897122. Acesso em: 23 maio 2025.
Organização dos Estados Americanos. Comissão Interamericana de Direitos Humanos. Empresas e Direitos Humanos: padrões interamericanos. Washington, D.C.: OEA, 2019. Disponível em: https://www.oas.org/pt/cidh/relatorios/pdfs/empresas%20e%20direitos.pdf. Acesso em: 2 jun. 2025.
Organização dos Estados Americanos. Convenção Americana sobre Direitos Humanos (Pacto de San José da Costa Rica). San José: Comissão Interamericana de Direitos Humanos, 1969. Disponível em: https://www.cidh.oas.org/basicos/portugues/c.convencao_americana.htm. Acesso em: 15 dez. 2025.
Organization for Economic Co-operation and Development. Global trends in government innovation 2023. OECD Public Governance Reviews. Paris: OECD Publishing, 2023. Doi: https://doi.org/10.1787/0655b570-en. Acesso em: 16 maio 2025. DOI: https://doi.org/10.1787/0655b570-en
Parra, H. Z. M.; Abdo, A.H. Tendências democráticas e autoritárias, arquiteturas distribuídas e centralizadas. In: Bragatto, R. C.; Sampaio, R. C.; Silva, S. P. (org.). Democracia digital, comunicação política e redes: teoria e prática. Rio de Janeiro: Folio Digital: Letra e Imagem, 2016. cap. 5, p. 137-159. DOI: https://doi.org/10.24328/2017/61012.87/05
Rached, D. H. Accountability e desenho institucional: um ponto cego no direito público brasileiro. Revista Brasileira de Políticas Públicas, v. 11, n. 1, p. 190-209, 2021. Doi: https://doi.org/10.5102/rbpp.v11i1.6745. DOI: https://doi.org/10.5102/rbpp.v11i1.6745
Regulação Algorítmica. Entrevistado: Karen Young. Digilabour, 14 mar. 2020. Interviews. Disponível em: https://digilabour.com.br/pt/regulacao-algoritmica-entrevista-com-karen-young/. Acesso em: 23 maio 2025.
Ribeiro, E. Decifrando a tecnologia do reconhecimento facial. Medium: Human Stories & Ideas, 17 jan. 2023. Disponível em: https://medium.com/@elieser_ribeiro/decifrando-a-tecnologia-do-reconhecimento-facial27ee45eb6ada. Acesso em: 17 abr. 2024.
Saldanha, P. M. Governança, accountability e avaliação de impacto algorítmico. Conjur – Consultor Jurídico, 4 jun. 2024. Disponível em: https://www.conjur.com.br/2024-jun-04/governanca-accountability-e-avaliacaode-impacto-algoritmico/. Acesso em: 23 maio 2025.
Sfredo, M.; Lopes, R. Um “novo Estado”? Mais ricas do que muitos países, empresas gigantes da tecnologia são cobradas por suas práticas: Google, Facebook, Apple, Amazon e Microsoft têm sido chamadas a explicar suas atuações nem sempre saudáveis no ambiente democrático. GZH, 18 dez. 2020. Disponível em: https://gauchazh.clicrbs.com.br/tecnologia/noticia/2020/12/um-novo-estado-mais-ricas-do-que-muitos-paisesempresas-gigantes-da-tecnologia-sao-cobradas-por-suas-praticas-ckiudceo70001019woewvaey2.html. Acesso em: 16 maio 2025.
Silva, T. Visão computacional e racismo algorítmico: branquitude e opacidade no aprendizado de máquina. Revista da Associação Brasileira de Pesquisadores/as Negros/as, v. 12, n. 31, p. 428-448, 2020. Doi: https://doi.org/10.31418/2177-2770.2020. DOI: https://doi.org/10.31418/2177-2770.2020.v12.n.31.p428-448
Soares, M. Uma IA decolonial é possível? Desinformante: informação confiável sobre desinformação, 26 jun. 2024. Disponível em: https://desinformante.com.br/ia-decolonial/. Acesso em: 23 maio 2025.
Volz, M. B. Dever de supervisionar atividades empresariais. In: Fachin, M. G.; Câmara, F. H. (coord.). Dicionário Interamericano de Direitos Humanos. Volume 2: direitos e deveres. Rio de Janeiro: Lumen Juris, 2024. p. 425-427.
Wimmer, M.; Doneda, D. “Falhas de IA” e a intervenção humana em decisões automatizadas: parâmetros para a legitimação pela humanização. Revista Direito Público, v. 18, n. 100, p. 374-404, 2021. Doi: https://doi.org/10.11117/rdp.v18i100.6119. Acesso em: 25 maio 2025. DOI: https://doi.org/10.11117/rdp.v18i100.6119
