Inteligência Artificial, Tecnologias de Reconhecimento de Emoções e o Direito: Importância do princípio da qualidade dos dados como pilar no direito fundamental à proteção de dados

Maria Edelvacy Marinho, Julia Ferrari Oliveira Lima, Liziane Paixão Silva Oliveira, Diogo Rais Moreira

Resumo


Por meio de uma pesquisa bibliográfico-documental qualitativa, este artigo analisa as tecnologias de reconhecimento de emoções (ERTs) sob uma ótica jurídica. Analisamos a coleta de tais dados sob o ponto de vista ético, constitucional e legal. Apresentamos o conceito de princípio da qualidade dos dados para explicar as consequências legais do uso indiscriminado de ERTs. A pesquisa revelou que os problemas identificados nas tecnologias de reconhecimento facial em geral são comuns aos das ERTs, porém esta última agrega o desafio advindo da subjetividade no processamento deste dado. Concluímos que como direito fundamental, a proteção de dados emocionais requer uma atenção legislativa específica.


Palavras-chave


Proteção de dados pessoais; Inteligência Artificial; Tecnologia de reconhecimento de emoções; Direito Constitucional; Direito Digital

Texto completo:

PDF

Referências


ARROYO, Veronica; LEUFER, Daniel. Access now expert opinion in the IDEC vs. ViaQuatro case. Disponível:https://www.accessnow.org/cms/assets/uploads/2020/06/Expert_Opinion_Brazil_Facial_Categorization.pdf. Acesso em: 16 ago. 2021.

ARTICLE 19. Emotional Entanglement: China’s emotion recognition market and its implications for human rights. 2020 Disponível em: https://www.article19.org/wp-content/uploads/2021/01/ER-Tech-China-Report.pdf. Acesso em: 16 ago. 2021.AI NOW. AI Now 2019 Report. New York: AI Now Institute. 2019. Disponível em: https://ainowinstitute.org/AI_Now_2019_Report.html. Acesso em: 14 jul. 2021.

BARRETT, Lisa Feldman; ADOLPHS, Ralph; MARSELLA, Stacy; MARTINEZ, Aleix M.; POLLAK, Seth D.. Emotional Expressions Reconsidered: challenges to inferring emotion from human facial movements. Psychological Science In The Public Interest, [S.L.], v. 20, n. 1, p. 1-68, jul. 2019. SAGE Publications. http://dx.doi.org/10.1177/1529100619832930.

BIONI, Bruno; MONTEIRO, Renato Leite. A Landmark ruling in Brazil: paving the way for considering data protection as an autonomous fundamental rights. Future of Privacy Forum. 9 jun. 2020. Disponível em: https://fpf.org/blog/a-landmark-ruling-in-brazil-paving-the-way-for-considering-data-protection-as-an-autonomous-fundamental-right/. Acesso em: 16 ago. 2021.

BOEHNER, Kirsten; DEPAULA, Rogério; DOURISH, Paul; SENGERS, Phoebe. How emotion is made and measured. International Journal Of Human-Computer Studies, [S.L.], v. 65, n. 4, p. 275-291, abr. 2007. Elsevier BV. http://dx.doi.org/10.1016/j.ijhcs.2006.11.016.

BRASIL. AGÊNCIA NACIONAL DE PROTEÇÃO DE DADOS - ANPD. Estratégia Brasileira de Inteligência Artificial - EBIA. 2021. Disponível em: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/arquivosinteligenciaartificial/ia_estrategia_documento_referencia_4-979_2021.pdf. Acesso em: 30 jul. 2021.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 14 jul. 2021.

BRUNO, Fernanda Glória; BENTES, Anna Carolina Franco; FALTAY, Paulo. Economia psíquica dos algoritmos e laboratório de plataforma: mercado, ciência e modulação do comportamento. Revista Famecos, [S.L.], v. 26, n. 3, p. 33095, 27 dez. 2019. EDIPUCRS. http://dx.doi.org/10.15448/1980-3729.2019.3.33095.

Corte Europeia de Direitos Humanos, caso Biao v. Denmark n. 38590/10 , maio de 2016.

COSTA JÚNIOR, Paulo José da. O direito de estar só: tutela penal da intimidade. São Paulo: Revista dos Tribunais. São Paulo: RT, 1995.

DARWIN, C. A expressão dos homens e dos animais. (Trad. Leon Garcia). São Paulo: Companhia das letras,2000.

DONEDA, Danilo. Da Privacidade à Proteção De Dados Pessoais. 2. ed. São Paulo: Revista dos Tribunais, 2019.

EKAMAN, Et al. Universal and cultural differences in judgments of facial expressions of emotion. Journal of personality and social psychology vol. 53, n. 4, 1987, pgs. 712-717.

European Economic and Social Committee, AI/Regulation Proposal for a Regulation of the European Parliament and of the Council laying down harmonized rules on artificial intelligence (Artificial Intelligence Act) and amending certain union legislative acts [COM(2021) 206 final - 2021/106 (COD)], Rapporteur: Catelijne MULLER, 22/09/2021. Disponível em: acesso dia 13/09/2022.

GATES, Kelly A. Our Biometric Future: Facial Recognition Technology and the Culture of Surveillance. New York: NYU Press, 2011

GREENE Gretchen, The ethics of AI and emotional intelligence. Parternership on AI, 2020, disponível em: https://www.partnershiponai.org/wp-content/uploads/2020/07/PAI_The-ethics-of-AI-and-emotional-intelligence_073020.pdf Acesso dia 10/09/2022.

HAGERTY, Alexa; ALBERT, Alexandra. AI is increasingly being used to identify emotions: Here’s what’s at stake. The Conversation. 2021. Disponível em: https://theconversation.com/ai-is-increasingly-being-used-to-identify-emotions-heres-whats-at-stake-158809. Acesso em: 19 jul. 2021.

HARARI, Yuval Noah. The world after coronavirus. 2020. Disponível em: https://www.ft.com/content/19d90308-6858-11ea-a3c9-1fe6fedcca75. Acesso em: 24 maio 2020.

IDEC (Brasil). ViaQuatro é condenada por reconhecimento facial no Metrô de SP. 2021. Disponível em: https://idec.org.br/idec-na-imprensa/viaquatro-e-condenada-por-reconhecimento-facial-sem-autorizacao-no-metro-de-sp. Acesso em: 16 jul. 2021.

INST. IGARAPÉ; DATAPRIVACY, Regulação do reconhecimento facial no setor público: avaliação de experiências internacionais, 2020.

JACK, Rachael et al. Facial expressions of emotion are not culturally universal. Psychological and cognitive sciences. Vol. 109 n. 19, 7241-7244. 2012. Disponível em: https://www.pnas.org/doi/10.1073/pnas.1200155109

NADLER, Anthony; MCGUIGAN, Lee. An impulse to exploit: the behavioral turn in data-driven marketing. Critical Studies In Media Communication, [S.L.], v. 35, n. 2, p. 151-165, 20 out. 2017. Informa UK Limited.

OECD OECD Principles on AI. 2021. Disponível em: https://www.oecd.org/going-digital/ai/principles/. Acesso em: 30 jul. 2021.

PANTIC, Maja. Machine Analysis of Facial Behaviour: Naturalistic and Dynamic Behaviour. Philosophical Transactions: Biological Sciences , Dec. 12, 2009, Vol. 364, No. 1535, Computation of Emotions in Man and Machines (Dec. 12, 2009), pp. 3505-3513

PASQUALE, Frank. The Black Box Society: the secrets algorithms that control money and information. Cambridge: Harvard University Press, 2015.

PICARD, R. Affective computing. Cambridge: MIT Press, 1997.

REINO UNIDO. INFORMATION COMMISSIONER’S OFFICE - ICO. Guidance on AI and data protection. 2020. Disponível em: https://ico.org.uk/for-organisations/guide-to-data-protection/key-data-protection-themes/guidance-on-ai-and-data-protection/. Acesso em: 14 jul. 2021.

SEDENBERG, E., CHUANG, J.C. Smile for the Camera: Privacy and Policy Implications of Emotion AI. ArXiv, abs/1709.00396., 2017.

SIMÃO, Bárbara; FRAGOSO, Nathalie; ROBERTO, Enrico. Reconhecimento Facial e o Setor Privado: Guia para a adoção de boas práticas. InternetLab/IDEC, São Paulo. Disponível: https://idec.org.br/sites/default/files/reconhecimento_facial_diagramacao_digital_2.pdf. Acesso em: 27 out. 2020.

SOUZA, Michel R. O.; ZANATTA, Rafael A. F.. The Problem of Automated Facial Recognition Technologies in Brazil: social countermovements and the new frontiers of fundamental rights. Latin American Human Rights Studies, Goiânia, v. 1, 30 jun. 2021. Disponível em: https://www.revistas.ufg.br/lahrs/article/view/69423. Acesso em: 16 jul. 2021.

TRIBUNAL DE JUSTIÇA DE SÃO PAULO, 37º Vara cível, processo n. 1090663-42.2018.8.26.0100, decisão proferida em 07/05/202.

WARREN, Samuel D.; BRANDEIS, Louis D.. The Right to Privacy. Harvard Law Review, [S.L.], v. 4, n. 5, p. 193-220, 15 dez. 1890. JSTOR. http://dx.doi.org/10.2307/1321160.

WESTIN, Alan F. Privacy and Freedom. Nova York: Ig Publishing, 1967.




DOI: https://doi.org/10.18256/2238-0604.2024.v20i3.5158

Apontamentos

  • Não há apontamentos.


Bookmark and Share