Inteligência Artificial, Tecnologias de Reconhecimento de Emoções e o Direito: Importância do princípio da qualidade dos dados como pilar no direito fundamental à proteção de dados

Maria Edelvacy Marinho; Julia Ferrari Oliveira Lima; Liziane Paixão Silva Oliveira; Diogo Rais Moreira

doi:10.18256/2238-0604.2024.v20i3.5158

Autores

Maria Edelvacy Marinho Doutora em Direito pela Universidade Paris 1, Panthéon Sorbonne, Advogada, Professora na Universidade Presbiteriana Mackenzie, Diretora de Conteúdo do Instituto Liberdade Digital. Orcid- https://orcid.org/0000-0002-6957-3099. [email protected] https://orcid.org/0000-0002-6957-3099
Julia Ferrari Oliveira Lima Advogada, Pós-graduanda em Direito Digital UERJ, Bacharel em direito pela Universidade Presbiteriana Mackenzie. Orcid- https://orcid.org/0000-0002-6957-3098. [email protected]
Liziane Paixão Silva Oliveira Centro Universitário de Brasília (CEUB) Universidade Tiradentes (UNIT) Escola Superior da Magistratura de Tocantis (ESMAT) https://orcid.org/0000-0002-6266-6073
Diogo Rais Moreira Advogado desde 2004 e Cofundador do Instituto Liberdade Digital. Doutor (2015) e Mestre (2011) em Direito Constitucional pela PUC-SP com bolsa pesquisa pelo projeto do Conselho Nacional de Justiça (CNJ Acadêmico). Professor de Direito Eleitoral, Inovação e Direito Digital da graduação e do Programa de Pós-Graduação, mestrado e doutorado da Universidade Presbiteriana Mackenzie (UPM). Coordenador dos livros Direito Público Digital; Fake news: a conexão entre a desinformação e o Direito; Direito Eleitoral Digital e Privacidade, mercado e cidadania: uma conexão a partir da IA - todos da editora Revista dos Tribunais. Orcid- https://orcid.org/0000-0002-3956-4714. [email protected] https://orcid.org/0000-0002-3956-4714

DOI:

https://doi.org/10.18256/2238-0604.2024.v20i3.5158

Palavras-chave:

Proteção de dados pessoais, Inteligência Artificial, Tecnologia de reconhecimento de emoções, Direito Constitucional, Direito Digital

Resumo

Por meio de uma pesquisa bibliográfico-documental qualitativa, este artigo analisa as tecnologias de reconhecimento de emoções (ERTs) sob uma ótica jurídica. Analisamos a coleta de tais dados sob o ponto de vista ético, constitucional e legal. Apresentamos o conceito de princípio da qualidade dos dados para explicar as consequências legais do uso indiscriminado de ERTs. A pesquisa revelou que os problemas identificados nas tecnologias de reconhecimento facial em geral são comuns aos das ERTs, porém esta última agrega o desafio advindo da subjetividade no processamento deste dado. Concluímos que como direito fundamental, a proteção de dados emocionais requer uma atenção legislativa específica.

Downloads

Os dados de download ainda não estão disponíveis.

Biografia do Autor

Maria Edelvacy Marinho, Doutora em Direito pela Universidade Paris 1, Panthéon Sorbonne, Advogada, Professora na Universidade Presbiteriana Mackenzie, Diretora de Conteúdo do Instituto Liberdade Digital. Orcid- https://orcid.org/0000-0002-6957-3099. [email protected]

Doutora em Direito pela Universidade Paris 1, Panthéon Sorbonne, Advogada, Professora na Universidade Presbiteriana Mackenzie, Diretora de Conteúdo do Instituto Liberdade Digital. Orcid- https://orcid.org/0000-0002-6957-3099. [email protected]
Julia Ferrari Oliveira Lima, Advogada, Pós-graduanda em Direito Digital UERJ, Bacharel em direito pela Universidade Presbiteriana Mackenzie. Orcid- https://orcid.org/0000-0002-6957-3098. [email protected]

Advogada, Pós-graduanda em Direito Digital UERJ, Bacharel em direito pela Universidade Presbiteriana Mackenzie. Orcid- https://orcid.org/0000-0002-6957-3098. [email protected]
Liziane Paixão Silva Oliveira, Centro Universitário de Brasília (CEUB) Universidade Tiradentes (UNIT) Escola Superior da Magistratura de Tocantis (ESMAT)

Doutora em Direito Internacional pela Université d’Aix-Marseille III, Mestre em Direito pela Universidade de Brasília, Professora Titular do Programa de Mestrado e Doutorado em Direito do Centro Universitário de Brasília (CEUB), Professora Colaboradora nos Programas de Mestrado e Doutorado em Direito da Universidade Tiradentes (UNIT) e de Mestrado e Doutorado Profissional e Interdisciplinar em Prestação Jurisdicional e Direitos Humanos da UFT - ESMAT. Orcid- https://orcid.org/0000-0002-6266-6073.
Diogo Rais Moreira, Advogado desde 2004 e Cofundador do Instituto Liberdade Digital. Doutor (2015) e Mestre (2011) em Direito Constitucional pela PUC-SP com bolsa pesquisa pelo projeto do Conselho Nacional de Justiça (CNJ Acadêmico). Professor de Direito Eleitoral, Inovação e Direito Digital da graduação e do Programa de Pós-Graduação, mestrado e doutorado da Universidade Presbiteriana Mackenzie (UPM). Coordenador dos livros Direito Público Digital; Fake news: a conexão entre a desinformação e o Direito; Direito Eleitoral Digital e Privacidade, mercado e cidadania: uma conexão a partir da IA - todos da editora Revista dos Tribunais. Orcid- https://orcid.org/0000-0002-3956-4714. [email protected]

Advogado desde 2004 e Cofundador do Instituto Liberdade Digital. Doutor (2015) e Mestre (2011) em Direito Constitucional pela PUC-SP com bolsa pesquisa pelo projeto do Conselho Nacional de Justiça (CNJ Acadêmico). Professor de Direito Eleitoral, Inovação e Direito Digital da graduação e do Programa de Pós-Graduação, mestrado e doutorado da Universidade Presbiteriana Mackenzie (UPM). Coordenador dos livros Direito Público Digital; Fake news: a conexão entre a desinformação e o Direito; Direito Eleitoral Digital e Privacidade, mercado e cidadania: uma conexão a partir da IA - todos da editora Revista dos Tribunais. Orcid- https://orcid.org/0000-0002-3956-4714. [email protected]

Referências

ARROYO, Veronica; LEUFER, Daniel. Access now expert opinion in the IDEC vs. ViaQuatro case. Disponível:https://www.accessnow.org/cms/assets/uploads/2020/06/Expert_Opinion_Brazil_Facial_Categorization.pdf. Acesso em: 16 ago. 2021.

ARTICLE 19. Emotional Entanglement: China’s emotion recognition market and its implications for human rights. 2020 Disponível em: https://www.article19.org/wp-content/uploads/2021/01/ER-Tech-China-Report.pdf. Acesso em: 16 ago. 2021.AI NOW. AI Now 2019 Report. New York: AI Now Institute. 2019. Disponível em: https://ainowinstitute.org/AI_Now_2019_Report.html. Acesso em: 14 jul. 2021.

BARRETT, Lisa Feldman; ADOLPHS, Ralph; MARSELLA, Stacy; MARTINEZ, Aleix M.; POLLAK, Seth D.. Emotional Expressions Reconsidered: challenges to inferring emotion from human facial movements. Psychological Science In The Public Interest, [S.L.], v. 20, n. 1, p. 1-68, jul. 2019. SAGE Publications. http://dx.doi.org/10.1177/1529100619832930.

BIONI, Bruno; MONTEIRO, Renato Leite. A Landmark ruling in Brazil: paving the way for considering data protection as an autonomous fundamental rights. Future of Privacy Forum. 9 jun. 2020. Disponível em: https://fpf.org/blog/a-landmark-ruling-in-brazil-paving-the-way-for-considering-data-protection-as-an-autonomous-fundamental-right/. Acesso em: 16 ago. 2021.

BOEHNER, Kirsten; DEPAULA, Rogério; DOURISH, Paul; SENGERS, Phoebe. How emotion is made and measured. International Journal Of Human-Computer Studies, [S.L.], v. 65, n. 4, p. 275-291, abr. 2007. Elsevier BV. http://dx.doi.org/10.1016/j.ijhcs.2006.11.016.

BRASIL. AGÊNCIA NACIONAL DE PROTEÇÃO DE DADOS - ANPD. Estratégia Brasileira de Inteligência Artificial - EBIA. 2021. Disponível em: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/arquivosinteligenciaartificial/ia_estrategia_documento_referencia_4-979_2021.pdf. Acesso em: 30 jul. 2021.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 14 jul. 2021.

BRUNO, Fernanda Glória; BENTES, Anna Carolina Franco; FALTAY, Paulo. Economia psíquica dos algoritmos e laboratório de plataforma: mercado, ciência e modulação do comportamento. Revista Famecos, [S.L.], v. 26, n. 3, p. 33095, 27 dez. 2019. EDIPUCRS. http://dx.doi.org/10.15448/1980-3729.2019.3.33095.

Corte Europeia de Direitos Humanos, caso Biao v. Denmark n. 38590/10 , maio de 2016.

COSTA JÚNIOR, Paulo José da. O direito de estar só: tutela penal da intimidade. São Paulo: Revista dos Tribunais. São Paulo: RT, 1995.

DARWIN, C. A expressão dos homens e dos animais. (Trad. Leon Garcia). São Paulo: Companhia das letras,2000.

DONEDA, Danilo. Da Privacidade à Proteção De Dados Pessoais. 2. ed. São Paulo: Revista dos Tribunais, 2019.

EKAMAN, Et al. Universal and cultural differences in judgments of facial expressions of emotion. Journal of personality and social psychology vol. 53, n. 4, 1987, pgs. 712-717.

European Economic and Social Committee, AI/Regulation Proposal for a Regulation of the European Parliament and of the Council laying down harmonized rules on artificial intelligence (Artificial Intelligence Act) and amending certain union legislative acts [COM(2021) 206 final - 2021/106 (COD)], Rapporteur: Catelijne MULLER, 22/09/2021. Disponível em: acesso dia 13/09/2022.

GATES, Kelly A. Our Biometric Future: Facial Recognition Technology and the Culture of Surveillance. New York: NYU Press, 2011

GREENE Gretchen, The ethics of AI and emotional intelligence. Parternership on AI, 2020, disponível em: https://www.partnershiponai.org/wp-content/uploads/2020/07/PAI_The-ethics-of-AI-and-emotional-intelligence_073020.pdf Acesso dia 10/09/2022.

HAGERTY, Alexa; ALBERT, Alexandra. AI is increasingly being used to identify emotions: Here’s what’s at stake. The Conversation. 2021. Disponível em: https://theconversation.com/ai-is-increasingly-being-used-to-identify-emotions-heres-whats-at-stake-158809. Acesso em: 19 jul. 2021.

HARARI, Yuval Noah. The world after coronavirus. 2020. Disponível em: https://www.ft.com/content/19d90308-6858-11ea-a3c9-1fe6fedcca75. Acesso em: 24 maio 2020.

IDEC (Brasil). ViaQuatro é condenada por reconhecimento facial no Metrô de SP. 2021. Disponível em: https://idec.org.br/idec-na-imprensa/viaquatro-e-condenada-por-reconhecimento-facial-sem-autorizacao-no-metro-de-sp. Acesso em: 16 jul. 2021.

INST. IGARAPÉ; DATAPRIVACY, Regulação do reconhecimento facial no setor público: avaliação de experiências internacionais, 2020.

JACK, Rachael et al. Facial expressions of emotion are not culturally universal. Psychological and cognitive sciences. Vol. 109 n. 19, 7241-7244. 2012. Disponível em: https://www.pnas.org/doi/10.1073/pnas.1200155109

NADLER, Anthony; MCGUIGAN, Lee. An impulse to exploit: the behavioral turn in data-driven marketing. Critical Studies In Media Communication, [S.L.], v. 35, n. 2, p. 151-165, 20 out. 2017. Informa UK Limited.

OECD OECD Principles on AI. 2021. Disponível em: https://www.oecd.org/going-digital/ai/principles/. Acesso em: 30 jul. 2021.

PANTIC, Maja. Machine Analysis of Facial Behaviour: Naturalistic and Dynamic Behaviour. Philosophical Transactions: Biological Sciences , Dec. 12, 2009, Vol. 364, No. 1535, Computation of Emotions in Man and Machines (Dec. 12, 2009), pp. 3505-3513

PASQUALE, Frank. The Black Box Society: the secrets algorithms that control money and information. Cambridge: Harvard University Press, 2015.

PICARD, R. Affective computing. Cambridge: MIT Press, 1997.

REINO UNIDO. INFORMATION COMMISSIONER’S OFFICE - ICO. Guidance on AI and data protection. 2020. Disponível em: https://ico.org.uk/for-organisations/guide-to-data-protection/key-data-protection-themes/guidance-on-ai-and-data-protection/. Acesso em: 14 jul. 2021.

SEDENBERG, E., CHUANG, J.C. Smile for the Camera: Privacy and Policy Implications of Emotion AI. ArXiv, abs/1709.00396., 2017.

SIMÃO, Bárbara; FRAGOSO, Nathalie; ROBERTO, Enrico. Reconhecimento Facial e o Setor Privado: Guia para a adoção de boas práticas. InternetLab/IDEC, São Paulo. Disponível: https://idec.org.br/sites/default/files/reconhecimento_facial_diagramacao_digital_2.pdf. Acesso em: 27 out. 2020.

SOUZA, Michel R. O.; ZANATTA, Rafael A. F.. The Problem of Automated Facial Recognition Technologies in Brazil: social countermovements and the new frontiers of fundamental rights. Latin American Human Rights Studies, Goiânia, v. 1, 30 jun. 2021. Disponível em: https://www.revistas.ufg.br/lahrs/article/view/69423. Acesso em: 16 jul. 2021.

TRIBUNAL DE JUSTIÇA DE SÃO PAULO, 37º Vara cível, processo n. 1090663-42.2018.8.26.0100, decisão proferida em 07/05/202.

WARREN, Samuel D.; BRANDEIS, Louis D.. The Right to Privacy. Harvard Law Review, [S.L.], v. 4, n. 5, p. 193-220, 15 dez. 1890. JSTOR. http://dx.doi.org/10.2307/1321160.

WESTIN, Alan F. Privacy and Freedom. Nova York: Ig Publishing, 1967.