Assistentes Virtuais Inteligentes e saúde mental: debates regulatórios no Brasil
DOI:
https://doi.org/10.29397/reciis.v18i3.4310Palavras-chave:
Assistentes Virtuais Inteligentes, Inteligência Artificial, Saúde mental, RegulaçãoResumo
A inserção dos Assistentes Virtuais Inteligentes na vida cotidiana representa um marco na história da comunicação entre humanos e máquinas. Devido às suas características interativas, estes estão sendo cada vez mais apropriados e desenvolvidos para fins de cuidado, especialmente no âmbito da saúde mental. Este artigo visa compreender se e como o debate regulatório brasileiro oferece instrumentos para lidar com os desafios e as preocupações desses sistemas de Inteligência Artificial em relação à saúde mental. A partir de uma análise documental, mapeamos exemplos de aplicação dos Assistentes Virtuais Inteligentes em saúde mental, a fim de identificar riscos a direitos dos usuários e avaliar, na legislação brasileira vigente e em discussão, se há proteção suficiente para lidar com eles. Por meio de uma abordagem crítica, salientamos a insuficiência da legislação brasileira atual e a necessidade de ampliação do debate sobre como equilibrar possíveis riscos e benefícios dessas tecnologias.
Referências
AMAZON. Configurações de privacidade da Alexa. São Paulo: Amazon, c2021-2024. Disponível em: https://www.amazon.com.br/gp/help/customer/display.html?ref_=hp_left_v4_sib&nodeId=G2H2JJS9UDKNKGKP. Acesso em: 21 jun. 2024.
BENTES, Anna. Da Madison Avenue ao Vale do Silício: ciências comportamentais do engajamento, tecnologias de influência e economia da atenção. 2022. 274 f. Tese (Doutorado em Comunicação e Cultura) – Programa de Pós-Graduação em Comunicação e Cultura, Escola de Comunicação, Universidade Federal do Rio de Janeiro, Rio de Janeiro, 2022. Disponível em: https://www.pos.eco.ufrj.br/site/download.php?arquivo=upload/tese_abentes_2022.pdf. Acesso em: 21 jun. 2024.
BEZERRA JR., Benilton. Introdução – A a psiquiatria contemporânea e seus desafios. In: ZORZANELLI, Rafaela; BEZERRA JR., Benilton; COSTA, Jurandir Freire. A criação de diagnósticos na psiquiatria contemporânea. Rio de Janeiro: Garamond, 2014. p. 9-34.
BIONI, Bruno Ricardo. Proteção de dados pessoais: a função e os limites do consentimento. Rio de Janeiro: Forense, 2019.
BIONI, Bruno; GARROTE, Marina; GUEDES, Paula. Temas centrais na regulação de IA: o local, o regional e o global na busca da interoperabilidade regulatória. São Paulo: Associação Data Privacy Brasil de Pesquisa, 2023. Disponível em: https://www.dataprivacybr.org/wp-content/uploads/2023/12/dataprivacy_nota-tecnica-temas-regulatorios.pdf. Acesso em: 21 jun. 2024.
BISCHOF, Anja et al. Comparison of groups with different forms of problematic internet use pro-actively recruited in the setting of vocational schools. Addiction Science & Clinical Practice, v. 10, s. 2, O7, p. 1, 2015. DOI: https://doi.org/10.1186/1940-0640-10-S2-O7. Disponível em: https://ascpjournal.biomedcentral.com/articles/10.1186/1940-0640-10-S2-O7. Acesso em: 21 jun. 2024.
BOYD, Danah; CRAWFORD, Kate. Critical questions for big data: provocations for a cultural, technological, and scholarly phenomenon. Information, Communication, & Society, [s. l.], v. 15, n. 2, p. 662-679, 2012. DOI: https://doi.org/10.1080/1369118X.2012.678878. Disponível em: https://www.tandfonline.com/doi/full/10.1080/1369118X.2012.678878. Acesso em: 21 jun. 2024.
BRASIL. Ministério da Saúde. Sindrome de Burnout. Portal do Ministério da Saúde, Brasília, DF, [202-]. Disponível em: https://www.gov.br/saude/pt-br/assuntos/saude-de-a-a-z/s/sindrome-de-burnout#:~:text=S%C3%ADndrome%20de%20Burnout%20ou%20S%C3%ADndrome,justamente%20o%20excesso%20de%20trabalho. Acesso em: 26 mar. 2024.
BRASIL. Presidência da República. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da internet no Brasil. Diário Oficial da União, Brasília, DF, v. 151, n. 77, p. 1, 24 abr. 2014. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em: 21 jun. 2024.
BRASIL. Presidência da República. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União, Brasília, DF, n. 157, p. 59, 15 ago. 2018. Seção 1. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 21 jun. 2024.
BRASIL. Senado Federal. Projeto de lei nº 2.338, de 2023. Dispõe sobre o uso da Inteligência Artificial. Disponível em: https://legis.senado.leg.br/sdleg-getter/documento?dm=9347622&ts=1702407086098&disposition=inline. Acesso em: 15 mar. 2023.
BRUNO, Fernanda Glória; BENTES, Anna; FALTAY, Paulo. Economia psíquica dos algoritmos e laboratório de plataforma: mercado, ciência e modulação do comportamento. Revista Famecos, Porto Alegre, v. 26, n. 3, p. e33095, set.-dez. 2019. DOI: https://doi.org/10.15448/1980-3729.2019.3.33095. Disponível em: https://revistaseletronicas.pucrs.br/revistafamecos/article/view/33095. Acesso em: 15 mar. 2023.
BRUNO, Fernanda; PEREIRA, Paula Cardoso; FALTAY, Paulo. Inteligência Artificial e saúde: ressituar o problema. Revista Eletrônica de Comunicação, Informação & Inovação em Saúde, Rio de Janeiro, v. 17, n. 2, p. 235-242, abr.-jun. 2023. DOI: https://doi.org/10.29397/reciis.v17i2.3842. Disponível em: https://www.reciis.icict.fiocruz.br/index.php/reciis/article/view/3842. Acesso em: 21 jun. 2024.
BUCHER, Taina. If...Then: algorithmic power and politics. Oxford: Oxford University Press, 2018.
BUINHAS, Susana dos Santos. Assistente virtual para facilitar o autocuidado de pessoas mais velhas com diabetes tipo 2. 2018. 156 f. Dissertação (Mestrado em Engenharia Informática) – Departamento de Informática, Faculdade de Ciências da Universidade de Lisboa. Lisboa, 2018. Disponível em: https://repositorio.ul.pt/bitstream/10451/35514/1/ulfc124810_tm_Susana_Buinhas.pdf. Acesso em: 21 jun. 2024.
COMITÊ GESTOR DA INTERNET NO BRASIL (CGI.BR). Pesquisa TIC Domicílios 2022. São Paulo: Cetic.br, 2023. Disponível em: https://cetic.br/media/docs/publicacoes/2/20230825143348/resumo_executivo_tic_domicilios_2022.pdf. Acesso em: 21 jun. 2024.
COALIZÃO DIREITOS NA REDE. Andamento e calendário da Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA). [S. l.], 5 mar. 2024. Disponível em: https://direitosnarede.org.br/2024/03/05/andamento-e-calendario-da-comissao-temporaria-interna-sobre-inteligencia-artificial-no-brasil-ctia/. Acesso em: 25 mar. 2024.
COPELAND, B. Jack. The Turing Test. In: MOOR, James H. (ed.). The Turing Test: the elusive standard of Artificial Intelligence. Holanda: Springer, 2003. p. 1-22.
DENIS, Gabriela et al. Uso responsável da IA para políticas públicas: manual de formulação de projetos. Brasília, DF: Banco Interamericano de Desenvolvimento, 2021. Disponível em: https://publications.iadb.org/publications/portuguese/document/Uso-responsavel-da-IA-para-politicas-publicas-manual-de-formulac%C3%A3o-de-projetos.pdf. Acesso em: 21 jun. 2024.
DOMINGOS, Pedro. O algoritmo mestre: como a busca pelo algoritmo de machine learning definitivo recriará nosso mundo. São Paulo: Novatec, 2017.
EISHIMA, Rubens. Alexa pode ser usada para cuidar de idosos e parentes a distância. Canal Tech, [s.l.], 12 nov 2020. Disponível em: https://canaltech.com.br/casa-conectada/alexa-pode-ser-usada-para-cuidar-de-idosos-e-parentes-a-distancia-174495/. Acesso em: 11 set 2024.
FORBES. Alexa na casa dos brasileiros cresce 50%; veja o que muda com avanço da IA. Forbes Tech, [s. l.], 8 abr. 2024. Disponível em: https://forbes.com.br/forbes-tech/2024/04/alexa-na-casa-dos-brasileiros-cresce-50-veja-o-que-muda-com-avanco-da-ia/. Acesso em: 21 jun. 2024.
FOUCAULT, Michel. O nascimento da clínica. Rio de Janeiro: Forense Universitária, 1977.
FRANÇA, Valéria. Assistentes como Alexa e Siri tornam-se boas companhias para idosos. Veja, São Paulo, 6 ago. 2023. Disponível em: https://veja.abril.com.br/tecnologia/assistentes-como-alexa-e-siri-tornam-se-boas-companhias-para-idosos. Acesso em: 13 mar. 2024
GILLESPIE, Tarleton. A relevância dos algoritmos. Parágrafo, São Paulo, v. 6, n. 1, p. 95-121, jan.-abr. 2018. Disponível em: https://revistaseletronicas.fiamfaam.br/index.php/recicofi/article/view/722/563. Acesso em: 21 jun. 2024.
GILLESPIE, Tarleton. #trendingistrending: when algorithms become culture. In: SEYFERT, Robert; ROBERGE, Jonathan (ed.). Algorithmic cultures: essays on meaning, performance and new technologies. Londres: Routledge, 2016. p. 52-75.
HEDMAN, Jonas; SRINIVASAN, Nikhil; LINDGREN, Rikard. Digital traces of information systems: sociomateriality made researchable. In: BASKERVILLE, Richard; CHAU, Michael (ed.). INTERNATIONAL CONFERENCE ON INFORMATION SYSTEMS, 34., 15-18 dez. 2013, Milão. Proceedings […]. Atlanta: Association for Information Systems, 2013. Disponível em: https://research.cbs.dk/en/publications/digital-traces-of-information-systems-sociomateriality-made-resea. Acesso em: 26 jun. 2024.
ILUMEO. Assistentes virtuais por voz: adoção da tecnologia, hábitos de uso e oportunidades para marcas e negócios. São Paulo: ILUMEO, 2023. Disponível em: https://ilumeo.com.br/estudos/assistentes-de-voz/. Acesso em: 21 jun. 2024.
JIN, Huafeng; WANG, Shuo. Voice-based determination of physical and emotional characteristics of users. Depositante: Amazon Technologies Inc. US10096319B1. Depósito: 13 mar. 2017. Concessão: 9 out. 2018. Disponível em: https://patents.google.com/patent/US10096319B1/en. Acesso em: 26 jun. 2024.
LATOUR, Bruno. Reagregando o social: uma introdução à teoria do Ator-Rede. Salvador: Editora UFBA, 2012.
LEMOS, Amanda. Pesquisa aponta que 11% dos lares no país terão um assistente de voz até 2025. Folha S.Paulo, São Paulo, 17 abr. 2021. Disponível em: https://www1.folha.uol.com.br/tec/2021/04/pesquisa-aponta-que-11-dos-lares-no-pais-terao-um-assistente-de-voz-ate-2025.shtml. Acesso em: 21 jun. 2024.
MEDEIROS, Henrique. Amazon e ABP criam alerta na Alexa sobre Síndrome de Burnout. Mobile Time, [s. l.], 9 fev. 2021. Disponível em: https://www.mobiletime.com.br/noticias/09/02/2021/amazon-e-abp-criam-alerta-sobre-sindorme-de-burnout-com-alexa/. Acesso em: 13 mar. 2024.
MEDIALAB.UFRJ. Economia psíquica dos algoritmos em linha do tempo. In: Blog do MediaLab.UFRJ, Rio de Janeiro, 12 mar. 2024. Disponível em: https://medialabufrj.net/projetos/economia-psiquica-dos-algoritmos-em-linha-do-tempo/. Acesso em: 13 mar. 2024.
MEJIAS, Ulises A.; COULDRY, Nick. Datafication. Internet Policy Review, [s. l.], v. 8, n. 4, p. 1-10, 2019. DOI: https://doi.org/10.14763/2019.4.1428. Disponível em: https://policyreview.info/concepts/datafication. Acesso em: 13 mar. 2024.
METZ, Cade. OpenAI unveils new ChatGPT that listens, looks and talks. The New York Times, Nova Iorque, 13 maio 2024. Disponível em: https://www.nytimes.com/2024/05/13/technology/openai-chatgpt-app.html. Acesso em: 21 jun. 2024.
MINAYO, Maria Cecília de Souza. O desafio do conhecimento: pesquisa qualitativa em saúde. 11. ed. São Paulo: Hucitec, 2008.
MOROZOV, Evgeny. To save everything, click here: smart machines, dumb humans, and the myth of tecnological perfectionism. Nova Iorque: Perseus Books, 2013.
MULHOLLAND, Caitlin. O tratamento de dados pessoais sensíveis. In: MULHOLLAND, Caitlin. (org.). A LGPD e o novo marco normativo no Brasil. Porto Alegre: Arquipélago, 2020. p. 121-156. (Pautas em Direito).
NASS, Clifford; MOON, Youngme. Machines and mindlessness: Social responses to computers. Journal of Social Issues, [s. l.], v. 56, n. 1, p. 81–103, 2000. DOI: https://doi.org/10.1111/0022-4537.00153. Disponível em: https://spssi.onlinelibrary.wiley.com/doi/full/10.1111/0022-4537.00153. Acesso em: 21 jun. 2024.
NASS, Clifford; STEUER, Jonathan; TAUBER, Ellen R. Computers are social actors. Proceedings of the SIGCHI Conference on Human Factors in Computing Systems (CHI '94). New York, NY: Association for Computing Machinery, p. 72-78, 1994. DOI: https://doi.org/10.1145/191666.191703. Disponível em: https://dl.acm.org/doi/10.1145/191666.191703. Acesso em: 21 jun. 2024.
OLIVEIRA, Maria Marly de. Como fazer pesquisa qualitativa. Petrópolis: Vozes, 2007.
RIGUES, Rafael. Alexa agora pode detectar objetivos ocultos em uma conversa. Olhar Digital, [s. l.], 12 nov. 2020. Disponível em: https://olhardigital.com.br/2020/11/12/noticias/alexa-agora-pode-detectar-objetivos-ocultos-em-uma-conversa/. Acesso em: 1 abr. 2024.
SÁ-SILVA, Jackson Ronie; ALMEIDA, Cristóvão Domingos de; GUINDANI, Joel Felipe. Pesquisa documental: pistas teóricas e metodológicas. Revista Brasileira de História & Ciências Sociais, Rio Grande, v. 1, n. 1, p. 1-15, 2009. Disponível em: https://periodicos.furg.br/rbhcs/article/view/10351. Acesso em: 10 jun. 2024.
SALES, Gabriella. Jovens usam ChatGPT como psicólogo em busca de conversas sem críticas. Folha de S.Paulo, São Paulo, 17 abr 2023. Equilíbrio.
SEIFERT, Alexander; COTTEN, Sheila R.; XIE, Bo. A double burden of exclusion? Digital and social exclusion of older adults in times of covid-19. The Journals of Gerontology Series B: Psychological Sciences and Social Sciences, Washington, DC, v. 76, n. 3. p. e99-e103, fev. 2021. DOI: https://doi.org/10.1093/geronb/gbaa098. Disponível em: https://pubmed.ncbi.nlm.nih.gov/32672332/. Acesso em: 10 jun. 2024.
SOUZA, Jacqueline; KANTORSKI, Luciane Prado; LUIS, Margarita Antonia Villar. Análise documental e observação participante na pesquisa em saúde mental. Revista Baiana de Enfermagem, Salvador, v. 25. n. 2. p. 221-228, 2011. DOI: https://doi.org/10.18471/rbe.v25i2.5252. Disponível em: https://periodicos.ufba.br/index.php/enfermagem/article/view/5252. Acesso em: 10 jun. 2024.
SOUZA, Wellington de. Como integrar ChatGPT com Alexa. Rio de Janeiro, 14 set. 2023. LinkedIn: wellingtonsouza27. Disponível em: https://www.linkedin.com/pulse/como-integrar-chatgpt-com-alexa-wellington-de-souza/. Acesso em: 1 abr. 2024.
VAN DIJCK, José; POELL, Thomas; DE WAAL, Martijn. The platform society: public values in a connective world. Oxford: Oxford University Press, 2018.
WORLD HEALTH ORGANIZATION; Mental health. Genebra: WHO, c2024. Disponível em: https://www.who.int/health-topics/mental-health#tab=tab_1. Acesso em: 1 de abr. 2024.
XIANG, Chloe. ‘He would still be here’: man dies by suicide after talking with AI chatbot, widow says. Vice, [s. l.], 30 mar. 2023. Tech. Disponível em: https://www.vice.com/en/article/pkadgm/man-dies-by-suicide-after-talking-with-ai-chatbot-widow-says. Acesso em: 1 abr. 2024.
ZMES. 120 milhões de pessoas usam Alexa, Siri ou Google Assistant. Mistura by ZMES, [São Paulo], 9 dez. 2021. Disponível em: https://mistura.zmes.marketing/2021/12/09/120-milhoes-de-pessoas-usam-alexa-siri-ou-google-assistant/. Acesso em: 24 jun. 20024.
ZUBOFF, Shoshana. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca, 2020.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2024 Anna Bentes, Danielle Sanches, Paulo Fonseca
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
Direitos de autor: O autor retém, sem restrições dos direitos sobre sua obra.
Direitos de reutilização: A Reciis adota a Licença Creative Commons, CC BY-NC atribuição não comercial conforme a Política de Acesso Aberto ao Conhecimento da Fundação Oswaldo Cruz. Com essa licença é permitido acessar, baixar (download), copiar, imprimir, compartilhar, reutilizar e distribuir os artigos, desde que para uso não comercial e com a citação da fonte, conferindo os devidos créditos de autoria e menção à Reciis. Nesses casos, nenhuma permissão é necessária por parte dos autores ou dos editores.
Direitos de depósito dos autores/autoarquivamento: Os autores são estimulados a realizarem o depósito em repositórios institucionais da versão publicada com o link do seu artigo na Reciis.
