Asistentes Virtuales Inteligentes y salud mental: debates regulatorios en Brasil
DOI:
https://doi.org/10.29397/reciis.v18i3.4310Palabras clave:
Asistentes Virtuales Inteligentes, Inteligencia Artificial, Salud mental, RegulaciónResumen
La inserción de los Asistentes Virtuales Inteligentes en la vida cotidiana representa un hito en la historia de la comunicación entre humanos y máquinas. Debido a sus características interactivas, cada vez son más apropiados y desarrollados para fines de cuidado. Este artículo tiene como objetivo comprender si y cómo el debate regulatorio brasileño ofrece instrumentos para abordar los desafíos y preocupaciones de estos sistemas de Inteligencia Artificial en relación con la salud mental. A partir de un análisis documental, mapeamos ejemplos de la aplicación de los Asistentes Virtuales Inteligentes a la salud mental, con el fin de identificar riesgos para los derechos de los usuarios y evaluar, en la legislación brasileña vigente y en discusión, si hay protección suficiente para abordarlos. Destacamos la insuficiencia de la legislación brasileña actual y la necesidad de ampliar el debate sobre cómo equilibrar los posibles riesgos y beneficios de estas tecnologías.
Citas
AMAZON. Configurações de privacidade da Alexa. São Paulo: Amazon, c2021-2024. Disponível em: https://www.amazon.com.br/gp/help/customer/display.html?ref_=hp_left_v4_sib&nodeId=G2H2JJS9UDKNKGKP. Acesso em: 21 jun. 2024.
BENTES, Anna. Da Madison Avenue ao Vale do Silício: ciências comportamentais do engajamento, tecnologias de influência e economia da atenção. 2022. 274 f. Tese (Doutorado em Comunicação e Cultura) – Programa de Pós-Graduação em Comunicação e Cultura, Escola de Comunicação, Universidade Federal do Rio de Janeiro, Rio de Janeiro, 2022. Disponível em: https://www.pos.eco.ufrj.br/site/download.php?arquivo=upload/tese_abentes_2022.pdf. Acesso em: 21 jun. 2024.
BEZERRA JR., Benilton. Introdução – A a psiquiatria contemporânea e seus desafios. In: ZORZANELLI, Rafaela; BEZERRA JR., Benilton; COSTA, Jurandir Freire. A criação de diagnósticos na psiquiatria contemporânea. Rio de Janeiro: Garamond, 2014. p. 9-34.
BIONI, Bruno Ricardo. Proteção de dados pessoais: a função e os limites do consentimento. Rio de Janeiro: Forense, 2019.
BIONI, Bruno; GARROTE, Marina; GUEDES, Paula. Temas centrais na regulação de IA: o local, o regional e o global na busca da interoperabilidade regulatória. São Paulo: Associação Data Privacy Brasil de Pesquisa, 2023. Disponível em: https://www.dataprivacybr.org/wp-content/uploads/2023/12/dataprivacy_nota-tecnica-temas-regulatorios.pdf. Acesso em: 21 jun. 2024.
BISCHOF, Anja et al. Comparison of groups with different forms of problematic internet use pro-actively recruited in the setting of vocational schools. Addiction Science & Clinical Practice, v. 10, s. 2, O7, p. 1, 2015. DOI: https://doi.org/10.1186/1940-0640-10-S2-O7. Disponível em: https://ascpjournal.biomedcentral.com/articles/10.1186/1940-0640-10-S2-O7. Acesso em: 21 jun. 2024.
BOYD, Danah; CRAWFORD, Kate. Critical questions for big data: provocations for a cultural, technological, and scholarly phenomenon. Information, Communication, & Society, [s. l.], v. 15, n. 2, p. 662-679, 2012. DOI: https://doi.org/10.1080/1369118X.2012.678878. Disponível em: https://www.tandfonline.com/doi/full/10.1080/1369118X.2012.678878. Acesso em: 21 jun. 2024.
BRASIL. Ministério da Saúde. Sindrome de Burnout. Portal do Ministério da Saúde, Brasília, DF, [202-]. Disponível em: https://www.gov.br/saude/pt-br/assuntos/saude-de-a-a-z/s/sindrome-de-burnout#:~:text=S%C3%ADndrome%20de%20Burnout%20ou%20S%C3%ADndrome,justamente%20o%20excesso%20de%20trabalho. Acesso em: 26 mar. 2024.
BRASIL. Presidência da República. Lei nº 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da internet no Brasil. Diário Oficial da União, Brasília, DF, v. 151, n. 77, p. 1, 24 abr. 2014. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em: 21 jun. 2024.
BRASIL. Presidência da República. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União, Brasília, DF, n. 157, p. 59, 15 ago. 2018. Seção 1. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 21 jun. 2024.
BRASIL. Senado Federal. Projeto de lei nº 2.338, de 2023. Dispõe sobre o uso da Inteligência Artificial. Disponível em: https://legis.senado.leg.br/sdleg-getter/documento?dm=9347622&ts=1702407086098&disposition=inline. Acesso em: 15 mar. 2023.
BRUNO, Fernanda Glória; BENTES, Anna; FALTAY, Paulo. Economia psíquica dos algoritmos e laboratório de plataforma: mercado, ciência e modulação do comportamento. Revista Famecos, Porto Alegre, v. 26, n. 3, p. e33095, set.-dez. 2019. DOI: https://doi.org/10.15448/1980-3729.2019.3.33095. Disponível em: https://revistaseletronicas.pucrs.br/revistafamecos/article/view/33095. Acesso em: 15 mar. 2023.
BRUNO, Fernanda; PEREIRA, Paula Cardoso; FALTAY, Paulo. Inteligência Artificial e saúde: ressituar o problema. Revista Eletrônica de Comunicação, Informação & Inovação em Saúde, Rio de Janeiro, v. 17, n. 2, p. 235-242, abr.-jun. 2023. DOI: https://doi.org/10.29397/reciis.v17i2.3842. Disponível em: https://www.reciis.icict.fiocruz.br/index.php/reciis/article/view/3842. Acesso em: 21 jun. 2024.
BUCHER, Taina. If...Then: algorithmic power and politics. Oxford: Oxford University Press, 2018.
BUINHAS, Susana dos Santos. Assistente virtual para facilitar o autocuidado de pessoas mais velhas com diabetes tipo 2. 2018. 156 f. Dissertação (Mestrado em Engenharia Informática) – Departamento de Informática, Faculdade de Ciências da Universidade de Lisboa. Lisboa, 2018. Disponível em: https://repositorio.ul.pt/bitstream/10451/35514/1/ulfc124810_tm_Susana_Buinhas.pdf. Acesso em: 21 jun. 2024.
COMITÊ GESTOR DA INTERNET NO BRASIL (CGI.BR). Pesquisa TIC Domicílios 2022. São Paulo: Cetic.br, 2023. Disponível em: https://cetic.br/media/docs/publicacoes/2/20230825143348/resumo_executivo_tic_domicilios_2022.pdf. Acesso em: 21 jun. 2024.
COALIZÃO DIREITOS NA REDE. Andamento e calendário da Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA). [S. l.], 5 mar. 2024. Disponível em: https://direitosnarede.org.br/2024/03/05/andamento-e-calendario-da-comissao-temporaria-interna-sobre-inteligencia-artificial-no-brasil-ctia/. Acesso em: 25 mar. 2024.
COPELAND, B. Jack. The Turing Test. In: MOOR, James H. (ed.). The Turing Test: the elusive standard of Artificial Intelligence. Holanda: Springer, 2003. p. 1-22.
DENIS, Gabriela et al. Uso responsável da IA para políticas públicas: manual de formulação de projetos. Brasília, DF: Banco Interamericano de Desenvolvimento, 2021. Disponível em: https://publications.iadb.org/publications/portuguese/document/Uso-responsavel-da-IA-para-politicas-publicas-manual-de-formulac%C3%A3o-de-projetos.pdf. Acesso em: 21 jun. 2024.
DOMINGOS, Pedro. O algoritmo mestre: como a busca pelo algoritmo de machine learning definitivo recriará nosso mundo. São Paulo: Novatec, 2017.
EISHIMA, Rubens. Alexa pode ser usada para cuidar de idosos e parentes a distância. Canal Tech, [s.l.], 12 nov 2020. Disponível em: https://canaltech.com.br/casa-conectada/alexa-pode-ser-usada-para-cuidar-de-idosos-e-parentes-a-distancia-174495/. Acesso em: 11 set 2024.
FORBES. Alexa na casa dos brasileiros cresce 50%; veja o que muda com avanço da IA. Forbes Tech, [s. l.], 8 abr. 2024. Disponível em: https://forbes.com.br/forbes-tech/2024/04/alexa-na-casa-dos-brasileiros-cresce-50-veja-o-que-muda-com-avanco-da-ia/. Acesso em: 21 jun. 2024.
FOUCAULT, Michel. O nascimento da clínica. Rio de Janeiro: Forense Universitária, 1977.
FRANÇA, Valéria. Assistentes como Alexa e Siri tornam-se boas companhias para idosos. Veja, São Paulo, 6 ago. 2023. Disponível em: https://veja.abril.com.br/tecnologia/assistentes-como-alexa-e-siri-tornam-se-boas-companhias-para-idosos. Acesso em: 13 mar. 2024
GILLESPIE, Tarleton. A relevância dos algoritmos. Parágrafo, São Paulo, v. 6, n. 1, p. 95-121, jan.-abr. 2018. Disponível em: https://revistaseletronicas.fiamfaam.br/index.php/recicofi/article/view/722/563. Acesso em: 21 jun. 2024.
GILLESPIE, Tarleton. #trendingistrending: when algorithms become culture. In: SEYFERT, Robert; ROBERGE, Jonathan (ed.). Algorithmic cultures: essays on meaning, performance and new technologies. Londres: Routledge, 2016. p. 52-75.
HEDMAN, Jonas; SRINIVASAN, Nikhil; LINDGREN, Rikard. Digital traces of information systems: sociomateriality made researchable. In: BASKERVILLE, Richard; CHAU, Michael (ed.). INTERNATIONAL CONFERENCE ON INFORMATION SYSTEMS, 34., 15-18 dez. 2013, Milão. Proceedings […]. Atlanta: Association for Information Systems, 2013. Disponível em: https://research.cbs.dk/en/publications/digital-traces-of-information-systems-sociomateriality-made-resea. Acesso em: 26 jun. 2024.
ILUMEO. Assistentes virtuais por voz: adoção da tecnologia, hábitos de uso e oportunidades para marcas e negócios. São Paulo: ILUMEO, 2023. Disponível em: https://ilumeo.com.br/estudos/assistentes-de-voz/. Acesso em: 21 jun. 2024.
JIN, Huafeng; WANG, Shuo. Voice-based determination of physical and emotional characteristics of users. Depositante: Amazon Technologies Inc. US10096319B1. Depósito: 13 mar. 2017. Concessão: 9 out. 2018. Disponível em: https://patents.google.com/patent/US10096319B1/en. Acesso em: 26 jun. 2024.
LATOUR, Bruno. Reagregando o social: uma introdução à teoria do Ator-Rede. Salvador: Editora UFBA, 2012.
LEMOS, Amanda. Pesquisa aponta que 11% dos lares no país terão um assistente de voz até 2025. Folha S.Paulo, São Paulo, 17 abr. 2021. Disponível em: https://www1.folha.uol.com.br/tec/2021/04/pesquisa-aponta-que-11-dos-lares-no-pais-terao-um-assistente-de-voz-ate-2025.shtml. Acesso em: 21 jun. 2024.
MEDEIROS, Henrique. Amazon e ABP criam alerta na Alexa sobre Síndrome de Burnout. Mobile Time, [s. l.], 9 fev. 2021. Disponível em: https://www.mobiletime.com.br/noticias/09/02/2021/amazon-e-abp-criam-alerta-sobre-sindorme-de-burnout-com-alexa/. Acesso em: 13 mar. 2024.
MEDIALAB.UFRJ. Economia psíquica dos algoritmos em linha do tempo. In: Blog do MediaLab.UFRJ, Rio de Janeiro, 12 mar. 2024. Disponível em: https://medialabufrj.net/projetos/economia-psiquica-dos-algoritmos-em-linha-do-tempo/. Acesso em: 13 mar. 2024.
MEJIAS, Ulises A.; COULDRY, Nick. Datafication. Internet Policy Review, [s. l.], v. 8, n. 4, p. 1-10, 2019. DOI: https://doi.org/10.14763/2019.4.1428. Disponível em: https://policyreview.info/concepts/datafication. Acesso em: 13 mar. 2024.
METZ, Cade. OpenAI unveils new ChatGPT that listens, looks and talks. The New York Times, Nova Iorque, 13 maio 2024. Disponível em: https://www.nytimes.com/2024/05/13/technology/openai-chatgpt-app.html. Acesso em: 21 jun. 2024.
MINAYO, Maria Cecília de Souza. O desafio do conhecimento: pesquisa qualitativa em saúde. 11. ed. São Paulo: Hucitec, 2008.
MOROZOV, Evgeny. To save everything, click here: smart machines, dumb humans, and the myth of tecnological perfectionism. Nova Iorque: Perseus Books, 2013.
MULHOLLAND, Caitlin. O tratamento de dados pessoais sensíveis. In: MULHOLLAND, Caitlin. (org.). A LGPD e o novo marco normativo no Brasil. Porto Alegre: Arquipélago, 2020. p. 121-156. (Pautas em Direito).
NASS, Clifford; MOON, Youngme. Machines and mindlessness: Social responses to computers. Journal of Social Issues, [s. l.], v. 56, n. 1, p. 81–103, 2000. DOI: https://doi.org/10.1111/0022-4537.00153. Disponível em: https://spssi.onlinelibrary.wiley.com/doi/full/10.1111/0022-4537.00153. Acesso em: 21 jun. 2024.
NASS, Clifford; STEUER, Jonathan; TAUBER, Ellen R. Computers are social actors. Proceedings of the SIGCHI Conference on Human Factors in Computing Systems (CHI '94). New York, NY: Association for Computing Machinery, p. 72-78, 1994. DOI: https://doi.org/10.1145/191666.191703. Disponível em: https://dl.acm.org/doi/10.1145/191666.191703. Acesso em: 21 jun. 2024.
OLIVEIRA, Maria Marly de. Como fazer pesquisa qualitativa. Petrópolis: Vozes, 2007.
RIGUES, Rafael. Alexa agora pode detectar objetivos ocultos em uma conversa. Olhar Digital, [s. l.], 12 nov. 2020. Disponível em: https://olhardigital.com.br/2020/11/12/noticias/alexa-agora-pode-detectar-objetivos-ocultos-em-uma-conversa/. Acesso em: 1 abr. 2024.
SÁ-SILVA, Jackson Ronie; ALMEIDA, Cristóvão Domingos de; GUINDANI, Joel Felipe. Pesquisa documental: pistas teóricas e metodológicas. Revista Brasileira de História & Ciências Sociais, Rio Grande, v. 1, n. 1, p. 1-15, 2009. Disponível em: https://periodicos.furg.br/rbhcs/article/view/10351. Acesso em: 10 jun. 2024.
SALES, Gabriella. Jovens usam ChatGPT como psicólogo em busca de conversas sem críticas. Folha de S.Paulo, São Paulo, 17 abr 2023. Equilíbrio.
SEIFERT, Alexander; COTTEN, Sheila R.; XIE, Bo. A double burden of exclusion? Digital and social exclusion of older adults in times of covid-19. The Journals of Gerontology Series B: Psychological Sciences and Social Sciences, Washington, DC, v. 76, n. 3. p. e99-e103, fev. 2021. DOI: https://doi.org/10.1093/geronb/gbaa098. Disponível em: https://pubmed.ncbi.nlm.nih.gov/32672332/. Acesso em: 10 jun. 2024.
SOUZA, Jacqueline; KANTORSKI, Luciane Prado; LUIS, Margarita Antonia Villar. Análise documental e observação participante na pesquisa em saúde mental. Revista Baiana de Enfermagem, Salvador, v. 25. n. 2. p. 221-228, 2011. DOI: https://doi.org/10.18471/rbe.v25i2.5252. Disponível em: https://periodicos.ufba.br/index.php/enfermagem/article/view/5252. Acesso em: 10 jun. 2024.
SOUZA, Wellington de. Como integrar ChatGPT com Alexa. Rio de Janeiro, 14 set. 2023. LinkedIn: wellingtonsouza27. Disponível em: https://www.linkedin.com/pulse/como-integrar-chatgpt-com-alexa-wellington-de-souza/. Acesso em: 1 abr. 2024.
VAN DIJCK, José; POELL, Thomas; DE WAAL, Martijn. The platform society: public values in a connective world. Oxford: Oxford University Press, 2018.
WORLD HEALTH ORGANIZATION; Mental health. Genebra: WHO, c2024. Disponível em: https://www.who.int/health-topics/mental-health#tab=tab_1. Acesso em: 1 de abr. 2024.
XIANG, Chloe. ‘He would still be here’: man dies by suicide after talking with AI chatbot, widow says. Vice, [s. l.], 30 mar. 2023. Tech. Disponível em: https://www.vice.com/en/article/pkadgm/man-dies-by-suicide-after-talking-with-ai-chatbot-widow-says. Acesso em: 1 abr. 2024.
ZMES. 120 milhões de pessoas usam Alexa, Siri ou Google Assistant. Mistura by ZMES, [São Paulo], 9 dez. 2021. Disponível em: https://mistura.zmes.marketing/2021/12/09/120-milhoes-de-pessoas-usam-alexa-siri-ou-google-assistant/. Acesso em: 24 jun. 20024.
ZUBOFF, Shoshana. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca, 2020.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2024 Anna Bentes, Danielle Sanches, Paulo Fonseca
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial 4.0.
Derechos de autor: El autor retiene los derechos sobre su obra sin restricciones.
Derechos de reutilización: La Reciis adopta la Licencia Creative Commons, CC BY-NC atribución no comercial conforme la Política de Acceso Abierto al Conocimiento de la Fundación Oswaldo Cruz. Con esa licencia es permitido acceder, bajar (download), copiar, imprimir, compartir, reutilizar y distribuir los artículos, desde que para uso no comercial y con la citación de la fuente, confiriendo los debidos créditos de autoría y mención a la Reciis. En esos casos, ningún permiso es necesario por parte de los autores o de los editores.
Derechos de depósito de los autores/auto-archivado: Los autores son estimulados a realizar el depósito en repositorios institucionales de la versión publicada con el link de su artículo en la Reciis.
