Questões conjunturais sobre a regulação da IA
DOI:
https://doi.org/10.29397/reciis.v18i3.4634Palavras-chave:
Regulação da inteligência artificial, Sistemas automatizados, Transparência, Explicabilidade, Soberania digital e de dadosResumo
O texto parte da disputa em torno da regulação da inteligência artificial (IA) realmente existente, dividida entre dois polos, o da proteção da inovação e o da necessidade de mitigar riscos sociais e ambientais. Avança para apontar a colossal concentração de poder computacional e de dados nas mãos dos oligopólios digitais, as big techs. Levanta preocupações sobre o impacto dessa concentração na soberania digital e na capacidade do país em controlar suas infraestruturas e dados. Argumenta como a falta de transparência e explicabilidade nos sistemas de IA agrava os riscos de discriminação e exclusão social. Ainda, defende que a regulação da IA deve garantir direitos, salvaguardar a soberania e promover um ecossistema digital autônomo e inclusivo.
Referências
BRATTON, Benjamin H. The stack: on software and sovereignty. Cambridge, MA: MIT Press, 2016.
COULDRY, Nick; MEJIAS, Ulises A. The costs of connection: how data is colonizing human life and appropriating it for capitalism. Redwood City: Stanford University Press, 2020.
KWET, Michael. Digital colonialism: US empire and the new imperialism in the Global South. Race & Class, [s. l.], v. 60, n. 4, p. 3-26, 2019. DOI: https://dx.doi.org/10.2139/ssrn.3232297. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3232297. Disponível em: 10 set. 2024.
MASLEJ, Nestor et al. The AI index 2024 annual report. Stanford: AI Index Steering Committee; Institute for Human-Centered AI; Stanford University, 2024.
MAYER-SCHÖNBERGER, Viktor; CUKIER, Kenneth. Big data: a revolution that will transform how we live, work, and think. Boston: Houghton Mifflin Harcourt, 2013.
MICROSOFT destaca Sisu em nuvem como case de sucesso. Portal do MEC, Brasília, DF, 23 mar. 2020. Disponível em: http://portal.mec.gov.br/ultimas-noticias/410-sisu-535874847/86661-microsoft-destaca-sisu-em-nuvem-como-case-de-sucesso#:~:text=A%20Microsoft%20destacou%20o%20Sistema,aumentar%20a%20capacidade%20de%20acessos. Acesso em: 26 ago. 2024.
MILLER, Katharine. Should AI models be explainable? That depends. HAI, Stanford, 16 mar. 2021. Disponível em: https://hai.stanford.edu/news/should-ai-models-be-explainable-depends. Acesso em: 8 set. 2024.
MIT TECHNOLOGY REVIEW INSIGHTS. The great acceleration: CIO perspectives on generative AI. São Francisco: Databricks, 2023.
MOROZOV, Evgeny. Big tech: a ascensão dos dados e a morte da política. São Paulo: Ubu, 2018.
PASQUALE, Frank. The black box society: the secret algorithms that control money and information. Cambridge, MA: Harvard University Press, 2015.
PASQUINELLI, Matteo; JOLER, Vladan. O manifesto nooscópio: inteligência artificial como instrumento de extrativismo do conhecimento. Tradução: Leandro Módolo e Thais Pimentel. Lavits, [s. l.], 30 jul. 2020. Disponível em: https://lavits.org/o-manifesto-nooscopio-inteligencia-artificial-como-instrumento-de-extrativismo-do-conhecimento/. Acesso em: 8 set. 2024.
PIGOU, Arthur. The economics of welfare. Abingdon: Routledge, 2017.
SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc, 2022.
SKINNER, Quentin. The sovereign state. In: KALMO, Hent; SKINNER, Quentin (ed.). A genealogy. Sovereignty in fragments: The past, present and future of a contested concept. Cambridge, UK: Cambridge University Press, 2010.
SRNICEK, Nick. Platform capitalism. Hoboken: John Wiley & Sons, 2017.
STERLING, Bruce. Web semantics: Microsoft Project Turing introduces Turing Natural Language Generation (T-NLG). Wired, San Francisco, 13 feb. 2020.
TECNOLOGIA de reconhecimento facial na chamada chega a 1,6 mil colégios da rede estadual. Agência Estadual de Notícias, Curitiba, 17 maio 2023. Disponível em: https://www.aen.pr.gov.br/Noticia/Tecnologia-de-reconhecimento-facial-na-chamada-chega-16-mil-colegios-da-rede-estadual. Acesso em: 26 ago. 2024.
VAN DIJCK, José; POELL, Thomas; DE WAAL, Martijn. The platform society: public values in a connective world. Oxford: Oxford University Press, 2018.
WINNER, Langdon. Do artifacts have politics? In: WINNER, Langdon. The whale and the reactor: a search for limits in an age of high technology. Chicago: The University of Chicago Press. 1986.
ZUBOFF, Shoshana. The age of surveillance capitalism: the fight for a human future at the new frontier of power. London: Profile Books, 2019.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2024 Sergio Amadeu Silveira
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
Direitos de autor: O autor retém, sem restrições dos direitos sobre sua obra.
Direitos de reutilização: A Reciis adota a Licença Creative Commons, CC BY-NC atribuição não comercial conforme a Política de Acesso Aberto ao Conhecimento da Fundação Oswaldo Cruz. Com essa licença é permitido acessar, baixar (download), copiar, imprimir, compartilhar, reutilizar e distribuir os artigos, desde que para uso não comercial e com a citação da fonte, conferindo os devidos créditos de autoria e menção à Reciis. Nesses casos, nenhuma permissão é necessária por parte dos autores ou dos editores.
Direitos de depósito dos autores/autoarquivamento: Os autores são estimulados a realizarem o depósito em repositórios institucionais da versão publicada com o link do seu artigo na Reciis.
