Palavras-chave
infância
inteligência artificial
discriminação
riscos
Como Citar
Resumo
Este artigo é uma investigação sobre os riscos envolvidos na atividade de inteligência artificial voltada para crianças e adolescentes. Parece que a inteligência artificial tem estado ativa em vários campos, não sendo diferente na vida diária das crianças, especialmente após o advento da pandemia COVID-19. No entanto, seus riscos muitas vezes não são adequadamente analisados, o que resulta em danos e discriminação em um dos setores mais vulneráveis: crianças e adolescentes. Este artigo tem como objetivo, através do método dedutivo de revisão literária, analisar os riscos envolvidos na atividade de inteligência artificial e seus impactos na infância, recomendando, no final, medidas de mapeamento e mitigação. Nesse contexto, parece que uma IA confiável deve atuar por meio de medidas multissetoriais, envolvendo instituições civis, família, Estado, setor privado e organizações em avaliações de impacto. Além disso, a tecnologia deve apoiar o desenvolvimento e o bem-estar das crianças, garantir inclusão, segurança e não discriminação, proteger dados e privacidade e fornecer transparência e explicabilidade. Da mesma forma, os sistemas de IA devem considerar o melhor interesse da criança sobre interesses comerciais e também devem considerar a necessidade de desconexão, que é essencial para o bem-estar físico e mental.
Referências
Barros, Juliana C. do R., Martine D. Medeiros, Ana Paula de A. Lopes, and Rodrigo S. González. O uso de aplicativos de inteligência artificial no apoio aos conselhos tutelares. Available at: https://www.lume.ufrgs.br/bitstream/handle/10183/82908/Resumo_20020854.pdf?sequence=1.
Brazil. Ministério da Ciência, Tecnologia e Inovações Secretaria de Empreendedorismo e Inovação. Estratégia Brasileira de Inteligência Artificial. Available at: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/arquivosinteligenciaartificial/ia_estrategia_documento_referencia_4-979_2021.pdf.
Buarque, Gabriela, and Tâmara Moura. Crianças na contemporaneidade: um diálogo sobre a concepção de infância e o uso intensivo das plataformas digitais. In: Transformações do Direito na contemporaneidade. (edited by Ariane Ferreira Ferro et al.). Andradina: Meraki, 2021.
Câmara, Marco Sérgio Andrade Leal. Inteligência artificial: representação de conhecimento. Dep. de Engenharia Informática da FCTUC. Available at: https://student.dei.uc.pt/~mcamara/artigos/inteligencia_artificial.pdf.
Canal Tech. Amazon é processada por gravar vozes de crianças com o dispositivo Echo Dot Kids. Available at: https://canaltech.com.br/casa-conectada/amazon-e-processada-por-gravar-vozes-de-criancas-com-o-dispositivo-echo-dot-kids-141865/.
Čerka, Paulius, Jugita Grigienė, and Gintarė Sirbikytė. Liability for damages caused by artificial intelligence. Computer Law and Security Review, v. 31: 376-389, 2015.
Cheliga, Vinicius, and Tarcisio Teixeira. Inteligência artificial: aspectos jurídicos. Salvador: Editora Juspodivm, 2019.
Conferência Judicial Ibero-Americana. Regras de Brasília sobre acesso à justiça das pessoas em condição de vulnerabilidade. Available at: https://www.anadep.org.br/wtksite/100-Regras-de-Brasilia-versao-reduzida.pdf.
Criança e Consumo. Inteligência artificial centrada nos direitos das crianças. Available at: https://criancaeconsumo.org.br/noticias/inteligencia-artificial-direitos-das-criancas/.
Fair Play For Kids. Child advocates mobilize to stop Mattel’s Eavesdropping “Hello Barbie”. Available at: https://fairplayforkids.org/child-advocates-mobilize-stop-mattels-eavesdropping-hello-barbie/.
Family Match. Available in: https://www.family-match.org/.
França Netto, Milton Pereira de, and Marcos Ehrhardt Júnior. A inteligência artificial e os riscos da discriminação algorítmica. In: Direito Civil e Tecnologia: Tomo II (edited by Marcos Ehrhardt Jr. et al.). Belo Horizonte: Fórum, 2021.
Gama, Guilherme Calmon Nogueira da. Direito e processos digitais, algoritmos e adoções: análise preditiva e proteção às crianças e adolescentes. GENJurídico.com.br. Available at: http://genjuridico.com.br/2021/01/05/inteligencia-artificial-adocao/.
Gazeta Online. Agência alemã alerta que boneca pode ser usada para espionar crianças. Available at: https://www.gazetaonline.com.br/noticias/mundo/2017/02/agencia-alema-alerta-que-boneca-pode-ser-usada-para-espionar-criancas-1014026030.html.
Gutierrez, Andriei. É possível confiar em um sistema de inteligência artificial? Práticas em torno da melhoria da sua confiança, segurança e evidências e accountability. In: Inteligência artificial e Direito: Ética, Regulação e Responsabilidade (edited by Ana Frazão and Caitlin Mulholland). São Paulo: Thomson Reuters Brasil, 2019.
GZH. Como Siri, assistente virtual da Apple, se tornou a melhor amiga de uma criança autista. Available at: https://gauchazh.clicrbs.com.br/saude/vida/noticia/2014/10/Como-Siri-assistente-virtual-da-Apple-se-tornou-a-melhor-amiga-de-uma-crianca-autista-4630628.html.
Hallevy, Gabriel. The criminal liability of artificial intelligence entities- from Science fiction to legal social control. Akron Intellectual Property Journal, Ohio, vol. 4, p. 171-199, 2016.
Henriques, Isabella Vieira Machado, and Inês Vitorino Sampaio. Discriminação algorítmica e inclusão em sistemas de inteligência artificial - uma reflexão sob a ótica dos direitos das crianças no ambiente digital. Revista de Direito Público. Dossiê – Inteligência artificial, ética e epistemologia. Brasília, Volume 18, n. 100, 245-271, oct./dec. 2021.
Jaborandy, Clara Cardoso Machado, and Tatiane Gonçalves Miranda Goldhar. Inclusão digital das pessoas com deficiência e a proteção de dados pessoais. In: Direito Civil e Tecnologia: Tomo II (edited by Marcos Ehrhardt Jr. et al.). Belo Horizonte: Fórum, 2021.
Kaplan, Jerry. Artificial Intelligence: What everyone needs to know. Oxford: Oxford University Press, 2016.
Mendes, Laura Schertel, and Marcela Mattiuzzo. Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. Revista de Direito da Univille. Porto Alegre, Volume 16, n. 90, 2019, 39-64, nov./dec. 2019.
Mercadal, Juan José Martínez. Discriminación algorítmica: anotaciones sobre la protección “pro homine” y la prevención del daño desde la propuesto europea de regulación de la inteligencia artificial 2021. In: Direito Civil e Tecnologia: Tomo II (edited by Marcos Ehrhardt Jr. et al.). Belo Horizonte: Fórum, 2021.
Modesto, Jéssica Andrade, and Marcos Ehrhardt Júnior. Definição de perfis e o risco de discriminação: a importância das legislações de proteção de dados para a tutela da pessoa natural. In: Direito Civil e Tecnologia: Tomo II (edited by Marcos Ehrhardt Jr. et al.). Belo Horizonte: Fórum, 2021.
Monteiro Filho, Carlos Edison do Rêgo, and Gustavo Souza de Azevedo. A lesão continuada decorrente de publicação em mídia digital. In: Direito Civil e Tecnologia: Tomo II (edited by Marcos Ehrhardt Jr. et al.). Belo Horizonte: Fórum, 2021.
Mulholland, Caitlin. Responsabilidade civil e processos decisórios autônomos em sistemas de inteligência artificial (IA): autonomia, imputabilidade e responsabilidade. In: Inteligência artificial e Direito: Ética, Regulação e Responsabilidade (edited by Ana Frazão and Caitlin Mulholland). São Paulo: Thomson Reuters Brasil, 2019.
NIC.Br. Tic Kids Online Brasil 2019. Available at: https://cetic.br/media/analises/tic_kids_online_brasil_2019_coletiva_imprensa.pdf.
Norvig, Peter, and Stuart J. Russell. Artificial Intelligence: A Modern Approach. New Jersey: Prentice Hall, 1995.
Penagos, Melanie. UNICEF: What do national AI strategies say about children? Available at: https://www.unicef.org/globalinsight/ stories/what-do-national-ai-strategies-say-about-children.
Piazza, Marina Silveira de Freitas, and Loyana Christian de Lima Tomaz. Connected toys: aportes sobre proteção de dados de crianças em abandono digital. Revista Jurídica Luso-Brasileira, Ano 8, 2022.
Tegmark, Max. Life 3.0. Being human in the age of artificial intelligence. New York: Alfred A. Knopf, 2017.
The Toronto Declaration. Protecting the right to equality and non-discrimination in machine learning systems. Available at: https://www.torontodeclaration.org/declaration-text/english/.
The Wall Street Journal. Facebook knows Instagram is toxic for teen girls, company documents show. Available at: https://www.wsj.com/articles /facebook-knows-instagram-is-toxic-for-teen-girls-company-documents-show-11631620739.
UNICEF. Policy Guidance on AI for Children. Available at: https://www.unicef.org/globalinsight/reports/policy-guidance-ai-children.
UNICEF. Tools to operationalize the UNICEF policy guidance on AI for children. Available at: https://www.unicef.org/globalinsight/media/ 1166/file/UNICEF-Global-Insight-tools-to-operationalize-AI-policy-guidance-2020.pdf.
United Nations. Comitê dos Direitos da Criança. Comentário Geral n. 25. Available at: https://criancaeconsumo.org.br/wp-content/uploads/2022/01/comentario-geral-n-25-2021.pdf.
Winston, Patrick Henry. Artificial Intelligence. 3rd edition, Massachusetts: Addison-Wesley Publishing Company, 1993.
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
Copyright (c) 2023 Gabriela Buarque