Keywords
childhood
artificial intelligence
discrimination
risks
How to Cite
Abstract
This article is an investigation into the risks involved in the activity of artificial intelligence aimed at children and adolescents. It appears that artificial intelligence has been active in several fields, not being different in the daily lives of children, especially after the advent of the COVID-19 pandemic. However, its risks are often not properly analyzed, which culminates in damage and discrimination in one of the most vulnerable sectors: children and adolescents. This article aims, through deductive method of literature review, to analyze the risks that are involved in the activity of artificial intelligence and their impacts on childhood, recommending, in the end, mapping and mitigation measures. In this context, it appears that a reliable AI must act through multisectoral measures, involving civil institutions, family, State, private sector and organizations in impact assessments. Furthermore, technology must support children's development and well-being, ensure inclusion, safety and non-discrimination, protect data and privacy and provide transparency and explainability. Likewise, AI systems must address the best interests of the child over commercial interests and must also consider the need for disconnection, which is essential for physical and mental well-being.
References
Barros, Juliana C. do R., Martine D. Medeiros, Ana Paula de A. Lopes, and Rodrigo S. González. O uso de aplicativos de inteligência artificial no apoio aos conselhos tutelares. Available at: https://www.lume.ufrgs.br/bitstream/handle/10183/82908/Resumo_20020854.pdf?sequence=1.
Brazil. Ministério da Ciência, Tecnologia e Inovações Secretaria de Empreendedorismo e Inovação. Estratégia Brasileira de Inteligência Artificial. Available at: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/arquivosinteligenciaartificial/ia_estrategia_documento_referencia_4-979_2021.pdf.
Buarque, Gabriela, and Tâmara Moura. Crianças na contemporaneidade: um diálogo sobre a concepção de infância e o uso intensivo das plataformas digitais. In: Transformações do Direito na contemporaneidade. (edited by Ariane Ferreira Ferro et al.). Andradina: Meraki, 2021.
Câmara, Marco Sérgio Andrade Leal. Inteligência artificial: representação de conhecimento. Dep. de Engenharia Informática da FCTUC. Available at: https://student.dei.uc.pt/~mcamara/artigos/inteligencia_artificial.pdf.
Canal Tech. Amazon é processada por gravar vozes de crianças com o dispositivo Echo Dot Kids. Available at: https://canaltech.com.br/casa-conectada/amazon-e-processada-por-gravar-vozes-de-criancas-com-o-dispositivo-echo-dot-kids-141865/.
Čerka, Paulius, Jugita Grigienė, and Gintarė Sirbikytė. Liability for damages caused by artificial intelligence. Computer Law and Security Review, v. 31: 376-389, 2015.
Cheliga, Vinicius, and Tarcisio Teixeira. Inteligência artificial: aspectos jurídicos. Salvador: Editora Juspodivm, 2019.
Conferência Judicial Ibero-Americana. Regras de Brasília sobre acesso à justiça das pessoas em condição de vulnerabilidade. Available at: https://www.anadep.org.br/wtksite/100-Regras-de-Brasilia-versao-reduzida.pdf.
Criança e Consumo. Inteligência artificial centrada nos direitos das crianças. Available at: https://criancaeconsumo.org.br/noticias/inteligencia-artificial-direitos-das-criancas/.
Fair Play For Kids. Child advocates mobilize to stop Mattel’s Eavesdropping “Hello Barbie”. Available at: https://fairplayforkids.org/child-advocates-mobilize-stop-mattels-eavesdropping-hello-barbie/.
Family Match. Available in: https://www.family-match.org/.
França Netto, Milton Pereira de, and Marcos Ehrhardt Júnior. A inteligência artificial e os riscos da discriminação algorítmica. In: Direito Civil e Tecnologia: Tomo II (edited by Marcos Ehrhardt Jr. et al.). Belo Horizonte: Fórum, 2021.
Gama, Guilherme Calmon Nogueira da. Direito e processos digitais, algoritmos e adoções: análise preditiva e proteção às crianças e adolescentes. GENJurídico.com.br. Available at: http://genjuridico.com.br/2021/01/05/inteligencia-artificial-adocao/.
Gazeta Online. Agência alemã alerta que boneca pode ser usada para espionar crianças. Available at: https://www.gazetaonline.com.br/noticias/mundo/2017/02/agencia-alema-alerta-que-boneca-pode-ser-usada-para-espionar-criancas-1014026030.html.
Gutierrez, Andriei. É possível confiar em um sistema de inteligência artificial? Práticas em torno da melhoria da sua confiança, segurança e evidências e accountability. In: Inteligência artificial e Direito: Ética, Regulação e Responsabilidade (edited by Ana Frazão and Caitlin Mulholland). São Paulo: Thomson Reuters Brasil, 2019.
GZH. Como Siri, assistente virtual da Apple, se tornou a melhor amiga de uma criança autista. Available at: https://gauchazh.clicrbs.com.br/saude/vida/noticia/2014/10/Como-Siri-assistente-virtual-da-Apple-se-tornou-a-melhor-amiga-de-uma-crianca-autista-4630628.html.
Hallevy, Gabriel. The criminal liability of artificial intelligence entities- from Science fiction to legal social control. Akron Intellectual Property Journal, Ohio, vol. 4, p. 171-199, 2016.
Henriques, Isabella Vieira Machado, and Inês Vitorino Sampaio. Discriminação algorítmica e inclusão em sistemas de inteligência artificial - uma reflexão sob a ótica dos direitos das crianças no ambiente digital. Revista de Direito Público. Dossiê – Inteligência artificial, ética e epistemologia. Brasília, Volume 18, n. 100, 245-271, oct./dec. 2021.
Jaborandy, Clara Cardoso Machado, and Tatiane Gonçalves Miranda Goldhar. Inclusão digital das pessoas com deficiência e a proteção de dados pessoais. In: Direito Civil e Tecnologia: Tomo II (edited by Marcos Ehrhardt Jr. et al.). Belo Horizonte: Fórum, 2021.
Kaplan, Jerry. Artificial Intelligence: What everyone needs to know. Oxford: Oxford University Press, 2016.
Mendes, Laura Schertel, and Marcela Mattiuzzo. Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. Revista de Direito da Univille. Porto Alegre, Volume 16, n. 90, 2019, 39-64, nov./dec. 2019.
Mercadal, Juan José Martínez. Discriminación algorítmica: anotaciones sobre la protección “pro homine” y la prevención del daño desde la propuesto europea de regulación de la inteligencia artificial 2021. In: Direito Civil e Tecnologia: Tomo II (edited by Marcos Ehrhardt Jr. et al.). Belo Horizonte: Fórum, 2021.
Modesto, Jéssica Andrade, and Marcos Ehrhardt Júnior. Definição de perfis e o risco de discriminação: a importância das legislações de proteção de dados para a tutela da pessoa natural. In: Direito Civil e Tecnologia: Tomo II (edited by Marcos Ehrhardt Jr. et al.). Belo Horizonte: Fórum, 2021.
Monteiro Filho, Carlos Edison do Rêgo, and Gustavo Souza de Azevedo. A lesão continuada decorrente de publicação em mídia digital. In: Direito Civil e Tecnologia: Tomo II (edited by Marcos Ehrhardt Jr. et al.). Belo Horizonte: Fórum, 2021.
Mulholland, Caitlin. Responsabilidade civil e processos decisórios autônomos em sistemas de inteligência artificial (IA): autonomia, imputabilidade e responsabilidade. In: Inteligência artificial e Direito: Ética, Regulação e Responsabilidade (edited by Ana Frazão and Caitlin Mulholland). São Paulo: Thomson Reuters Brasil, 2019.
NIC.Br. Tic Kids Online Brasil 2019. Available at: https://cetic.br/media/analises/tic_kids_online_brasil_2019_coletiva_imprensa.pdf.
Norvig, Peter, and Stuart J. Russell. Artificial Intelligence: A Modern Approach. New Jersey: Prentice Hall, 1995.
Penagos, Melanie. UNICEF: What do national AI strategies say about children? Available at: https://www.unicef.org/globalinsight/ stories/what-do-national-ai-strategies-say-about-children.
Piazza, Marina Silveira de Freitas, and Loyana Christian de Lima Tomaz. Connected toys: aportes sobre proteção de dados de crianças em abandono digital. Revista Jurídica Luso-Brasileira, Ano 8, 2022.
Tegmark, Max. Life 3.0. Being human in the age of artificial intelligence. New York: Alfred A. Knopf, 2017.
The Toronto Declaration. Protecting the right to equality and non-discrimination in machine learning systems. Available at: https://www.torontodeclaration.org/declaration-text/english/.
The Wall Street Journal. Facebook knows Instagram is toxic for teen girls, company documents show. Available at: https://www.wsj.com/articles /facebook-knows-instagram-is-toxic-for-teen-girls-company-documents-show-11631620739.
UNICEF. Policy Guidance on AI for Children. Available at: https://www.unicef.org/globalinsight/reports/policy-guidance-ai-children.
UNICEF. Tools to operationalize the UNICEF policy guidance on AI for children. Available at: https://www.unicef.org/globalinsight/media/ 1166/file/UNICEF-Global-Insight-tools-to-operationalize-AI-policy-guidance-2020.pdf.
United Nations. Comitê dos Direitos da Criança. Comentário Geral n. 25. Available at: https://criancaeconsumo.org.br/wp-content/uploads/2022/01/comentario-geral-n-25-2021.pdf.
Winston, Patrick Henry. Artificial Intelligence. 3rd edition, Massachusetts: Addison-Wesley Publishing Company, 1993.
This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.
Copyright (c) 2023 Gabriela Buarque