Usando o Design sistêmico e centrado na humanidade para analisar as diretrizes do Brasil para a Inteligência Artificial

Using systemic and human-centered design to analyze Brazil's guidelines for Artificial Intelligence

Boechat, Cid Moreira; Mont'Alvão, Claudia

Artigo:

A rápida evolução e disseminação da Inteligência Artificial (IA) impacta diversos setores, levantando preocupações éticas e humanísticas. Órgãos nacionais e internacionais buscam parâmetros e boas práticas para uma adoção e desenvolvimento responsáveis de sistemas de IA. Isso ocorre, pois são tecnologias envoltas em diversas questões ainda problemáticas, como segurança, legislação, ética e efeitos inesperados sobre o cotidiano, dependendo da sua adoção. Abordagens de Design, como o Design Sistêmico e o Design Centrado na Humanidade, mostram-se promissoras para buscar um desenvolvimento e uso da IA com menos riscos para as pessoas e mais ético. Este artigo analisa o Projeto de Lei brasileiro que visa regulamentar a IA, através de uma análise documental, abordando seus parâmetros sob a perspectiva do Design Centrado na Humanidade e do Design para Tecnologias Educacionais Inteligentes e (Semi) Autônomas. Isso objetiva questionar a abrangência da lei frente à complexidade da IA e o papel do Design nessa discussão, identificando possíveis lacunas e novas questões a serem exploradas. Como resultado, o artigo reflete sobre o conteúdo do projeto de lei e sobre o que ele pode incrementar na pesquisa de Design sobre o tema.

The fast evolution and dissemination of Artificial Intelligence (AI) impact various sectors, raising ethical and human concerns. National and international bodies seek parameters and best practices for the responsible adoption of AI systems. This occurs because these technologies are surrounded by several problematic issues, such as security, legislation, ethics, and unexpected effects on people and their daily lives, depending on their adoption. Design approaches, such as Systemic Design and Humanity-Centered Design, show promise in pursuing a more ethical and humanistic development and use of AI. This paper analyzes the Brazilian Bill that aims to regulate AI, through a documentary analysis, addressing its parameters from the perspective of Humanity-Centered Design and Design for Intelligent and (Semi-)Autonomous Educational Technologies. This aims to question the scope of the law in the face of AI's complexity and the role of Design in this discussion, identifying potential gaps and new scenarios to be explored. As a result, the paper reflects on the content of the bill and what it brings that can enhance Design research on the topic.

Palavras-chave: inteligência artificial; design para IA; design centrado na humanidade; legislação para IA artificial intelligence; design approaches for AI; humanity-centered design; AI legislation

DOI: 10.5151/ergodesign2025-0058

Referências bibliográficas

• [1] AVELLA, John et al. Learning Analytics Methods, Benefits, and Challenges in Higher Education: A Systematic Literature Review. Online Learning, v. 20, n. 2, p. 13-29. Disponível em: https://files.eric.ed.gov/fulltext/EJ1105911.pdf, 2016. Acesso em: 12 jun. 2021.
• [2] BOECHAT, Cid. O Design no desenvolvimento e uso de Tecnologias Educacionais Inteligentes e (semi) Autônomas. 2024. 302 p. Tese (Doutorado) – PUC-Rio, Curso de Pós-Graduação em Design, Rio de Janeiro, 2024.
• [3] BRASIL. Minuta do Projeto de Lei no 2338, de 2023. Dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial com base na centralidade da pessoa humana. Senado Federal, Brasília. Disponível em: https://www.camara.leg.br/proposicoesWeb/fichadetramitacao?idProposicao=2487262#:~:text=PL%202338%2F2023%20Inteiro%20teor,Projeto%20de%20Lei&text=Disp%C3%B5e%20sobre%20o%20desenvolvimento%2C%20o,11%20de%20janeiro%20de%202023, 2024. Acesso em 23 mar. 2025.
• [4] CALISKAN, Aylin. Detecting and mitigating bias in natural language processing. Brookings (AIET). Disponível em: https://www.brookings.edu/research/detecting-and-mitigating-bias-in-natural-language-processing/, 2021. Acesso em 09 dez. 2021.
• [5] GIL, Antônio Carlos. Como elaborar projetos de pesquisa. São Paulo: Atlas, 2002.
• [6] INTERACTION DESIGN FOUNDATION. What is Humanity-Centered Design? In: Interaction Design Foundation – IxDF. Disponível em: https://www.interaction-design.org/literature/topics/humanity-centered-design, 2021. Acesso em 03 abr. 2024.
• [7] JESUS, Andreia de. Sistemas Tutores Inteligentes uma visão geral. Revista Eletrônica de Sistemas de Informação, v. 2, n. 2, p. 1-10. Disponível em: http://www.periodicosibepes.org.br/index.php/reinfo/article/view/140, 2003. Acesso em 23 fev. 2021.
• [8] MASLEJ, Nestor et al. The AI Index 2023 Annual Report. Stanford: Institute for Human-Centered AI, Stanford University. Disponível em: https://aiindex.stanford.edu/report/, 2023. Acesso em: 21 jan. 2024.
• [9] O ́NEIL, Cathy. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Nova Iorque, Crown Publishing, 2016.
• [10] ONU. Governing AI for Humanity - Final Report. Nova Iorque, Organização das Nações Unidas, 2024.
• [11] RUSSELL, Stuart. Inteligência artificial a nosso favor: Como manter o controle sobre a tecnologia. São Paulo: Companhia das Letras, 2021.
• [12] RUSSEL, Stuart; NORVIG, Peter. Artificial intelligence: A modern approach. Nova Jersey: Prentice Hall, 2003.
• [13] SCHMELZER, Ron. This AI Researcher Thinks We Have It All Wrong. In: Forbes.com, 2020. Disponível em: https://www.forbes.com/sites/cognitiveworld/2020/02/23/this-ai-researcher-thinks-we-have-it-all-wrong/#36a7b1b1571e, 2020. Acesso em 29 fev. 2022.
• [14] TERÄS, Marko et al. Post-Covid-19 Education and Education Technology ‘Solutionism’: a Seller’s Market. Postdigital Science and Education, n.2, p.863-878. Disponível em: https://link.springer.com/article/10.1007/s42438-020-00164-x, 2020. Acesso em 04 abr. 2022.

Como citar:

Boechat, Cid Moreira; Mont'Alvão, Claudia; "Usando o Design sistêmico e centrado na humanidade para analisar as diretrizes do Brasil para a Inteligência Artificial", p-768-781. In: Anais do 20º ERGODESIGN & USIHC - 2025. São Paulo: Blucher, 2026.
ISSN 23186968, DOI 10.5151/ergodesign2025-0058