Dezembro 2022 vol. 10 num. 5 - 14º Congresso Brasileiro de Pesquisa e Desenvolvimento em Design

Artigo - Open Access.

Idioma principal | Segundo idioma

O projeto de Design e a aplicação de Inteligência Artificial: considerações sobre aspectos éticos no processo de projeto

The Design project and the application of Artificial Intelligence: considerations on ethical aspects in the design process

PIZARRO, Carolina Vaitiekunas ; ANDRADE NETO, Mariano Lopes ;

Artigo:

Atualmente o campo do Design se encontra imerso em um cenário complexo com amplo uso de tecnologias digitais pela sociedade, contexto em que produtos, serviços e sistemas são desenvolvidos com o uso cada vez mais acentuado de tecnologias inteligentes baseadas em Inteligência Artificial. Assim, faz-se necessário ampliar as discussões no âmbito do Design do país, sobre projetos com e para estas tecnologias, devidamente pautados pelos aspectos éticos. O campo do Design brasileiro ainda não consolidou um código de ética próprio que paute as ações dos designers, inclusive em desenvolvimentos deste tipo, e neste estudo apresentam-se a estrutura do código de ética da ACM e o modelo de verificação resultante CARE, como possíveis referências para tal desenvolvimento. Com isto, pretende-se estimular as reflexões sobre o tema, para que designers possam encontrar caminhos de atuação seguros, avaliando riscos e benefícios na adoção de tecnologias que envolvem a IA no projeto.

Artigo:

Currently, the Design field is immersed in a complex scenario with wide use of digital technologies by society, where products, services and systems are developed with the increasingly accentuated use of intelligent technologies based on Artificial Intelligence. Thus, it is necessary to expand the discussions within the scope of Design in Brazil, on projects developed with and for these technologies, duly guided by ethical aspects. The field of Brazilian Design has not yet consolidated its own code of ethics that guides the actions of designers, including in projects of this type, and this study presents the structure of the ACM code of ethics and the resulting CARE verification model, as possible references for such development. With this, it is intended to stimulate reflections on the subject, so that designers can find safe ways to act, evaluating risks and benefits in the adoption of technologies that involve AI in the project.

Download (PDF)

Palavras-chave: Design; Inteligência Artificial; Ética.,

Palavras-chave: Design; Artificial Intelligence; Ethics.,

DOI: 10.5151/ped2022-5359384

Referências bibliográficas
  • [1] ACM. Association for Computing Machinery. About the ACM Organization. 2022. Disponível em < https://www.acm.org/about-acm/about-the-acm-organization>. Acesso em 16/01/2022.
  • [2] ACM. Association for Computing Machinery. ACM Code of Ethics and Professional Conduct. 2018. Disponível em . Acesso em 16/01/202
  • [3] BOECHAT, C. Inteligência Artificial, empatia e inclusão: um problema de design. Ergodesign & HCI, n especial, v. 7, ano 7 (2019). Disponível em . Acesso em 08/04/2021.
  • [4] CEREJO, J.; CARVALHAIS, M. Design After the Rise of AI-Driven Services: Learning from Literature Review. DIGICOM 3rd International Conference on Digital Design & Communication. 2019. Disponível em . Acesso em 02/05/2021.
  • [5] CORTIZ, D. O Design pode ajudar na construção de Inteligência Artificial humanística? Anais do 17° Ergodesign – Congresso Internacional de Ergonomia e Usabilidade de Interfaces Humano Tecnológica: Produto, Informações Ambientes Construídos e Transporte 17° USIHC – Congresso Internacional de Ergonomia e Usabilidade de Interfaces Humano Computador. 2019. Disponível em . Acesso em 08/04/2021.
  • [6] DESIGN COUNCIL. The Design Process. 2004. Disponível em . Acesso em 20/05/2021.
  • [7] DESIGN COUNCIL. The Design Process: What is the Double Diamond? 2021. Disponível em . Acesso em 21/05/2021.
  • [8] FIGUEIREDO, A. M. Ética: origens e distinção da moral. In: Saúde, Ética & Justiça. Vol.13. número 1. p.1-9. Disponível em . Acesso em 08/06/2021.
  • [9] IBM. AI design ethics overview. IBM, 201 Disponível em: . Acesso em 28/06/2022.
  • [10] KAUFMAN, D. Inteligência artificial: questões éticas a serem enfrentadas. IX Simpósio Nacional da ABCiber. 2016. Disponível em . Acesso em 01/05/2021.
  • [11] KAUFMAN, D. Desmistificando a Inteligência Artificial. Belo Horizonte: Autêntica, 2022.
  • [12] MICROSOFT. Guidelines for Human-AI Interaction: Apply best practices for human-AI interaction. Microsoft, 2022. Disponível em: . Acesso em 28/06/2022.
  • [13] MÜHLHÄUSER, M., Smart Products: An Introduction, in Constructing Ambient Intelligence, M. Editors. Springer Berlin Heidelberg. p. 158-164, 2008.
  • [14] NIELSEN, J. (1994). Enhancing the explanatory power of usability heuristics. Proc. ACM CHI'94 Conf. (Boston, MA, April 24-28), 152-158. Disponível em: https://dl.acm.org/doi/10.1145/191666.191729. Acesso em: 30 jul.2022.
  • [15] NORMAN, D. A. O Design do futuro. Rio de Janeiro: Rocco, 2010.
  • [16] PINE, B. J.; GILMORE, J. H. Welcome to the Experience Economy. Harvard Business Review. July–August 1998. Disponível em . Acesso em 10/01/2022.
  • [17] PITEIRA, M.; APARICIO, M.; COSTA, C.J. A Ética na Inteligência Artificial: Desafios. 2019. 14th Iberian Conference on Information Systems and Technologies (CISTI). Coimbra, Portugal. Disponível em . Acesso em 16/01/2022.
  • [18] SAMPIERI, R. H.; COLLADO, C. F.; LUCIO, M. P. B. Metodologia de Pesquisa. 3. Ed. São Paulo: McGraw-Hill, 2013.
  • [19] SANTAELLA, L. Inteligência artificial e cultura: oportunidades e desafios para o sul global. Centro UNESCO. CETIC.BR/NIC.BR. 2021. Disponível em: https://cetic.br/pt/publicacao/inteligencia-artificial-e-cultura-oportunidades-e-desafios-para-o-sul-global/. Acesso em: 02 jul. 2022.
  • [20] SANTOS, D.; CORRÊA, P.; REZENDE, E. Computação Pervasiva: Ética, privacidade e segurança na Era da Internet das Coisas. Anais do 13º Congresso Pesquisa e Desenvolvimento em Design, Blucher Design Proceedings, Volume 6, 2019, ISSN 2318-6968. Disponível em: . Acesso em 10/02/2022.
  • [21] SATTERFIELD, D.; ABEL, T. D. AI Is the New UX: Emerging Research Innovations in AI, User Experience, and Design as They Apply to Industry, Business, and Education, and Ethics. In: Spohrer J., Leitner C. (eds) Advances in the Human Side of Service Engineering. AHFE 2020. Advances in Intelligent Systems and Computing, vol 1208. Springer, Cham. Disponível em . Acesso em 16/01/2022.
  • [22] SILVA, B. J. P. A. Inteligência artificial e suas implicações ético-jurídicas. 2020. 107f. Dissertação (Mestrado em Direito e Gestão). Universidade Nova de Lisboa, Lisboa, 2020. Disponível em . Acesso em 11/05/2021.
  • [23] TANAKA, A. F. Design do consentimento: o papel do design da experiência do usuário na proteção da privacidade na era digital. 2019. 57 p. Monografia – Programa de Educação Continuada da Escola Politécnica da Universidade de São Paulo. São Paulo. Disponível em . Acesso em 13/05/2021.
  • [24] TAULLI, T. Introdução à Inteligência Artificial: uma abordagem não técnica. São Paulo: APRESS NOVATEC, 2020.
  • [25] UNESCO. Outcome document: first draft of the recommendation on the ethics of artificial intelligence. 2020. Disponível em . Acesso em 18/01/2022.
  • [26] WDO. World Design Organization. Design Definition. 2015. Disponível em . Acesso em 10/05/2021.
Como citar:

PIZARRO, Carolina Vaitiekunas; ANDRADE NETO, Mariano Lopes; "O projeto de Design e a aplicação de Inteligência Artificial: considerações sobre aspectos éticos no processo de projeto", p. 2518-2535 . In: Anais do 14º Congresso Brasileiro de Pesquisa e Desenvolvimento em Design. São Paulo: Blucher, 2022.
ISSN 2318-6968, DOI 10.5151/ped2022-5359384

últimos 30 dias | último ano | desde a publicação


downloads


visualizações


indexações