O DESAFIO ÉTICO DA IA NA FORMAÇÃO HUMANA: DIRETRIZES PARA UMA EDUCAÇÃO RESPONSIVA E INCLUSIVA - Gonzaga, Kátia Valeria Pereira; Costa, Marcos Rogério Martins; Lopes, Izabela Gimenes; Ferraris, Fausto Klabund; Ferreira, Deise Mazzarella Goulart; Ferreira, Marcello (ARACÊ, 2025)
O uso de inteligência artificial (IA) na Educação de crianças, jovens e adultos tem suscitado questões éticas, especialmente com o advento de ferramentas avançadas como o ChatGPT, da Open AI, que têm a pretensão de se passar por textos supostamente humanos, quando, de fato, se constituem modelos de linguagem generativos que escamoteiam as noções de autoria e veridicção. O uso indiscriminado dessa tecnologia como assistente para a formação humana e acadêmica, bem como para a produção e revisão de textos acadêmicos, levanta preocupações sobre a originalidade e a integridade das informações produzidas. Nessa linha, busca-se refletir acerca dos impactos éticos do uso de ferramentas de IA em contextos educacionais e acadêmicos, com ênfase na necessidade de diretrizes para sua utilização responsável, transparente e equitativa. Trata-se de uma pesquisa de abordagem qualitativa, natureza aplicada, objetivos exploratórios e procedimentos bibliográficos com base em revisão narrativa de literatura, utilizando-se de artigos científicos, livros referenciais e documentos de organizações internacionais selecionados de acordo com o critério de adequação ao tema e seu tratamento. Estudos recentes demonstram preocupações com a questão ética do uso de ferramentas de IA, particularmente com privacidade e proteção dos dados, viés algorítmico, transparência e aplicabilidade e autonomia e controle humano. O tema foi abordado pelas categorias: 1) dilemas éticos e epistêmicos; 2) princípios de transparência, justiça e inclusão; e 3) marcos regulatórios e na propositura responsiva, indicando que há fragilidades na dimensão autorial diante do uso de IA, mas que uma resposta política, tecnologia e educacional deve pautar-se pela ampliação da formação, pela qualificação da tecnologia e por estratégias de responsividade tecnológica, justiça cognitiva e inclusão digital. Portanto, recomenda-se transparência, garantindo que os sistemas sejam mais explicativos e auditáveis, regulação e diretrizes, mitigação de vieses, proteção de dados e manutenção da supervisão humana sobre decisões críticas, em uma perspectiva responsiva e inclusiva.