Por George Paulus Dias – Arranjos de Inteligências Artificial e Humana: rumo a Qualidade e Equidade na Educação

A ascensão da Inteligência Artificial (IA) e sua crescente aplicação no campo educacional têm gerado grandes expectativas sobre seu potencial para apoiar e aprimorar processos de ensino-aprendizagem, inclusive na formação profissional em Engenharia. Entretanto, para que esse potencial possa de fato se concretizar de maneira plena e consistente, é fundamental que desenvolvamos uma reflexão aprofundada, responsável e humanista sobre como equilibrar adequadamente essas tecnologias emergentes com o elemento humano.

Ao pensarmos sobre a integração das modernas ferramentas de IA aos cursos de graduação em Engenharia, é essencial considerarmos as orientações presentes nas Diretrizes Curriculares Nacionais estabelecidas pelo Ministério da Educação para essa área. O documento detalha muito bem o perfil e as competências (hard skills e soft skills) que se espera que os egressos desenvolvam ao longo de sua jornada formativa, incluindo formação humanista, pensamento crítico e sistêmico, visão ética, capacidade de comunicação multimodal eficaz, aprendizado autônomo e ao longo da vida, trabalho em equipe, visão empreendedora, entre diversos outros aspectos tidos como imprescindíveis para a formação integral do futuro profissional.

Para que o potencial da IA se concretize plenamente, é preciso entender que a tecnologia por si só é insuficiente. O elemento humano continuará tendo um papel central nos processos de aprendizagem. Essa premissa fica evidente quando analisamos as possibilidades da IA no processo de aprendizagem sob a perspectiva da tipologia de objetivos de aprendizagem formulada por Benjamin Bloom na década de 1950. Essa classificação dos objetivos, que ficou conhecida como Taxonomia de Bloom, os organiza em três domínios: cognitivo, afetivo e psicomotor. O domínio cognitivo abrange o desenvolvimento intelectual, o afetivo trata das emoções e atitudes, e o psicomotor refere-se a habilidades físicas e motoras.

Na proposta da taxonomia, cada um desses domínios pode ser mapeado em níveis ou categorias, do mais simples ao mais complexo. Por exemplo, no domínio cognitivo, que foi totalmente revisado no começo dos anos 2000 por ANDERSON e KRATHWOHL (2001), temos: lembrar, entender, aplicar, analisar, avaliar e criar. Já no domínio afetivo, os níveis vão desde a mera recepção de fenômenos e estímulos até a caracterização plena de valores e atitudes.

No domínio cognitivo, mais desenvolvido e utilizado nas últimas décadas, os objetivos de aprendizagem são categorizados também pelo tipo de conhecimento que pode ser factual, conceitual, processual ou metacognitivo.

• Conhecimento Factual: São informações básicas e concretas que precisamos saber sobre um assunto. São fatos, dados, nomes, datas, eventos, etc. Imagine que você está trabalhando em um projeto e precisa saber as propriedades específicas de um material, como resistência ou condutividade. Essas informações específicas são o conhecimento factual.
• Conhecimento Conceitual: Envolve uma compreensão mais profunda e organizada de conceitos mais amplos. É o “porquê” e o “como” por trás dos fatos. Saber por que um material específico é usado em uma aplicação particular ou entender os princípios teóricos por trás de um processo de engenharia. Por exemplo, não apenas saber que o aço é usado em estruturas de edifícios, mas entender por que ele é escolhido em detrimento de outros materiais devido às suas propriedades e comportamento sob certas condições.
• Conhecimento Processual: Refere-se ao “como fazer”. É o conhecimento dos processos, técnicas e métodos. Como se aplica na Engenharia? Saber como projetar um circuito, como realizar um teste específico em um material ou como operar uma máquina em uma linha de produção. É o passo a passo, as habilidades práticas que um engenheiro usa regularmente.
• Conhecimento Metacognitivo: O que é? É o conhecimento sobre o próprio conhecimento. Envolve a autoconsciência sobre o que você sabe, como você pensa e como você aprende. Um engenheiro pode se deparar com um problema complexo e reconhecer que ele não tem todas as respostas imediatamente. O conhecimento metacognitivo permite que ele avalie o que sabe, identifique lacunas em seu entendimento e determine a melhor maneira de adquirir as informações ou habilidades que faltam. É uma habilidade essencial para a aprendizagem contínua e a resolução de problemas.

Esse mapeamento dos objetivos de aprendizagem deve servir de fio condutor para a avaliação de como diferentes configurações entre humanos e IA podem potencializar processos de aprendizagem de forma a aumentar a qualidade e principalmente dar acesso para aqueles que hoje estão excluídos do cenário da educação de qualidade.

Arranjos de operação que combinam humano-IA

A inteligência artificial (IA) tem se integrado cada vez mais em diversos setores, incluindo a educação. A forma como humanos e sistemas de IA interagem pode variar significativamente, dependendo do grau de autonomia da IA e do papel desempenhado pelo ser humano. Alguns exemplos são:

• HITL (Human-in-the-Loop) – Neste modelo, o humano permanece no circuito de decisão, tomando a decisão final com base em informações ou recomendações fornecidas pelo sistema de IA. Por exemplo, a IA analisa uma redação de aluno e faz sugestões de melhora, mas o professor decide a nota final após considerar o feedback da IA.
• HOTL (Human-on-the-Loop) – A IA opera de forma majoritariamente autônoma, mas um humano monitora o sistema e pode intervir se necessário. Um exemplo é um sistema de monitoramento que rastreia o engajamento dos alunos e alerta o professor se algum aluno parecer não estar acompanhando o aprendizado da turma.
• HOOTL (Human-out-of-the-Loop) – Neste modelo, os sistemas de IA funcionam totalmente por conta própria, sem intervenção humana imediata. Um caso de uso é um software de exercícios adaptativos que seleciona automaticamente as próximas atividades para cada aluno com base no seu progresso.
• HATL (Human-Assisting-the-Loop) – O humano tem um papel colaborativo, assistindo a IA conforme necessário para melhorar seu desempenho e reduzir erros. Um exemplo é o professor fornecendo feedback para um tutor virtual inteligente, ajudando-o a aprimorar suas habilidades de ensino personalizado.
• MII (Mixed-Initiative Interaction) – Humanos e IA se alternam na liderança da tarefa com base em suas habilidades únicas. Por exemplo, a IA gera uma sugestão de plano de aula e o professor refina esse rascunho inicial adicionando seu conhecimento pedagógico.

A tabela a seguir procura detalhar esses modelos, destacando a autonomia da IA, o papel do ser humano, as vantagens e desvantagens associadas, exemplos de aplicações no campo da educação e as considerações éticas pertinentes a cada modelo.

Implicações Éticas da Integração Humano-IA na Educação

A integração da Inteligência Artificial (IA) na educação não é apenas uma questão técnica ou pedagógica, mas também ética. Cada modelo de interação humano-IA traz consigo implicações éticas distintas que precisam ser cuidadosamente consideradas. No modelo HITL, por exemplo, embora o humano tenha a decisão final, a IA pode influenciar essa decisão com base em dados ou algoritmos que podem ter vieses. É essencial garantir que os sistemas de IA sejam transparentes e que os educadores sejam treinados para reconhecer e corrigir possíveis vieses.

No modelo HOOTL, a IA opera de forma autônoma, o que pode levar a decisões que não consideram nuances humanas ou contextos culturais. A falta de supervisão humana direta pode resultar em decisões educacionais que não atendem às necessidades individuais dos alunos ou que perpetuam desigualdades. O modelo HATL enfatiza a colaboração, mas é crucial que os educadores compreendam completamente como a IA está tomando decisões para que possam intervir e corrigir quando necessário. Finalmente, no modelo MII, a alternância de liderança entre humanos e IA pode levar a ambiguidades sobre responsabilidades. Em situações onde ocorrem erros ou injustiças, quem é responsável: o humano, a IA ou ambos?

Além dessas considerações específicas do modelo, há questões éticas gerais associadas à integração da IA na educação. Por exemplo, como garantir a privacidade e a segurança dos dados dos alunos? Como garantir que a IA não amplie as desigualdades educacionais, beneficiando apenas aqueles com acesso a tecnologias avançadas?

Ao avançarmos na integração da IA na educação, é imperativo que essas questões éticas sejam centralizadas nas discussões e decisões, garantindo uma educação que seja justa, inclusiva e respeitosa com todos os alunos.

Próximos passos

Ao refletirmos sobre a interação entre as Inteligências Artificial e Humana no contexto educacional, especialmente na formação de engenheiros, somos confrontados com uma série de desafios e oportunidades. A ascensão da Inteligência Artificial (IA) tem o potencial de revolucionar a educação, mas é imperativo que essa revolução seja pautada por princípios éticos, humanistas e voltados para a qualidade e equidade.

Os arranjos de operação que combinam humano-IA ilustram a diversidade de interações possíveis e as implicações associadas a cada modelo. Cada arranjo tem suas vantagens e desvantagens, e a escolha do modelo mais adequado depende dos objetivos educacionais específicos e das considerações éticas em jogo. Não parece que a IA pode substituir completamente o elemento humano na educação. O desafio intelectual que se coloca diante de nós é a construção de uma matriz que cruza as dimensões do processo cognitivo com os tipos de conhecimento. Tal matriz pode servir como uma ferramenta valiosa para orientar a integração da IA na educação, garantindo que a tecnologia seja usada para potencializar a aprendizagem, e para substituir a interação humana naquelas atividades mais repetitivas e que não dependam do elemento humano. Essa matriz precisará evoluir de acordo com o aperfeiçoamento e oferta de sistemas baseados em IA e com o próprio avanço da IA.

Nesse cenário, cabe à comunidade acadêmica e aos empreendedores a tarefa de definir até onde a IA pode assumir responsabilidades no ensino. É essencial garantir que os educadores continuem a desempenhar os papéis que são intrinsecamente humanos e que, muitas vezes, não estão sendo adequadamente atendidos. Além disso, a IA deve ser vista como uma ferramenta para melhorar o acesso à educação de qualidade para aqueles que atualmente estão marginalizados.

Em última análise, a busca é por uma educação que seja não apenas eficiente e inovadora, mas também inclusiva, equitativa e profundamente humanista. A coexistência harmoniosa entre as Inteligências Artificial e Humana apresenta-se como um caminho promissor para alcançar esse ideal.

Referências:

ANDERSON, L. W.; KRATHWOHL, D. R. A taxonomy for learning, teaching, and assessing: A revision of Bloom’s Taxonomy of Educational Objectives – Complete Edition. New York: Addison Wesley Longmann, 2001. 352 p.

MABUSE, H. D.; GRILLO, Willian. Design Interplay with Artificial Intelligence: An Introduction. CESAR Innovation Center, Recife, Brazil. Disponível em: https://materiais.cesar.org.br/ia-wpp-design-interplay  Acesso em: 25 setembro. 2023.

MINISTÉRIO DA EDUCAÇÃO, CONSELHO NACIONAL DE EDUCAÇÃO, CÂMARA DE EDUCAÇÃO SUPERIOR. RESOLUÇÃO Nº 2, DE 24 DE ABRIL DE 2019. Diretrizes Curriculares Nacionais do Curso de Graduação em Engenharia. Disponível em: https://normativasconselhos.mec.gov.br/normativa/view/CNE_RES_CNECESN22019.pdf Acesso em: 25 setembro. 2023.

_______________________________________________________________________

(*) George Paulus Dias é engenheiro de produção pela Escola Politécnica da USP, mestre e doutor em Logística e Educação com Jogos. É empreendedor na área de TI e educação e acumula 20 anos de docência em instituições de ensino superior e treinamentos corporativos. É conselheiro do Instituto de Engenharia onde também coordena o GT Amazônia e Bioeconomia.