Mário Figueiredo “O uso de IA no ensino pode libertar os professores para as tarefas mais nobres da sua profissão”
A 28 de fevereiro, no âmbito do ciclo de conferências Da Inteligência Humana à Inteligência Artificial (IA), a Academia das Ciências de Lisboa debate a questão “A IA pode mudar processos de ensinar e de avaliar alunos?”. A encabeçar a conversa estará Mário Figueiredo, professor catedrático no Instituto Superior Técnico, mais precisamente no Instituto de Telecomunicações. Oportunidade para anteciparmos algumas das abordagens a debate a partir das 18h00, online, num encontro de acesso livre.
No livro 88 Vozes Sobre Inteligência Artificial, onde assina um artigo, elenca o contexto que promoveu o desenvolvimento da IA no século XXI, nomeadamente a mudança de modelo de negócio na Internet e uma cultura de dados abertos. Quer detalhar esta questão?
De facto, o desenvolvimento da aprendizagem automática (AA) e da Inteligência Artificial (IA) está intimamente ligado a fatores económicos. No final do século XX, o modelo de negócio dominante na Internet era o acesso a conteúdos pagos. Com a generalização explosiva da Internet e dos smartphones, a superabundância desvalorizou o acesso, transferindo enorme importância e valor para a procura e a recomendação. O modelo de negócio associado à procura passou para a publicidade direcionada a cada utilizador e para as redes sociais. Aí, o negócio gira em torno da captura e conversão da atenção humana em valor comercial. Essa competição pela atenção e informação acerca dos utilizadores impulsionou o desenvolvimento de tecnologias de
IA/AA, com avultadíssimos investimentos em infraestruturas, recursos humanos e investigação. As empresas líderes nesse campo, como a Google, a Meta e a Amazon, disponibilizam ferramentas gratuitamente e recursos que antes eram restritos a especialistas. Esta cultura de abertura é-lhes benéfica pois ajuda a formar as grandes quantidades de especialistas, de que precisam, na utilização destes recursos, podendo ser visto como uma forma de soft power. Há também uma forte cultura de software e dados abertos: os investigadores disponibilizam os seus modelos e dados, o que tem contribuído para os rápidos avanços nestas áreas.
No mesmo artigo refere que a “IA/AA tem-se espalhado pelo mundo académico e de investigação como um incêndio florestal em eucaliptos secos”. Há alguma analogia entre esta imagem perturbadora e aquilo que se está a passar com a IA/AA nas áreas que refere?
Não, de todo. A expressão que cita foi uma tentativa de escrever uma versão portuguesa equivalente à expressão inglesa spreading like wildfire, cuja conotação não é negativa. De facto, os efeitos da IA/AA na sociedade em geral têm sido amplamente discutidos, desde o enorme impacto das redes sociais até às preocupações éticas sobre a automatização de decisões que afetam pessoas. O que não é tão conhecido do público leigo é que a IA/AA tem tido um enorme impacto também na ciência e na tecnologia, algo que já acontece há duas ou três décadas. Existem alguns casos recentes muito visíveis, como o Alphafold, da Google Deepmind, capaz de prever a estrutura tridimensional de proteínas, um avanço que pode ter impactos de longo alcance na medicina e na biologia. Hoje, toda a moderna astronomia é baseada em análise de quantidades astronómicas de dados, pelo que a IA tem um papel central na descoberta de exoplanetas, galáxias e buracos negros. A IA/AA pode ser vista como uma nova e poderosa caixa de ferramentas que complementa e amplifica as ferramentas tradicionais, nomeadamente os modelos matemáticos, a estatística
“Se os alunos se habituarem a recorrer a IA para obter respostas ou gerar conteúdos de modo acrítico, a sua capacidade de pensamento crítico e de formar opiniões independentes podem ser prejudicadas.”
e a computação, criando assim uma nova era para a descoberta científica e a inovação tecnológica e expandindo enormemente a gama de problemas que podem ser resolvidos de forma eficiente. À conferência leva o tema da IA nos processos educativos. Quer dar-nos alguns exemplos de como, já hoje, a IA está a cooperar para melhorar o ensino e a encontrar soluções inovadoras? A IA tem o potencial de personalizar a aprendizagem, fornecer tutoria inteligente e criar uma experiência educacional mais adaptada, eficaz e acessível. Por exemplo, através da análise de dados de desempenho, ou do estilo de aprendizagem e pontos fortes e fracos dos alunos, um sistema de tutoria pode criar planos de aulas individualizados e adaptativos para cada aluno. Na educação, a IA/AA pode ser usada para desenvolver plataformas de aprendizagem online, aplicações de tutoria e ferramentas de avaliação automática. Embora a IA na educação ainda esteja em desenvolvimento, o seu potencial para revolucionar a forma como aprendemos e ensinamos é enorme. Há motivos para pensar que o futuro da educação será mais personalizado e acessível. Pode dizer-se que uma das características da chamada quarta revolução industrial é a adaptação fina, de que são exemplos a agricultura de precisão e a medicina
personalizada. A IA/AA permite levar à educação a personalização e adaptação do ensino às características, interesses e objetivos de cada estudante. Naturalmente, estes avanços e a utilização de IA/AA não dispensam os professores. Fazendo o papel de advogado do diabo, onde poderão estar os riscos associados a esta interpenetração da IA com a educação? Como em qualquer tecnologia transformativa, há riscos decorrentes do uso de IA/AA na educação, como houve com o aparecimento das ferramentas de busca e do acesso a quantidades virtualmente ilimitadas de informação disponível na Internet. Se os alunos se habituarem a recorrer a IA para obter respostas ou gerar conteúdos de modo acrítico, a sua capacidade de pensamento crítico e de formar opiniões independentes podem ser prejudicadas. Os professores precisam de garantir que estas técnicas são usadas para auxiliar a aprendizagem, não para a substituir. Um outro risco é a exacerbação de desigualdades. Nem todas as escolas ou alunos terão acesso igual a ferramentas avançadas de IA. Isso pode aumentar o desnível de desempenho entre alunos de diferentes origens socioculturais, se não se garantir o acesso equitativo a essas tecnologias. Se os dados usados para treinar os sistemas de IA educacionais forem enviesados ou insuficientemente abrangentes, por exemplo, contendo apenas certos subgrupos da população, estes sistemas podem perpetuar esses vieses. Por exemplo, podem fazer recomendações ou avaliações desadequadas para alunos de outros grupos. Finalmente, como em qualquer sistema que adquire grandes quantidades de dados dos utilizadores, há riscos de fugas ou de má utilização desses dados, pelo que é imperativo usar medidas de segurança e privacidade de dados.
No que respeita aos desafios que acarreta, não há como desligá-los dos principais protagonistas do sistema educativo, os professores e os alunos. O que se pede a cada um destes grupos face ao admirável mundo novo da IA?
A utilização de IA/AA no ensino não dispensa os professores, mas permitem-lhes focar naquilo que é o seu papel fundamental: o estímulo da curiosidade e do desejo de aprender. Para além das circunstâncias e revoluções tecnológicas do momento, a essência do ensino e aprendizagem está no estímulo do interesse e curiosidade por um conjunto coerente de matérias e na capacidade de orientar e ajudar a satisfazer essa curiosidade. Esta função primordial da escola é imune às evoluções tecnológicas, mesmo os mais recentes avanços da IA. Focando-se no estímulo da curiosidade, os professores incutem o gosto pela aprendizagem ao longo da vida, característica crucial num mundo em constante mudança, pois é fundamental para o crescimento pessoal e profissional. Os professores que estimulam a curiosidade estão a preparar os seus alunos não apenas para exames, mas para a vida. O subtítulo do influente livro Deep Medicine sobre o uso de IA em medicina, do médico americano Eric Topol, é, numa tradução livre: Como a IA pode tornar a medicina humana de novo. No ensino, deve assumir-se a mesma perspetiva.
Como extrapola da medicina para o ensino?
O uso de ferramentas de IA no ensino pode libertar os professores para as tarefas mais nobres da sua profissão: motivação e aconselhamento académico; estabelecimento de relações empáticas com os estudantes, compreendendo as suas necessidades e dando apoio emocional; promoção de interação entre os estudantes e de um ambiente de diálogo e cooperação; ensinar os estudantes a questionar, argumentar e a considerar as implicações éticas do conhecimento. O que se pede aos professores, na minha opinião, é que tentem usar a IA para ganhar espaço e tempo para assumir estes papéis, que são e continuarão a ser fundamentais. Para tal, precisam também de ter literacia nestas técnicas. Mas mais importante é o que se pede a quem tutela o ensino: que compreenda que estas são as responsabilidades mais importantes dos professores e que são decisivas, com ou sem IA, para a formação de futuros cidadãos bem formados, esclarecidos, responsáveis, solidários, capazes de aprender e de se desenvolver ao longo da vida. A IA não deve ser usada para simplesmente aumentar a “eficiência” do ensino, mas sim para valorizar o papel dos professores. E no caso dos alunos?
Antes de mais, deve pedir-se adaptabilidade, abertura a mudanças e estar preparado para aprender continuamente. Deve também pedir-se uma postura ética e responsável. Mais do que pedir, a escola deve desenvolver nos alunos a capacidade de questionar, o espírito crítico, a compreensão dos princípios básicos da IA, incluindo os pontos fortes, as limitações e as implicações sociais. Os alunos devem ser incentivados a valorizar a criatividade e a inovação, usando IA/AA como apoio e não como substituto. Os alunos precisam compreender o impacto da IA e ter preocupações de privacidade. Finalmente, devem também ser agentes ativos nas discussões sobre o uso da IA/AA no ensino. Ainda no que respeita ao tema da sua conferência, este detém-se na questão da IA na forma como pode mudar processos de avaliação dos alunos. A que mudança nos referimos?
É interessante notar que as primeiras reações mais visíveis, por parte de professores, ao aparecimento das ferramentas recentes de IA generativa, nomeadamente, o ChatGPT, foi “e agora, como vamos avaliar?” Esta reação, na minha opinião, diz muito mais acerca do foco excessivo dos professores, e dos alunos, na avaliação, do que acerca do impacto da IA no ensino. A avaliação constitui invariavelmente o centro da atenção e das preocupações, quer de professores, quer de alunos. Estes focos excessivos na avaliação por parte de alunos e professores reforçam-se mutuamente, criando um círculo vicioso. Em grande medida, a escola atual esqueceu que, como se pode ler num documento do Conselho Pedagógico do IST, “um princípio fundamental a seguir é centrar o ensino no objetivo da aprendizagem e não na avaliação, encarando esta última como um meio e não um fim”. A entrada da IA no ensino exige repensar profundamente o papel e a natureza da avaliação. A ênfase da avaliação deve ser no processo, não apenas no resultado: dado que com IA se podem produzir trabalhos de qualidade sem esforço, é preciso valorizar e avaliar o processo de aprendizagem e pensamento do aluno. A avaliação deve focar aspetos humanos, promovendo trabalho em grupo, geração de ideias originais e soluções criativas. É preciso redesenhar avaliações difíceis de serem resolvidas por IA, valorizando experiência pessoal ou perspetivas locais.
Há quem veja na IA uma ameaça existencial para a humanidade. Pelo que percebo, não partilha desta visão futura, preferindo deter-se “nos problemas prementes que o uso da IA de forma irresponsável pode já estar a causar”. Quer elencar alguns destes problemas? A IA/AA pode perpetuar vieses existentes nos dados em que são treinados, podendo levar a discriminação contra grupos protegidos. A recolha e o uso de grandes quantidades de dados por sistemas de IA pode levantar problemas de privacidade. O desenvolvimento e a generalização de armas autónomas com base em IA levanta sérios problemas éticos e de segurança. O desenvolvimento e o uso de IA podem ter impactos ambientais negativos, como o consumo de energia das modernas infraestruturas computacionais que a suportam. Finalmente, e talvez neste momento a ameaça mais premente e preocupante, a IA pode ser usada para potenciar a geração e disseminação de desinformação e para manipular a opinião pública, colocando riscos sérios aos regimes democráticos.
“A utilização de IA/AA no ensino não dispensa os professores, mas permitem-lhes focar naquilo que é o seu papel fundamental: o estímulo da curiosidade e do desejo de aprender.”