Inteligência artificial: o que precisamos saber? – 28/11/2024 – Educação

No início era o verbo: em novembro de 2022, o lançamento do ChatGPT inaugurou o nosso encantamento com as IAs generativas, aplicações que geram texto a partir de comandos em linguagem natural. Em dois meses a plataforma já tinha alcançado a marca de 100 milhões de usuários —a adoção mais rápida da história.

Hoje, dois anos depois, as IAs generativas estão integradas em muitos dos aplicativos com os quais aprendemos ou trabalhamos, e seu avanço no mercado de tecnologias educacionais é considerável.

No entanto, esse avanço não está livre de riscos. Nesse estágio do seu desenvolvimento, os aplicativos que geram imagens são notórios por reproduzir vieses de todos os tipos, fabricando conteúdos racistas e misóginos, ou perpetuando estereótipos. Os textos gerados são tão bem escritos que somos induzidos a acreditar neles, mesmo sem poder conhecer as fontes. Além da maior circulação de conteúdos imprecisos, estamos vendo o aumento do uso malicioso dessas IAs, com a produção de deep fakes que manipulam opiniões e destroem reputações.

Nesse cenário, o letramento para o uso adequado e ético dessas tecnologias é fundamental. Mas o que exatamente devemos ensinar? Quais competências serão necessárias para garantir a autonomia dos cidadãos? Em resposta a essas perguntas, a Unesco lançou em outubro as “Matrizes de Competências de IA para Estudantes e para Professores”, documentos que não só norteiam a construção de currículos e formações, como o fazem a partir de uma premissa flexibilizadora: a de que há um nível básico de conhecimento e agência, essencial a todos, e que estudos mais aprofundados serão capazes de fundamentar uma prática criativa que mobilize usos dessas tecnologias de forma centrada em valores e interesses humanos.

Tais competências surgem do cruzamento de quatro pilares essenciais (abordagens centradas no ser humano, ética das IAs, aspectos técnicos das IAs e suas aplicações, e design de sistemas) com três níveis de proficiência (entender, aplicar e criar). No lado dos estudantes, essa matriz tem como diferencial a promoção da autonomia, transformando-os de receptores passivos de informações em cocriadores ativos de IAs. A proposta é que os jovens da “geração IA” sejam capazes não só de entender o funcionamento dessas tecnologias, mas também questioná-la, avaliando os impactos sociais e ambientais e, eventualmente, projetando soluções que priorizem o bem comum.

A matriz de competências da Unesco alinha-se especialmente com os objetivos da educação midiática nos pilares que tratam da abordagem centrada no entendimento crítico. É considerado um letramento necessário a qualquer cidadão entender que os sistemas de IA incorporam valores humanos; que devemos operá-los de maneiras que respeitem direitos humanos, dignidade e diversidade, garantindo que decisões críticas permaneçam sob nosso controle; e que nossas práticas sejam seguras, responsáveis e éticas.

Esta organização multidimensional da “Matriz de Competências” faz com que seja um documento norteador de grande utilidade —seja para currículos de computação, com mais foco no entendimento técnico e desenvolvimento de tecnologias, seja para iniciativas de educação midiática e cidadania digital, com o objetivo de fortalecer o uso crítico das IAs e a resiliência da sociedade frente aos seus riscos. Ao final, seja qual for o recorte adotado, todos teremos como finalidade comum a preservação do tecido social e a garantia do bem-estar para indivíduos, para a sociedade e para o planeta.