NOTÍCIA
Nos EUA e Austrália, a comunidade escolar tem discutido ética e outros vieses da IA e assim cocriarem normas locais
Publicado em 24/07/2024
Por Guilherme Cintra da Fundação Lemann*: A inteligência artificial (IA) está promovendo uma revolução e na educação não é diferente. Tecnologias têm grande probabilidade de ganhar espaço e precisamos construir a realidade que desejamos de forma proativa. Embora seja uma ferramenta valiosa para aprimorar o ensino e o aprendizado, precisamos estar atentos.
Existem produtos que não trazem discussões pedagógicas relevantes, e assim, perderemos questões fundamentais na educação, ao invés de enriquecê-la. Como conciliar o potencial da IA no ambiente escolar, preservando e equilibrando as vocações humanas?
—–
Inteligência artificial e o jogo geopolítico
Proteção digital: ‘terra de ninguém’ precisa de limites
—–
Devemos considerar três pontos. O primeiro: potencialidades e riscos. É fácil cair na armadilha de se atentar às oportunidades e não trabalhar intencionalmente para que os perigos sejam reduzidos. Um exemplo são os sistemas de IA generativa, que impressionam ao dar o efeito de se conversar com uma pessoa. Apresentam uma potencialidade enorme, mas seu uso não prescinde de um ser humano.
Entre os aspectos positivos, temos a redução do custo de produção de conteúdo e que permite maiores possibilidades de personalização do ensino. Até a emergência de sistemas que utilizam IA generativa, não havia material suficiente para direcionar os estudantes por níveis de aprendizado que indicariam os caminhos.
Hoje, com a tecnologia, precisamos de uma série de técnicas na criação desse conteúdo, para estar atrelado ao currículo daquela escola e fazer sentido para a comunidade e necessidades individuais.
Ou seja, essa tecnologia tem seu valor, mas não basta por si só — necessita de uma pessoa para pensar em questões complexas, em busca de uma educação mais intencional e propositiva.
O segundo ponto é o cuidado para que a IA não seja usada como substituta para relações humanas. A busca dos benefícios da maior personalização do ensino não pode significar uma desvalorização das interações dos membros da comunidade escolar.
Aspectos sociais são o que nos diferenciam enquanto humanos. Para se desenvolverem cognitivamente, os alunos precisam dos reflexos da sociabilidade, da transmissão de conhecimento via interações reais, como com a escola, que ocupa um espaço relevante na construção dos cidadãos.
A tecnologia não irá conseguir transcender a biologia (ou ao menos, não como cenário desejável).
—–
—–
A terceira questão engloba as preocupações com ética, vieses e segurança de dados e do que o produto se propõe a fazer. Esse último ponto é particularmente difícil ao falar da IA generativa, já que, por design, não se sabe precisamente as respostas que sairão de uma demanda feita das ferramentas que a utilizam.
Ao considerar essa tecnologia na escola, é ainda mais importante a preocupação com a segurança. Um produto que tem ganhado força são os ‘companheiros de IA’, sistemas de IA projetados para se envolver em conversas e fornecer companhia aos usuários.
—–
Leia também
Ética e privacidade dos dados da inteligência artificial na educação
—–
Temos visto crianças e adolescentes dividindo experiências e fatos íntimos com ‘eles’. Há também elementos positivos, como permitir uma válvula de escape para questões difíceis de compartilhar, mas não em detrimento da relação com os humanos. É fundamental pensar na falta de protocolos para lidar com a maneira que essas ferramentas se comportam e se relacionam com as informações oferecidas pelos alunos.
Precisamos discutir políticas públicas para o uso de IA no Brasil, baseadas em evidências. Locais como Nova York, nos EUA, e Austrália têm apresentado modelos que reúnem alunos, gestores e professores para discutir pontos por onde essa tecnologia perpassa na comunidade escolar, como as dinâmicas de ética e os vieses, para juntos cocriarem as normas locais e gerar um ambiente de confiança e segurança.
Nada é inevitável, mas a probabilidade de que a IA influencie os rumos da educação é altíssima. Temos riscos, mas também possibilidades incríveis. Precisamos direcionar esforços intencionais para que os benefícios se destaquem e alcancem todos os estudantes.
Guilherme Cintra é diretor de tecnologia e inovação na Fundação Lemann, economista com MBA em gestão de negócios, top voice de tecnologia educacional no LinkedIn, atuou como professor, diretor escolar e coordenador de inovação e tecnologia na Secretaria Municipal de Educação do Rio de Janeiro
—–
Revista Educação: referência há 28 anos em reportagens jornalísticas e artigos exclusivos para profissionais da educação básica
—–