COLUNISTAS

Colunista

Débora Garofalo

Primeira sul-americana finalista do Global Teacher Prize, prêmio que a colocou entre os 10 melhores professores do mundo

Publicado em 12/07/2024

Ética e privacidade dos dados da inteligência artificial na educação

IA precisa ser regulamentada, contudo, por mais que as pessoas estejam a usando, os países ainda não avançaram na efetivação de diretrizes e normas

É inegável que a inteligência artificial (IA) tem se mostrado uma ferramenta poderosa na transformação da educação, possibilitando a personalização do ensino, aprimorando a avaliação dos estudantes e contribuindo para uma aprendizagem mais eficaz e engajadora. No entanto, sua utilização também traz desafios de acesso, ético e de questões relacionadas à privacidade dos dados dos alunos, em que devemos ter o olhar atento para combater as desigualdades sociais. 

Dados da Unesco, do recém-lançado guia da IA generativa na educação, apontam que, enquanto o ChatGPT alcançou 100 milhões de usuários ativos em janeiro de 2023, apenas um país apresentou em julho de 2023 a regulamentação. A ética e a privacidade dos dados na utilização da inteligência artificial na educação são aspectos fundamentais a serem considerados. 

—–

Leia também

Inteligência artificial e o jogo geopolítico

Proteção digital: ‘terra de ninguém’ precisa de limites

—–

É essencial garantir que os dados dos estudantes sejam protegidos e utilizados de forma responsável, respeitando sua privacidade e segurança. A transparência no uso dos algoritmos e a garantia de que não haja discriminação ou viés nos resultados gerados são questões importantes e que necessitam ser discutidas em sua regulamentação.

Além disso, a formação de professores para integrar e usar a IA no currículo escolar é um desafio crucial. Os educadores precisam estar preparados para utilizar essas ferramentas de forma eficaz e ética, garantindo que sua aplicação contribua para a melhoria da qualidade do ensino e da aprendizagem. A regulamentação e a definição de diretrizes claras sobre o seu uso também são essenciais. É necessário estabelecer padrões éticos e normas de proteção de dados que orientem as práticas das instituições de ensino e dos desenvolvedores de tecnologia.

Para exemplificar a importância da discussão, podemos citar o caso do uso de sistemas de aprendizagem adaptativa que coletam dados dos estudantes para personalizar o ensino. Nesse contexto, é fundamental garantir que os dados sejam utilizados de forma segura e com controle sobre suas informações.

Uma questão de política pública

A adoção da ética e privacidade dos dados de IA na educação precisa ser tratada como uma política pública, em que se faz necessário que haja uma abordagem abrangente e coordenada e que envolva diferentes atores e instâncias. Algumas medidas que podem ser adotadas nesse sentido incluem:

Desenvolvimento de diretrizes e regulamentações claras: é importante que os órgãos governamentais estabeleçam diretrizes e normas que orientem o uso ético da inteligência artificial na educação, garantindo a proteção dos dados dos alunos e a transparência nas práticas adotadas.

inteligência artificial na educação

Para lidar com os desafios potenciais da IA na educação, é necessário, em primeiro lugar, regulamentá-la (Foto: Shutterstock)

Investimento em formação docente: é fundamental que as políticas públicas incluam programas de formação continuada para os professores, capacitando-os para integrar de maneira ética e responsável a inteligência artificial no currículo escolar.

Incentivo à pesquisa e inovação: as políticas públicas devem fomentar a pesquisa e o desenvolvimento de tecnologias educacionais baseadas em inteligência artificial, priorizando a ética e a privacidade dos dados como princípios norteadores.

Promoção de parcerias público-privadas: é importante estabelecer parcerias entre o setor público, o setor privado e a sociedade civil para garantir a implementação de práticas éticas e seguras no uso da inteligência artificial na educação.

Integração com a educação e currículo

Para integrar essas questões no ensino, é importante que sejam desenvolvidas estratégias pedagógicas com intencionalidade que promovam a reflexão ética e o debate sobre privacidade de dados. Os professores podem utilizar estudos de caso, simulações e atividades práticas para engajar os estudantes nesse tema, estimulando a consciência crítica e a responsabilidade no uso da tecnologia e evitando que aumente as desigualdades sociais, em que destaco:

Acesso equitativo: garantir que todas as unidades educacionais e estudantes tenham acesso às tecnologias de inteligência artificial, de forma a evitar a criação de disparidades no acesso à educação de qualidade.

Sensibilidade aos vieses algorítmicos: assegurar que os algoritmos de IA utilizados na educação sejam desenvolvidos de forma a minimizar possíveis vieses que possam resultar em discriminação ou desigualdade de oportunidades.

Transparência: tornar transparente o funcionamento dos sistemas de inteligência artificial utilizados na educação, de modo a permitir que estudantes, professores e famílias compreendam como os algoritmos funcionam e questionem decisões que possam impactar desigualmente determinados grupos.

—–

Leia também

Aplicações do ChatGPT e desafios no ensino superior

ChatGPT: educador dá dicas para aguçar senso crítico dos estudantes

—–

Educação digital inclusiva: promover a educação digital inclusiva, garantindo que todos os alunos tenham a oportunidade de desenvolver habilidades tecnológicas necessárias para utilizar a inteligência artificial de forma crítica e criativa.

Avaliação contínua: realizar avaliações constantes dos impactos da IA na redução ou aumento das desigualdades sociais, de modo a identificar possíveis problemas e implementar ajustes necessários.

Envolvimento da comunidade: incluir a comunidade escolar, os familiares e os estudantes no processo de implementação da inteligência artificial na educação, de modo a garantir que as decisões tomadas estejam alinhadas com as necessidades e expectativas de todos os envolvidos.

Os professores devem ser preparados para compreender os desafios e oportunidades trazidos pela IA, bem como para desenvolver habilidades para utilizar essas tecnologias de forma eficaz em sala de aula em uma educação centrada no ser humano. 

Para lidar com os desafios potenciais da IA na educação, é necessário, em primeiro lugar, regulamentá-la para que seu uso possa ampliar e/ou aprimorar as habilidades intelectuais e sociais humanas. 

—–

Revista Educação: referência há 28 anos em reportagens jornalísticas e artigos exclusivos para profissionais da educação básica

—–

Escute nosso podcast:


Leia mais

Lideranças educacionais - imagem Shutterstock

Lideranças educacionais como bússola para boas práticas

+ Mais Informações
algoritmo freepik

Algoritmo, o personagem do ano

+ Mais Informações
Captura de tela 2024-11-22 164725

Em MG, universidade e escola pública atuam em rede pela aprendizagem

+ Mais Informações
Captura de tela 2024-11-19 161252

Papa Francisco e o pássaro Dodô

+ Mais Informações

Mapa do Site