Coluna de Alexandre Sayad publicada na edição 317| Mais uma carta aberta alertando para os riscos de um possível descontrole humano diante da inteligência artificial (IA) veio à tona no último mês — desta vez, publicada pelo Instituto Future of Life. Não é a primeira vez que líderes globais, empresários do setor tecnológico e especialistas divulgam manifestos chamando atenção para os perigos do desenvolvimento acelerado dessa tecnologia, especialmente quanto ao seu potencial de domínio sobre a própria humanidade.

Vejo essas cartas com desconfiança. Em primeiro lugar, porque muitos dos líderes que as assinam são justamente responsáveis pelos problemas que denunciam — como Sam Altman, da OpenAI, e Elon Musk. Outros parecem aderir ao grupo sem conhecimento profundo do tema ou movidos por interesses de classe, como a defesa de uma reserva de mercado. Afinal, o que a cantora Kate Bush, também signatária, pode realmente dizer sobre isso? Se esses riscos são tão graves, por que os próprios empresários engajados nesses alertas não assumem responsabilidade concreta — reduzindo o ritmo de suas inovações, revisando seus modelos de negócio ou implementando protocolos éticos em suas próprias empresas?

-=-=-=-=-=-=-=-=-=-=-=-=

Leia também

‘Entrevista’ com Napoleão: o lado da IA que potencializa o aluno

Ensinar é participar do processo de neuroplasticidade do outro, afirma Adriana Fóz

-=-=-=-=-=-=-=-=-=-=-=-=

Esse tipo de argumento também parte do pressuposto de que caminhos na Ciência que valorizem o desenvolvimento da inteligência artificial centrada no ser humano não existam quando, na verdade, já são desenvolvidos e estudados em laboratórios de todo o mundo.

Aprofundando um debate público que é empobrecido, sobre o que realmente a inteligência artificial nos oferece como ameaças hoje, me recordo da participação do escritor norueguês Jostein Gaarder (conhecido pelo best-seller O mundo de Sofia) no programa Roda Viva, da TV Cultura, na década de 1990. Ele foi questionado se escreveria sobre misticismo ou vida fora do planeta. “Não necessito atravessar um rio para buscar água do outro lado”, respondeu.

Em outras palavras, os impactos da inteligência artificial são mais mundanos, simples e cotidianos do que uma revolta de ‘bots’ contra a humanidade ou outra imagem distópica. O elefante da tecnologia já adentrou a loja de porcelanas da humanidade e, caso não compreendamos essa situação, cada movimento é um desastre.

A saber: a inteligência artificial é desenvolvida com um modelo estatístico de probabilidade, ou seja, ela erra por sua própria natureza. Depois, algoritmos são desenvolvidos muitas vezes por seres humanos que transferem seus valores para o sistema, até de maneira involuntária, o que resulta em distorções e vieses. Além disso, os dados disponíveis para treinamento desses sistemas são hoje, em sua quase maioria, sintéticos, ou seja, criados por outros sistemas de IA. Como uma brincadeira de ‘telefone sem fio’, a cada passagem por sistemas, essa informação perde qualidade, integridade e valor.

-=-=-=-=-=-=-=-=-=-=-=-=

Leia mais colunas de Alexandre Sayad clicando aqui

-=-=-=-=-=-=-=-=-=-=-=-=

Estamos, muitas vezes, votando certezas em uma tecnologia que é cheia de vulnerabilidades — como todas as outras já desenvolvidas. Pesquisas e produção textual feitas por IA sem checagem de fontes, por exemplo, é um convite à imprecisão. Algoritmos sem acompanhamento multidisciplinar, protocolos éticos ou auditorias podem gerar resultados imprecisos, preconceituosos, falsos e até perigosos.

Os ecos de uma comunicação que inclui máquinas e humanos tendem a serem ouvidos primeiramente nas salas de aula da educação básica. A preparação de um currículo, a formação de professores e um espaço preparado para debates são elementos para um sistema de educação que abrace a complexidade dessa situação. Apenas 12 países em todo o mundo têm algum tipo de matriz de IA para redes de educação, segundo a Unesco.

O MEC (Ministério da Educação), em conjunto com outros, prepara um referencial — já disponível para consulta pública — que aborda três diferentes pontos de vista. Os marcos referenciais lançados recentemente pela Unesco (para educadores e estudantes) fizeram parte da visão de construção desse documento.

Referencial da Unesco

• Educar sobre a IA: Significa compreender criticamente a inteligência artificial como fenômeno tecnológico, social e ético. O objetivo é que alunos, professores e cidadãos entendam como a IA funciona, quem a desenvolve, quais dados utiliza e quais impactos gera sobre direitos humanos, privacidade, diversidade cultural e democracia. Inclui temas como algoritmos e vieses, coleta e uso de dados, implicações éticas e legais, e governança da IA. Trata-se de desenvolver alfabetização digital e midiática aplicada à IA, formando cidadãos capazes de questionar e supervisionar seu uso.

 

• Educar para a IA:   Consiste em preparar pessoas para viver, trabalhar e aprender em um mundo moldado pela inteligência artificial. Isso envolve o desenvolvimento de competências técnicas, cognitivas e socioemocionais necessárias para lidar com sistemas inteligentes — desde o pensamento computacional até a ética digital e a resolução de problemas complexos. Inclui a formação de professores, o estímulo à criatividade e à colaboração, e a promoção da inclusão e empregabilidade. Está alinhado aos Objetivos de Desenvolvimento Sustentável (ODS) e à Recomendação da Unesco sobre Ética da IA (2021).

 

• Educar com a IA:    Refere-se ao uso da inteligência artificial como ferramenta pedagógica e de gestão educacional, de maneira ética, transparente e centrada no ser humano. A IA pode apoiar professores na personalização da aprendizagem, na avaliação de estudantes e na formulação de políticas educacionais baseadas em dados, sempre respeitando princípios de equidade, privacidade e supervisão humana. A prioridade é garantir que a IA sirva à educação — e não o contrário.

 

Não por acaso, essa tríade é a mesma que, há quase um século, liderou os primeiros movimentos de educação midiática na Europa e nos Estados Unidos. Isso reforça que a inteligência artificial deve ser vista como uma mediação e uma linguagem —  entre os cidadãos e o mundo — e não uma mera ferramenta, que nos ajuda a acelerar e automatizar processos. A formação de professores deve liderar esse movimento que pretende não deixar as escolas décadas atrás do mundo fora de seus muros; essa é de fato a questão central que temos no Brasil e que diz respeito à equidade de aprendizagem.

——

Revista Educação: referência há 30 anos em reportagens jornalísticas e artigos exclusivos para profissionais da educação básica

——

Escute nosso podcast