Ética da IA na educação: riscos de imagens e o futuro do trabalho

Em um minuto

1. Um estudo do NIC.br sobre IA na educação foi lançado, destacando o uso indiscriminado por alunos e professores, e a urgência na formação docente para discutir valores e ética.
2. Discussões levantaram os riscos éticos e de privacidade no uso de aplicativos de IA para modificar imagens de crianças, citando o Estatuto da Criança e do Adolescente e o problema de ceder dados.
3. A conversa abordou a preocupação sobre como profissionais juniores se desenvolverão com a IA, sugerindo que a tecnologia pode ocupar tarefas básicas e elevar o nível de entrada no mercado.

Lançamento e Discussão do Estudo NIC.br sobre IA na Educação

• Tipo de Conteúdo: Fatos compartilhados, Opiniões pessoais, Perguntas ou dúvidas
• Descrição Factual: O estudo "Inteligência Artificial na Educação: usos, oportunidades e riscos no cenário brasileiro", publicado pelo NIC.br, foi compartilhado. Um membro expressou perplexidade com a dificuldade de participantes de um evento em encontrar o link do estudo. Outro membro compartilhou a notícia da Agência Brasil sobre o estudo, destacando a urgência da formação de professores e trechos do prólogo que enfatizam valores, proteção de dados, autonomia tecnológica e escolhas éticas. A pesquisa revelou uso indiscriminado de IA por alunos (70%) e professores (58%) do ensino médio. O link do estudo foi posteriormente repostado com sua descrição e público-alvo.
• Recorrência: Recorrente (várias mensagens e compartilhamentos).

Baixa Participação em Eventos e Formações Gratuitas

• Tipo de Conteúdo: Opiniões pessoais, Fatos compartilhados
• Descrição Factual: Membros expressaram tristeza e preocupação com a baixa participação em eventos online e formações gratuitas sobre IA e educação, mencionando um evento com apenas 100 participantes. As causas apontadas incluíram a dificuldade de profissionais se liberarem do trabalho, a alta oferta de eventos, o cansaço dos educadores em meses como novembro e a cultura de inscrições por impulso para ofertas gratuitas, resultando em altas taxas de "quebra" (não comparecimento). Um relato mencionou que apenas 30% dos ingressos gratuitos para professores foram utilizados em um evento. A discussão foi direcionada também a gestores que vendem "soluções educacionais" mas não acompanham os estudos e eventos relevantes. Uma pessoa levantou a questão da gestão de tempo e a falsa crença de que atividades online e gratuitas não demandam tempo real ou mental.
• Recorrência: Recorrente (debate prolongado).

Ética no Uso de IA e Imagens de Crianças

• Tipo de Conteúdo: Fatos compartilhados, Opiniões pessoais, Perguntas ou dúvidas, Divergências ou visões conflitantes
• Descrição Factual: A discussão iniciou com o compartilhamento de um link de Instagram mostrando o uso de um aplicativo de IA para modificar imagens de crianças. Um membro questionou os riscos éticos e de privacidade, principalmente o uso das imagens em aplicativos de terceiros, os efeitos em crianças não brancas e o problema de ceder imagens para IAs. Outro membro argumentou que o problema não reside apenas na IA, mas no processamento digital de imagens em geral e na publicação em redes sociais, defendendo que alguns provedores de IA (via API) podem garantir a não utilização para treinamento. Houve divergência sobre a suficiência da autorização dos pais, com um membro citando o Estatuto da Criança e do Adolescente (ECA) sobre a preservação da imagem e a dúvida sobre sistemas que não cobram retenção de imagem. Um link da Agência Brasil sobre o uso indevido de fotos de crianças brasileiras por IA em 2024 foi compartilhado. Um membro defendeu que o debate não deve ser "raso", focando apenas em IA e ignorando os riscos de plataformas como a Meta. Houve esclarecimento de que a discussão não pretendia proibir IAs, mas levantar questões éticas sobre marcadores de identidade e o uso de tecnologia sobre corpos que não podem se defender.
• Recorrência: Debate prolongado e intenso.

Prêmio Jovem Cientista: IA e Saberes Tradicionais

• Tipo de Conteúdo: Fatos compartilhados, Opiniões pessoais, Perguntas ou dúvidas, Divergências ou visões conflitantes
• Descrição Factual: Foi compartilhada a notícia do vencedor do Prêmio Jovem Cientista, um projeto de Ensino Médio que desenvolveu um sistema de previsão de chuvas combinando conhecimento tradicional de "Profetas de Chuva" com IA. Membros elogiaram o projeto, considerando-o um exemplo brilhante de interseção entre visões tradicionais e algorítmicas. Houve uma observação sobre a terminologia, sugerindo "convencional" para os pluviômetros superados e "tradicional" para o saber dos profetas. A discussão avançou para a "tecnodiversidade" e a reflexão sobre se esse caso seria uma exceção, questionando os limites da capacidade dos modelos de IA em suportar diferentes cosmovisões além da estruturação de dados. Um membro argumentou que os modelos de IA, baseados em computabilidade de Turing e processamento probabilístico, representam o mundo de maneira fundamentalmente diferente dos saberes tradicionais. Outro membro buscou compreender se treinamentos semelhantes poderiam ser aplicados em outras situações. Foi ressaltado que a conclusão desse debate tem conexões com a educação, evidenciando que nem tudo pode ser codificado, e que um mundo totalmente mediado por IA pode ser limitado e empobrecido, levando à atrofia cognitiva e perda de diversidade de conhecimentos.
• Recorrência: Debate prolongado.

Impacto da IA no Mercado de Trabalho e Formação de Aprendizes

• Tipo de Conteúdo: Fatos compartilhados, Opiniões pessoais, Perguntas ou dúvidas, Divergências ou visões conflitantes
• Descrição Factual: Um artigo da The Economist foi compartilhado, levantando a questão de como profissionais juniores poderão se desenvolver em um cenário onde agentes de IA realizam tarefas básicas. Membros expressaram preocupação sobre a ausência de espaço para aprendizes e a dificuldade de se tornarem experts, sugerindo que IAs estão tomando o lugar de estagiários e juniores por questões de lucro. Foi debatido que o nível de entrada para profissionais está subindo, exigindo novas formas de desenvolver profissionalmente, ensinar e aprender, e que a IA, se usada apenas como "copiloto", pode transformar o usuário em um "apertador de parafuso". Houve questionamento sobre a capacidade do sistema educacional brasileiro de preparar alunos para esses novos patamares sem políticas públicas efetivas. Um membro trouxe cautela à discussão, mencionando estudos que indicam falha em projetos de IA e ganhos marginais, questionando o impacto real no Brasil. Em resposta, foi citado um estudo do MIT indicando que 11.7% do valor salarial nos EUA está em tarefas que a IA pode executar, com foco na necessidade de habilidades humanas como criatividade e julgamento ético. Um artigo preliminar da UPenn sugeriu que IA pode, na verdade, aprimorar habilidades de escrita. Um membro sugeriu a criação de um "índice de excess unemployment" para determinar o impacto real da IA.
• Recorrência: Debate prolongado e recorrente.

Saúde Mental de Professores e Alunos

• Tipo de Conteúdo: Fatos compartilhados, Opiniões pessoais, Divergências ou visões conflitantes
• Descrição Factual: Foi anunciado o lançamento de uma Comissão de Saúde Mental nas Escolas do RJ, com a listagem de membros e dados alarmantes sobre afastamento de professores por transtornos mentais (mais de 150 mil na rede pública em 2023) e transtornos mentais em adolescentes (1 em cada 6). A iniciativa contrapõe o avanço da tecnologia e IA com o aumento do adoecimento. A ausência de representantes do serviço público na comissão foi questionada por alguns membros, gerando debate sobre representatividade. Foi compartilhada uma notícia sobre 3,3 mil afastamentos de docentes por transtornos mentais em Campinas em 2025. Um membro argumentou que o docente médio brasileiro está precarizado e que a formação docente precisa ser acompanhada da melhoria das condições de trabalho, ressaltando o alto número de exonerações em concursos públicos e evasão em licenciaturas. Uma mensagem de um membro foi apagada por ter sido considerada estigmatizante e desumanizadora em relação a mulheres em situação de vulnerabilidade, gerando um pedido de desculpas do autor e um apelo por respeito nas conversas.
• Recorrência: Recorrente.

Novas Abordagens e Ferramentas de IA para Educação

• Tipo de Conteúdo: Fatos compartilhados, Perguntas ou dúvidas
• Descrição Factual: Membros compartilharam experiências e recursos relacionados à IA na educação. Um professor relatou ter usado o Google AI Studio Build para criar um aplicativo que resolveu problemas cotidianos de sua escola sem conhecimento prévio de programação. Foi sugerido mapear iniciativas semelhantes no grupo. Foi divulgado um episódio de uma série sobre o Khanmigo, a IA educacional da Khan Academy, detalhando suas funcionalidades para professores. Um framework para transparência de soluções que usam IA na educação foi compartilhado. Foi divulgado o Projeto IAgora Brasil (UnB), que oferece capacitação de professores, letramento digital e pesquisa científica em IA na educação, com um livro de entrevistas. Um livro sobre IA na iniciação científica foi compartilhado. Foi noticiado que IA se tornou disciplina obrigatória para alunos no Piauí. Membros compartilharam anotações sobre Infraestrutura Pública Digital na Índia e exemplos de soluções de IA na educação (ekstep.org), destacando a relação com soberania nacional. Ferramentas para criação de apresentações (Gamma.app, Kimi.com, NotebookLM) também foram mencionadas.
• Recorrência: Recorrente (compartilhamento de recursos e discussão sobre ferramentas).

Limitações e Riscos da IA

• Tipo de Conteúdo: Fatos compartilhados, Opiniões pessoais, Divergências ou visões conflitantes
• Descrição Factual: Discussões sobre a incapacidade de IAs como GPT/Gemini de "salvar o planeta" sem supervisão humana, e a diferença entre agentes de IA e IA agêntica. Foi compartilhado um caso de vazamento de dados do Signal. Uma entrevista com um especialista em segurança de IA previu a primeira Superinteligência artificial em 2027. Foi compartilhado um artigo sobre como a escrita à mão gera padrões de conectividade cerebral mais amplos do que digitar, e a relação com a perda de concentração e compreensão em leitores digitais. O uso do Sora da OpenAI para gerar vídeos de "school shootings" foi classificado como "mais do mesmo" sobre os riscos. Foi apontado que alucinações da IA ocorrem mesmo com o modo de busca ativado, e a presença de fontes duvidosas em pesquisas geradas por IA. O Google recomendou sandboxes para IA antes de deployments importantes, mas a falta de dinheiro de P&D no Brasil foi mencionada. Dados sobre taxas de alucinação de modelos de IA foram compartilhados. A Austrália aprovou uma lei que proíbe menores de 16 anos de criar contas em redes sociais, com a justificativa de proteger jovens dos riscos amplificados pela IA.
• Recorrência: Recorrente.