Guia da Unesco para Regulamentação da IA
Montando uma política de uso de IA para nossas escolas
Durante o mês de agosto, participei (e continuo participando) de um grupo de trabalho da minha escola para pensar e desenvolver nossa política de uso de Inteligência Artificial em sala. Começamos nossos trabalhos com o Guida da Unesco para Regulamentação da IA, que orienta o uso de ferramentas de IA generativa na educação, destacando a necessidade de regulamentações claras e a formação de professores. Mas antes de falar sobre isso, o que motivou nosso trabalho? Isso aqui 👇
Além disso, outras preocupações pertinentes à integridade da nossa instituição.
Vamos la! 🚀
Privacidade e Segurança de Dados
Sabemos que o uso de IA, de forma geral, envolve a coleta e análise de grandes quantidades de dados pessoais de todo mundo. Até mesmo dos nossos alunos menores de idade. Precisamos proteger a privacidade desses dados e garantir sua segurança, o que é um desafio complexo. Quanto vazamentos ou uso inadequado podem resultar em consequências graves, incluindo processos judiciais? Então é imprescindível desenvolver e monitorar esses sistemas de IA para minimizar esses riscos.
Vieses Algorítmicos
Eu (acho) que nunca enfrentei esse problema pessoalmente, mas sabemos que os algoritmos de IA podem refletir e amplificar vieses existentes nos dados com os quais foram treinados. Isso pode levar a discriminação ou preconceito contra certos grupos de estudantes. Além da geração de imagens “deep fake” de alunos e outros em situações desfavoráveis. Não queremos isso. Precisamos garantir a sensibilidade aos vieses algorítmicos e desenvolver sistemas de IA que minimizem possíveis disparidades.
Transparência dos Algoritmos
Muita gente está acessando a IA generativa pela primeira vez e ficam deslumbrados, achando até que parece mágica. Mas não é. Na verdade, a IA não passa de uma excelente máquina de calcular probabilidades.
Acho que tanto educadores quanto os alunos precisam entender como as decisões são tomadas pelos sistemas de IA, para garantir que os processos sejam justos e imparciais. A falta de transparência e compreensão do funcionamento dos sistemas podem levar a uma desconfiança generalizada e a uma resistência ao uso dessas tecnologias. Tornar transparente o funcionamento dos sistemas de IA é fundamental para construir confiança de forma ética e crítica aos resultados propostos pelos sistemas.
Dependência Excessiva da Tecnologia
Tenho relatado recentemente como meus alunos têm cada vez mais apresentados trabalhos escritos pela IA. Por isso, temos que ter cuidado com a integração da IA na educação, pois pode levar a uma dependência excessiva da tecnologia, onde professores e alunos se tornem dependentes das ferramentas digitais, em detrimento de habilidades sociais e interativas tradicionais. Precisamos encontrar um equilíbrio entre o uso da IA e as práticas pedagógicas convencionais.
Acesso Equitativo
Não é nosso caso, mas imagino que muitas escolas tenham dificuldades em garantir que todas as unidades educacionais e estudantes tenham acesso às tecnologias de IA. Esse acesso equitativo é crucial para evitar a criação de disparidades no acesso à educação de qualidade. Por isso, falo sempre na necessidade de investimento em infraestrutura e formação docente, pois acho isso essencial para promover a equidade no uso da IA na educação.
Como podemos perceber, são muitos aspectos diferentes e detalhes para serem considerados. Para lidar com esses desafios éticos, é fundamental estabelecer diretrizes e regulamentações claras, investir na formação de professores, promover a educação digital inclusiva e realizar avaliações contínuas dos impactos da IA. Somente com uma abordagem imparcial, ética e responsável será possível aproveitar os benefícios da IA na educação, garantindo um ambiente de aprendizagem justo, inclusivo e respeitoso.
Por onde começamos? Precisamos de uma base sólida. Por isso escolhemos começar com o guia da Unesco.
Como a Unesco sugere que as escolas regulamentem o uso de IA
A Unesco sugere uma série de diretrizes para regulamentar o uso de inteligência artificial nas escolas, com o objetivo de garantir um uso ético e responsável dessa tecnologia. Aqui estão os principais pontos destacados no guia lançado pela organização:
Sete Passos para Regulamentação da IA
Definição de Diretrizes Claras: A Unesco recomenda que os governos estabeleçam normas globais, nacionais e regionais sobre o uso da IA nas escolas, focando na proteção de dados e privacidade.
Limite de Idade: Sugere que a idade mínima para o uso de ferramentas de IA em ambientes escolares seja fixada em 13 anos, visando proteger os alunos mais jovens de potenciais riscos associados à tecnologia. Mas vale lembrar que o próprio ChatGPT seu auto-limita para maiores de 18 anos.
Formação de Educadores: É fundamental que os professores recebam formação adequada sobre o uso de IA, para que possam integrar essas ferramentas de maneira eficaz e ética em suas práticas pedagógicas.