Recentemente, a organização sem fins lucrativos Digital Promise anunciou o lançamento do programa de certificação de “produtos de IA com design responsável”, destinado a ajudar os líderes escolares a escolher ferramentas de tecnologia educacional impulsionadas por inteligência artificial que atendam aos requisitos de aprendizagem e segurança dos alunos. Com o rápido desenvolvimento da IA na educação, as escolas enfrentam um número crescente de opções, e a escolha de ferramentas seguras e eficazes tornou-se um desafio importante.
Este programa de certificação avalia vários aspectos-chave das ferramentas de educação com inteligência artificial, incluindo segurança de dados, equidade e transparência. Para obter a certificação, os fornecedores de tecnologia educacional devem demonstrar que seus produtos atendem a uma série de requisitos, como: explicar claramente como os dados são coletados e usados; fornecer um plano de resposta a vazamentos de dados; adotar práticas de desenvolvimento inclusivas e monitorar vieses de algoritmos; indicar claramente os cenários de aplicação da IA; e permitir que os educadores intervenham na saída da IA.
Observação da fonte: A imagem foi gerada por IA, fornecida pela Midjourney.
Em um comunicado de imprensa, a Digital Promise afirmou que vários líderes escolares em diferentes regiões dos EUA planejam incorporar essa certificação em seus processos de aquisição. Lorne Rodriguez, gerente de IA empresarial da escola pública de Chicago, por exemplo, participou do projeto piloto da certificação e aprovou sua eficácia. Ele observou: “A certificação de IA com design responsável oferece aos líderes escolares uma maneira simples e transparente de verificar se essas ferramentas atendem a padrões elevados de privacidade e segurança de dados, garantindo que o uso da IA seja justo, imparcial e benéfico para todos os alunos.”
A Digital Promise incentiva todos os sistemas escolares a utilizar essa certificação e outras certificações de terceiros para reduzir a carga de avaliação dos fornecedores. Para ajudar os sistemas escolares a integrar as questões de certificação de produtos, a Digital Promise também fornece modelos relevantes. De acordo com o site da Digital Promise, atualmente há mais de 150 certificações de produtos de ferramentas de tecnologia educacional disponíveis, sendo seis certificações emitidas diretamente pela organização. Outras organizações educacionais sem fins lucrativos também oferecem suas próprias certificações, incluindo 1EdTech, Project Unicorn e o Centro de Tecnologia Assistiva (CAST). Essas certificações de produtos visam verificar se as ferramentas de tecnologia educacional atendem a padrões específicos em vários aspectos, como privacidade de dados, interoperabilidade, eficácia e design inclusivo.
Por meio dessa iniciativa, a Digital Promise espera fornecer opções de ferramentas de IA mais confiáveis para o setor educacional, ajudando as escolas a enfrentar os desafios da transformação digital de forma mais segura e eficiente.