Recientemente, la organización sin fines de lucro Digital Promise anunció el lanzamiento de su programa de certificación de "productos de IA con diseño responsable", destinado a ayudar a los líderes escolares a seleccionar herramientas de tecnología educativa impulsadas por inteligencia artificial que cumplan con los requisitos de aprendizaje y seguridad de los estudiantes. Con el rápido desarrollo de la IA en el ámbito educativo, las escuelas se enfrentan a un número cada vez mayor de opciones, por lo que la selección de herramientas seguras y eficaces se ha convertido en un tema crucial.
Este programa de certificación evalúa varios aspectos clave de las herramientas educativas de inteligencia artificial, incluyendo la seguridad de los datos, la equidad y la transparencia. Para obtener la certificación, los proveedores de tecnología educativa deben demostrar que sus productos cumplen una serie de requisitos, como: explicar claramente cómo se recopilan y utilizan los datos; proporcionar un plan para responder a las filtraciones de datos; adoptar prácticas de desarrollo inclusivas y monitorear los sesgos algorítmicos; indicar claramente los casos de uso de la IA; y permitir que los educadores intervengan en los resultados de la IA.
Nota de la fuente: La imagen fue generada por IA, proveedor de servicios de licencia de imágenes Midjourney
Digital Promise indicó en un comunicado de prensa que varios líderes escolares de diferentes regiones de Estados Unidos planean incorporar esta certificación en sus procesos de adquisición. Por ejemplo, Lorne Rodriguez, gerente general de IA de las escuelas públicas de Chicago, participó en el proyecto piloto de la certificación y reconoció su eficacia. Señaló: "La certificación de IA con diseño responsable ofrece a los líderes de los distritos escolares una forma sencilla y transparente de verificar que estas herramientas cumplen con altos estándares de privacidad y seguridad de datos, garantizando que el uso de la IA sea justo, imparcial y beneficioso para todos los estudiantes."
Digital Promise anima a todos los sistemas escolares a utilizar esta certificación y otras certificaciones de terceros para reducir la carga de evaluación de los proveedores. Para ayudar a los sistemas escolares a integrar las cuestiones de certificación de productos, Digital Promise también proporciona plantillas relevantes. Según la información del sitio web de Digital Promise, actualmente hay más de 150 herramientas de tecnología educativa con certificación disponible, y la organización ha emitido directamente seis certificaciones. Otras organizaciones educativas sin fines de lucro también ofrecen sus propias certificaciones, incluyendo 1EdTech, Project Unicorn y el Centro de Tecnología de Aplicaciones Especiales (CAST). Estas certificaciones de productos buscan verificar si las herramientas de tecnología educativa cumplen con determinados estándares en varios aspectos, como la privacidad de los datos, la interoperabilidad, la eficacia y el diseño inclusivo.
Con esta iniciativa, Digital Promise espera ofrecer opciones de herramientas de IA más fiables para el sector educativo, ayudando a las escuelas a afrontar los retos de la transformación digital de una manera más segura y eficiente.