PowerSchool, destacado proveedor de software en la nube para la educación K-12, ha lanzado PowerBuddy™, un asistente de inteligencia artificial que promete revolucionar el apoyo educativo para más de 60 millones de estudiantes en más de 90 países. Este asistente innovador se integra en múltiples plataformas educativas, facilitando la comunicación entre estudiantes y sus redes de apoyo de manera efectiva. Sin embargo, uno de los principales desafíos ha sido la implementación de un sistema de filtrado de contenido para proteger a los usuarios, especialmente a los menores de edad.
Para abordar este reto, PowerSchool ha desarrollado una solución personalizada de filtrado de contenido utilizando Amazon SageMaker AI. Este sistema no solo bloquea el acceso a contenidos nocivos como el acoso escolar o el discurso de odio, sino que también garantiza que las discusiones académicas importantes no se vean interrumpidas. De esta manera, se asegura que temas delicados en exámenes históricos no sean malinterpretados como contenido violento.
El sistema presenta un conjunto robusto de características desde la preparación de datos hasta la arquitectura de inferencia. Aprovechando técnicas de adaptación de bajo rango (LoRA), el modelo Llama 3.1 8B fue ajustado para operar con precisión en el entorno educativo. Las pruebas realizadas tras su implementación mostraron un 93% de precisión en la identificación de contenido dañino y un índice de falsos positivos inferior al 3.75%, lo que supone un avance notable respecto a otras soluciones genéricas.
Esta implementación ha resultado ser más efectiva que las alternativas existentes, lo que ha incrementado la confianza en el uso de herramientas de inteligencia artificial en las aulas. Además, la obtención de retroalimentación constante y las pruebas A/B han permitido realizar ajustes continuos para mejorar la eficacia del sistema de filtrado.
Con PowerBuddy integrándose en otros productos de PowerSchool, la compañía planea futuras adaptaciones del sistema, buscando siempre equilibrar la innovación educativa con la seguridad de los estudiantes. La meta final es crear un entorno de aprendizaje seguro y accesible que permita a los estudiantes estudiar sin riesgos de exposición a contenidos perjudiciales.
