Cristián Villegas Director Instituto de Educación y Lenguaje Universidad de Las Américas
La inteligencia artificial se ha convertido en una herramienta importante para la educación, destacando, por ejemplo, sus posibilidades de automatización y personalización. Pero, también se deben considerar sus problemas, como la alta tasa de trabajo de los estudiantes con apoyo de IA, lo que pone en duda de si están efectivamente desarrollando sus habilidades y, sobre todo, que muchas veces esta información contiene sesgos o alucinaciones.
Dentro de los peligros que conllevan los sesgos algorítmicos, destaca el que se entrega información que puede perpetuar alguna discriminación. Como advierte el Centro Nacional de Inteligencia Artificial (Cenia) en Chile, estos son un dilema ético urgente, especialmente cuando los datos de entrenamiento reflejan prejuicios sociales, étnicos o culturales, lo que, sin un tratamiento educativo, puede instalar estereotipos de género, socioeconómicos o de otra índole.
La educación emerge como una herramienta clave para contrarrestar estos sesgos, pero para ello es necesario que la inteligencia artificial, tanto sus aspectos positivos como negativos, sean analizados por las comunidades educativas. Su importancia actual y futura, debe abordarse en relación con su implicancia en los sistemas educativos, analizando ejemplos de países como Singapur o China que ya han anunciado planes para integrar la IA dentro de sus modelos educativos, o de varias otras naciones que están incorporando esta herramienta en sus planes de desarrollo de habilidades tecnológicas orientadas a los estudiantes ya existentes.
Debemos tener claro que esta tecnología no es independiente de la sociedad, sobre todo teniendo presente declaraciones como las de la UNESCO que ha insistido en un enfoque de IA «centrado en el ser humano», donde la ética tecnológica sea parte integral de los programas pedagógicos, situación importante de considerar al ver la importancia del desarrollo del pensamiento crítico en los alumnos. La inteligencia artificial debe ser un apoyo al aprendizaje, no una tecnología que “haga las tareas por los estudiantes”, pero para ello es importante la formación tanto de los propios educandos, como de los equipos académicos y sus familias.
Los sesgos en educación están presentes cuando un sistema de IA perpetúa estereotipos culturales, si entrega gran parte de su información basada solamente en algunas visiones producto de que su entrenamiento pudo haber sido “inclinado” ideológicamente, cuando hace recomendaciones y sugerencias basadas en patrones o arquetipos sociales, o al momento que impone rutas de aprendizaje con menor exigencia a algunos estudiantes a partir de su desempeño, limitando su acceso a mayores desafíos. Por estos motivos se hace necesario que la educación esté presente en los entrenamientos y programación de esta tecnología para realizar auditoría de datos de alimentación como algoritmos, e implementar la ética en sus instrucciones.
La responsabilidad de la educación en tiempos de auge de la inteligencia artificial no debe basarse solo en su uso esporádico en el aprendizaje o en discutir si se prohíbe o regula, sino que se requiere aplicar un enfoque de integración eficiente y realista y, por sobre todo, el trabajo en conjunto de la comunidad educativa.
Los sesgos son un peligro, pero también una oportunidad para poder discutirlos y así analizar aquellos temas o realidades que muchas veces se dejan de lado, pero que día a día, pueden perjudicar la toma de decisiones justas e inclusivas.
Equipo Prensa
Portal Educa
