Si bien los desarrollos en inteligencia artificial serán cada vez más importantes en las décadas que se avecinan, resulta necesario instaurar el debate acerca de los problemas éticos actuales y futuros que se suscitan. La inteligencia artificial en educación no se encuentra fuera de estas cuestiones. Al respecto, Luckin y otros (2016) plantean que las preguntas y dudas que se generan deben ser identificadas y abordadas. Por ejemplo, sabemos que el intercambio de datos es esencial para la integración de los sistemas de inteligencia artificial educativos, lo cual tiene el potencial de evitar inútiles esfuerzos duplicados.
Pero esto introduce una serie de problemáticas, tales como la privacidad individual y las preocupaciones sobre la propiedad intelectual. En efecto, el creciente volumen y la diversidad de datos masivos generados solo por los sistemas de inteligencia artificial en educación origina preocupaciones éticas acerca de qué datos se pueden compartir e intercambiar, cuáles son las implicancias de los métodos, tecnologías e ideologías que interjuegan en su producción, en el análisis, la interpretación y el uso de los sistemas de inteligencia artificial. Quién posee los datos, quién puede utilizarlos, para qué propósitos, y quién es en última instancia, el responsable de su manipulación. Otra consideración es que estos sistemas pretenden efectuar ciertos cambios duraderos en el comportamiento de los usuarios, por ejemplo, recomendaciones, persuasión, comentarios tendientes a favorecer relaciones personales entre humanos entre sí y entre humanos y máquinas. Estos cambios implican un modo de intervención que puede ser verdaderamente transformador y positivo, o puede no serlo.
Al respecto, Laaser pregunta en qué medida se puede sustituir la tutoría mediante robots sin perder el contacto emocional, a partir de avatares aburridos, planteando además que existe un conflicto entre la individualización mediante data minina y la protección de datos para mantener la privacidad de los estudiantes.
En relación con el acompañamiento en el aprendizaje desde sistemas de inteligencia artificial, si bien se intenta apoyar a los aprendices a lo largo de sus vidas, este seguimiento instaura la preocupación por el constante señalamiento de errores y dificultades, lo cual puede instaurar la profecía auto cumplida del fracaso en el aprendizaje. Del mismo modo, el concepto de un asistente de enseñanza plantea preocupaciones respecto a si la tecnología será utilizada como un espía en el aula para grabar y reportar cualquier actuación cuestionable del profesor. Es fundamental entonces, a partir de estas dudas e incertidumbres, asumir la responsabilidad de realizar más investigaciones acerca de la inteligencia artificial en educación, aportando un mayor volumen de literatura científica al respecto para asegurarnos de que estamos incorporando estas nuevas tecnologías de un modo apropiado, efectivo y ético.
Belén Stettler, oriunda de Río Gallegos, Santa Cruz, Argentina, cuenta con 35 años y es Licenciada en Ciencias de la Comunicación Social por la Universidad de Buenos Aires (UBA). A lo largo de sus 13 años de trayectoria en comunicación política, ha trabajado como consultora en Buenos Aires, especializándose en estrategia, investigación y comunicación directa. Ha dirigido equipos de comunicación en diversas campañas. Su experiencia incluye roles importantes en la Obra Social del Personal de Seguridad Pública de Buenos Aires, la Vicejefatura de Gobierno de Buenos Aires, Claves Creativas, Ford Argentina y AkzoNobel, iniciando su carrera en Grupo Suessa Organización Empresaria.
