La inteligencia artificial está presente en todos los ámbitos: en los hogares, en los espacios de trabajo y también en las aulas. Esta nueva tecnología aparece está naturalizada, como si ya no hubiera vuelta atrás en cuanto a su uso.
Mientras esto sucede, hay académicos que se detienen a pensar cómo inpacta el fenómeno en la Argentina y en el resto del mundo, específicamente en torno a chatsbots y los sistemas de inteligencia artificial especializados en comprender, procesar y generar texto.
“El lugar de la IA en el aula es bajo la lupa”, es el artículo escrito por Andrea Goldin y Fernando Schapachnik en el que advierten los peligros de la IA en los ámbitos educativos y recomiendan discontinuar su utilización.
Schapachnik, exDirector Ejecutivo de la Fundación Sadosky, es profesor asociado del Departamento de Computación de la Facultad de Ciencias Exactas y Naturales de la UBA e investigador ICC UBA-CONICET. También integra la Comisión de Investigaciones Científicas de la Provincia de Buenos Aires.
Goldin, Licenciada en Ciencias Biológicas y Doctora en Ciencias Fisiológicas (UBA), es investigadora del CONICET y se desempeña en el Laboratorio de Neurociencias de la Universidad Di Tella.
En diálogo con Educación Debate, los autores del trabajo reflexionaron sobre el contexto nacional y mundial en el que se da la discusión del uso de la IA en general y en particular en las aulas.
- ¿Cuál fue el puntapié para escribir este informe?
- Fernando Schapachnik: Fue una mezcla de lo que nos llegaba de los docentes y lo que escuchábamos en encuentros a los que íbamos a hablar de IA. Hay mucha evidencia científica, con resultados similares en distintos lugares. A mí me preocupaba en particular el push de las empresas tanto las gigantes tecnológicas como las locales y los ministerios de educación de un montón de provincias, desesperados por subirse a la moda, sacarse una foto y decir “acá se enseña IA”.
- Andrea Goldin: Yo era muy partidaria, hasta antes de escribir este artículo, de que los sistemas de IA o el tipo de tecnología que sea, si está dentro del aula lo podemos aprovechar como oportunidad de enseñanza o como oportunidad para que los estudiantes de cualquier edad aprendan sobre ellos usándolos hands on (experiencia práctica). Si bien sigo manteniendo esta postura, coescribir este artículo me hizo reflexionar sobre cómo, en teoría, van a servir para mejorar. ¿Por qué digo en teoría?, porque eso pasaría con muy pocos alumnos, con quienes no tienen mayores problemas dentro del sistema educativo, entonces podrían aprovechar esta oportunidad como aprovecharían cualquier otra.
- Quizás lo que falte es poder tener la capacidad de elegir qué tecnologías sí y qué tecnologías no.
- FS: Eso es clave. Los que venimos de la ciencia no tenemos ninguna duda: podemos resumirlo en el slogan “evidencia o muerte”, que igual no se puede tomar al pie de la letra porque la evidencia toma tiempo y en la escuela tenés que actuar. Pero en particular, por ejemplo, si la jurisdicción invierte, si va a poner plata en un producto, tiene que haber evidencia científica que respalde que produce un beneficio. Porque ahí estás hablando de un recurso escaso que se podría poner en capacitación docente o en infraestructura escolar. Si vas a invertir en un producto tiene que haber evidencia científica que no sea un white paper (informe) de la compañía.
-¿El contexto histórico actual complejiza el uso de IA en las aulas?
-FS: “Éramos pocos y parió la IA”. Es decir, ya veníamos con problemas de aprendizaje. Tenemos una escuela que hizo un gran trabajo de inclusión, eso nunca hay que dejar de destacarlo pero en términos de aprendizaje a esos chicos que incluimos, no logramos que salgan con el capital cultural esperado. Es una deuda pendiente. Veníamos de ese contexto en un momento en el que aflora el terraplanismo. Me podés preguntar para qué querés que los chicos salgan pensando de la escuela: por la empleabilidad, porque en realidad todos los que hemos estudiado algo, en algún momento el período formal educativo se termina pero nos queda la capacidad para entender el mundo que es el capital cultural. Podría mencionar un montón de características individuales pero también hay una que es social en este mundo del terraplanismo científico y político, si vos no tenés un capital cognitivo alto te vas a quedar con las explicaciones del mundo simple.
- Por ejemplo…
- FS: Por ejemplo “te quedaste sin trabajo por que sos un vago, te lo sacaron los inmigrantes”. Las explicaciones del mundo que se dan desde los progresismos son todas complejas. Creemos que porque la realidad es compleja. En términos explicativos, no solo podemos plantear la defensa de la inteligencia desde lo individual sino desde el asedio de la ultraderecha. La IA tiene mucho sex appeal, la están inflando todo el tiempo. Vemos a la IA hasta en la sopa. Trump la llamó “Super Inteligencia (SI)”. Incluso cuando las empresas dicen ‘mirá lo bueno que es esto que es hasta peligroso’, es una estrategia de marketing. Se plantea la IA como la solución a todos los males, incluso a los educativos, como la promesa de la educación personalizada por ejemplo. Hay que tener muchos anticuerpos para resistirse a la tentación de la IA.
"Tenemos una escuela que hizo un gran trabajo de inclusión, pero en términos de aprendizaje a esos chicos que incluimos, no logramos que salgan con el capital cultural esperado" Fernando Schapachnik
- ¿Podemos considerar el uso de los chatbots en el aula? ¿Es igual su uso en los niveles primario, secundario, terciario o universitario?
- FS: Cuánto más abajo en el nivel educativo, es peor porque tenés menos herramientas cognitivas desarrolladas. Existe la premisa de que el uso de la IA tiene que ser con control, pero entonces tengo que usarla para algo en lo que tenga una experiencia sólida porque sino ese control es una ficción. En particular con estos productos que se expresan de forma convincente incluso cuando expresan cosas que son completamente incorrectas. Cuanto más joven sos, menos herramientas tenés para controlar la IA y el supuesto uso porque estás formando tu cerebro. Hay una característica fundamental que podemos llamar roce o esfuerzo. En el gimnasio sacás músculo cuando te esforzás. Con el cerebro pasa igual, para desarrollar capacidades cognitivas te tenés que esforzar. El concepto de la zona de desarrollo proximal del psicóilogo Lev Vygotsky dice que si la tarea educativa es muy compleja parece inabordable y no me engancho, si es demasiado simple no me produce ningún esfuerzo. Cuanto más joven es la persona menos le tenés que dar en bandeja.
- AG: Cuando dejamos de practicar algunas habilidades sostenidamente, lo que empieza a pasar cada vez más es que nos vamos si querés entre comillas, olvidando de cómo era que se hacía. Entonces, el hecho de delegar nuestra cognición en un sistema que entre miles de comillas piensa por nosotros, lo que hace es algo muy eficiente, que es decir, "Yo dejo de usar recursos para pensar en eso porque total se está resolviendo solo. ¿Para qué voy a gastar recursos atencionales y cognitivos en eso? A simple vista está re bueno porque te ayuda a resolver rápidamente el problema y también hay una ilusión de productividad. Pero eso que te resolvió a corto plazo, en realidad, a mediano y ni que hablar a largo plazo, está achanchando la cognición.
- "Sostener el rol de la escuela como lugar de ejercicio del pensamiento puede ser nuestra principal esperanza como sociedad" dice el artículo. ¿Podrías detallar más esta idea?
- FS: Veo una urgencia de todo orden: social, política y de supervivencia. Tiene que ver con el momento en el que estamos, con las ultraderechas fascistas con consignas simples. El embrutecimiento popular les sirve a esos proyectos políticos. Los proyectos políticos progresistas tienen explicaciones del mundo complejas además encuentran dificultades en resolver los problemas económicos reales de la población. No me podés resolver los problemas y las explicaciones que me das son aburridas, no se entienden, ‘qué olor a Puan que hay’. Mientras que del otro lado me dan una explicación muy simple de por qué la estoy pasando mal. Es muy difícil que vos puedas comunicar en términos políticos a alguien que le resulta muy complicado. Tenemos que entender que las capacidades cognitivas no son pétreas, pero en determinado momento están o no están dadas. Y si no están dadas no es una cuestión de opinión. El problema de los progresismos es plantearlo todo en términos de subjetividad, porque hay cosas que no lo son. La desnutrición infantil no es subjetiva, que un niño esté por debajo de los niveles de comprensión de su edad no es subjetivo. Eso es un problema político. El lugar en donde desarrollamos las herramientas para complejizar y entender un argumento complejo es en la escuela.
- AG: Fomentar o no habilidades de pensamiento es profundamente político. Lo que hacemos hoy va a cambiar la manera en la que nuestros chicos piensen, actúen y razonen mañana. Lo que estamos haciendo ahora va a tener implicancias muy jodidas o no en el futuro, por ahora vienen siendo muy jodidas. Porque a medida que vamos usando más la IA y dejamos de usar la propia cognición para hacer tareas, lo que va pasando es que el día que no lo tengas, estás en el horno. Más allá de la IA, usamos nuestras habilidades o deberíamos usarlas, para resolver tareas laborales o de la casa y además para ser ciudadanos críticos y libres. Todas esas habilidades que tienen que enseñarse desde el sistema educativo, cuando las empezamos a delegar, dejamos de practicarlas. Estamos a punto de empezar a tener la primera generación casi sin esa capacidad de análisis y pensamiento crítico y objetivo basado en evidencia, que es fundamental para resolver los problemas que estamos teniendo y sobre todo que vamos a tener en el futuro.
- ¿Cuál fue la evidencia que más te llamó la atención?
- AG: Lo más interesante para mí fue que en el estudio las personas participaron de cuatro sesiones, cuatro días distintos, para escribir ensayos sobre el tema. Algunos usaron el chat, otros Google y otros nada. Las tres primeras veces por ejemplo usaban el chat y el cuarto día cambiaban. Los que usaron las tres primeras veces producción propia sin tecnología, a la cuarta vez usaron el chat y mejoraron sus producciones. En cambio los que lo hicieron al revés, las primeras veces el chat y la última producción propia, empeoraron. Es un buen ejemplo de cómo se pueden usar en las aulas. Si no tenés docentes y ciudadanos bien formados en cómo usar estas tecnologías para el bien y realmente como asistentes, es fácil por acción u omisión pisar el palito y caer en lo contrario, y finalmente que sean estas tecnologías las que nos usan a nosotros.
"Sin docentes y ciudadanos bien formados en cómo usar estas tecnologías para el bien, es fácil por acción u omisión pisar el palito, caer en lo contrario y que finalmente sean estas tecnologías las que nos usen a nosotros" Andrea Goldin
- Hacia el final del informe, mencionan los efectos negativos del tabaco con los peligros del uso de la IA en las aulas. ¿Podrían explayarse en eso?
- FS: Tiene que ver con perderle el miedo a la prohibición. Hay mucha confusión con lo que significa que la escuela te prepare para el mundo exterior. Que te prepare no significa que reproduzca lo que sucede en el mundo exterior. Incluso si consideras que la escuela tiene que preparar a los chicos para que hagan cuando egresen un buen uso de las herramientas de IA. Suponiendo que esto fuera posible, soy muy escéptico sobre un verdadero buen uso de la IA en las aulas. Se puede prohibir y explicar a la vez. Por ejemplo, voy a prohibir la violencia y el tabaco en el aula pero voy a explicar ambas cosas. Puedo prohibir el uso porque la influencia es muy fuerte, discutirlo porqué efectivamente lo querés fuera de las aulas y además podés mostrar el buen uso en un momento concreto. Si tenés una chance contra la ludopatía infantil, por qué no la tenés contra los chatbots. Si ambas están en todas partes y empujadas por los poderes económicos. Hay cosas que tienen un nivel tal de adicción que para contrarrestarlas, además de explicarlo y problematizarlo, las tenés que prohibir.
- ¿Qué repercusiones tuvo el informe?
- FS: Muchos docentes sintieron que el artículo expresaba lo que ellos veían intuitivamente. Nosotros ahí tenemos un rol porque a quienes están todos los días en el aula no les resulta fácil hacer un parate para juntar la evidencia, entonces teníamos algo para aportar. También nos convocaron a algunas reuniones o encuentros que hacen organizaciones de la sociedad civil para discutir estos temas.
- AG: Nuestro título es rimbombante porque queríamos era llamar un poco la atención y un poquito lo logramos y esperamos poder seguir haciéndolo para abrir el debate.
