Inteligencia artificial en el aula: de la gestión de riesgos a la potenciación pedagógica

Muchos de ustedes habrán oído bromas sobre robots que se apoderan del mundo. En su día, estos chistes se basaban en una realidad aparentemente inalcanzable, pero hoy se esconden tras ellos verdaderos temores. La inteligencia artificial (IA) ya no es un concepto de ciencia ficción, sino una tecnología real y cada vez más capaz. A pesar de que tecnologías como ChatGPT Herramientas como éstas dominan los titulares, pero en realidad, la gente ya no puede realizar sus actividades diarias en línea sin la IA.

¿Qué es exactamente la IA? Existe en muchas formas, desde la simple automatización (por ejemplo, el control de la inserción de anuncios, la planificación de rutas para coches autoconducidos y los chatbots que responden a preguntas al comprar en Internet) hasta programas con cierta inteligencia social. Por ejemplo, los algoritmos determinan qué anuncios ven los usuarios en Internet;Sora Un programa de este tipo podría generar vídeos completos a partir de mensajes de texto. Aunque ninguna IA ha llegado aún a Westworld ( Westworld Aunque los chatbots de IA se han utilizado para crear el tipo de autoconciencia real descrito en el artículo "IA para amigos", ya existen varios chatbots de IA "acompañantes" diseñados para desempeñar el papel de amigos. Incluso hay avatares generados por IA y estrellas de las redes sociales.

La IA también se está haciendo visible en el escenario escolar. Algunos productos de tecnología educativa utilizan técnicas de aprendizaje adaptativo (una forma de IA), y la tecnología de reconocimiento facial también entra en la categoría de IA. Sin embargo, la IA generativa es un campo relativamente nuevo, especialmente en las aulas. Este tipo de herramientas de IA, como ChatGPT responder cantando Geminique son capaces de crear ensayos completos a partir de sencillas instrucciones. Mientras que los Google Docs o el texto predictivo que encontramos en los mensajes de texto ya no nos resultan desconocidos, pero la generación de obras completas mediante programas basados en preguntas y respuestas sencillas sigue siendo una novedad. Aunque la capacidad de este tipo de herramientas para crear contenidos realmente originales aún está por mejorar, su potencial ha atraído la atención de muchos educadores.

Retos actuales

Con la evolución y creciente complejidad de la tecnología, es totalmente comprensible que la gente esté inquieta por los retos reales y previstos. He aquí algunas preocupaciones actuales:

• Riesgo de abusos
  • La tecnología Deepfakes (falsificaciones profundas) genera imágenes, vídeos y audio de aspecto realista que imitan a famosos, políticos e incluso familiares de los usuarios. Esto incluye también el uso de IA para generar imágenes de desnudos o vídeos pornográficos sin el consentimiento de la persona. Ya hay casos de adolescentes que utilizan las llamadas aplicaciones de "desvestirse con un clic" para generar fotos de desnudos de sus compañeros de clase.
• Prejuicios y desinformación
  • La IA depende de sus fuentes de datos de entrenamiento para aprender y, por tanto, hereda sesgos, información errónea y contenido problemático de los datos de origen. Por ejemplo, si el equipo de desarrollo no es representativo, es casi seguro que el sesgo implícito se incrustará en el marco de la herramienta, como ejemplifica la discriminación racial en la tecnología de reconocimiento facial.Las IA también pueden "soltar serias tonterías", es decir, crear "ilusiones de IA", o incluso afirmar que tienen emociones o sentidos humanos, o incluso fabricar información completamente falsa. Las IA también pueden "decir serias tonterías", es decir, crear "alucinaciones de IA", fabricar información completamente falsa o incluso afirmar que tienen emociones o sentidos humanos.
• impacto medioambiental
  • El entrenamiento y funcionamiento de la IA generativa consume enormes cantidades de energía y otros recursos, incluidas grandes cantidades de agua dulce utilizada como mecanismo de refrigeración. Entrenar una IA como GPT-4 Estos modelos a gran escala pueden consumir millones de kilovatios-hora de electricidad y grandes cantidades de agua. El uso generalizado de la IA ha exacerbado sin duda estas cargas medioambientales en una época de problemas climáticos ya de por sí nefastos.
• dilema ético
  • Las herramientas de IA rastrean contenidos de una amplia gama de fuentes para aprender y generar, y su resultado suele ser un híbrido de obras de muchos otros, pero normalmente carece de atribución completa o coherente al autor original. Esto plantea serias dudas sobre la protección de la propiedad intelectual. Además, en el contexto de la IA generativa, la privacidad de los datos es una cuestión turbia y de múltiples niveles, con una falta de transparencia sobre cómo se utilizan y almacenan las aportaciones de los usuarios.
• Plagio
  • Una de las principales preocupaciones de los profesores es que los estudiantes utilicen la IA para cometer plagios. Ya hay estudiantes que presentan trabajos generados por IA para sus tareas.

Cómo afrontar estos retos

Algunos educadores pueden sentirse abrumados ante tantas preocupaciones e incertidumbres. Pero la clave es responder positivamente, no dejarse llevar por el pánico. He aquí algunas posibles medidas y recursos disponibles.

Hacer frente al riesgo de malos tratos

• más vale prevenir que curarDifundir conocimientos mediante la alfabetización en IA y organizar debates para informar a los estudiantes sobre las formas en que la tecnología podría utilizarse de forma perjudicial.
• Sensibilizar a los estudiantes: Informar a los alumnos de la profundidad de los contenidos falsificados que ya existen en Internet y mantener un pensamiento crítico sobre los audios y vídeos especialmente sensacionalistas o ampliamente difundidos para suscitar emociones. Aunque todavía es posible detectar algunas infracciones, cada vez es más difícil identificarlas.
• Énfasis en el principio de "consentimiento" en la creación de contenidosDel mismo modo que hay que pedir consentimiento antes de hacer una foto o grabar un vídeo, es fundamental obtenerlo antes de introducir la imagen de otra persona en una herramienta de IA. Desarrolla la empatía preguntando: "¿Cómo te sentirías si alguien publicara algo vergonzoso sobre ti o para ti?". para fomentar la empatía.
• Aclarar las consecuenciasInformar claramente a los alumnos de las graves consecuencias de utilizar la IA para generar imágenes pornográficas. Recuérdeles la posibilidad de TikTok Lo más importante que hay que recordar es que verá anuncios de este tipo de aplicaciones en plataformas como YouTube. Aunque les pueda parecer interesante por curiosidad o porque piensen que "las fotos no son reales", utilizar IA para generar fotos de desnudos de otras personas es acoso y probablemente ilegal. No sólo perjudica a la víctima, sino que también puede implicar responsabilidades legales. Las víctimas deben informar a un adulto de confianza, denunciarlo a las autoridades y hacerlo en CyberTipline.org.

Prejuicios e información errónea

• Ejemplos de escaparatesMuestre a los alumnos las imágenes generadas por la herramienta de IA utilizando pistas específicas y discuta los sesgos que reflejan (por ejemplo, cuando se le indica "médico" o "director general", la IA puede tender a generar imágenes específicas de género o raza).
• Utilización de los medios de comunicaciónLa ciencia ficción: A partir de películas, episodios y libros de ciencia ficción, los estudiantes debaten temas como el sesgo algorítmico y las deficiencias de la tecnología de reconocimiento facial.
• Verificación de las fuentes de informaciónGuía del usuario: Recuerde a los alumnos que pidan enlaces a fuentes de información cuando utilicen la IA para investigar (algunas herramientas de IA los proporcionan cuando se les pide). Pide a los alumnos que comprueben la fiabilidad de estos enlaces caso por caso.
• Explicar las ilusiones de la IA: ilustra que la IA combina información de su conjunto de datos para producir contenidos completamente inventados. la herramienta de IA también puede afirmar que siente amor, experimenta una variedad de sentidos humanos, etc. Por lo tanto, es importante que los estudiantes (especialmente los más jóvenes) comprendan que los chatbots de IA suenan como personas reales, pero esto es sólo por diseño: diseñados por personas reales.

Respuesta a los impactos medioambientales

• Aportar conocimientos previosProporcionar a los alumnos información básica adecuada a su edad sobre el cambio climático global y los recursos de la Tierra.
• Informar sobre el consumo de recursosConcienciar a los alumnos de la enorme carga de recursos que requiere el uso de la IA generativa. Esto puede dar lugar a un debate sobre: ¿Cuál es el impacto de productos tecnológicos como los teléfonos móviles y los ordenadores en el planeta? ¿Cómo afectan las tecnologías avanzadas al medio ambiente de la Tierra?
• Centrarse en las soluciones: Presentación de investigadores y proyectos que trabajan para limitar estos impactos negativos y encontrar soluciones a los problemas medioambientales.

Andrea, una estudiante de 17 años, mencionó: "La transparencia es cada vez más importante a medida que más y más empresas empiezan a incorporar la IA a sus productos."

Responder a dilemas éticos

• Explorar las ambigüedades éticasEl autor aborda las cuestiones éticas que plantea el funcionamiento de la IA generativa y se extiende a un nivel más amplio para explorar las implicaciones de los avances tecnológicos y cómo debe responder la sociedad.
• La brecha digital en el punto de miraEl debate sobre la brecha digital existente y lo que los nuevos avances tecnológicos significan para quienes no pueden permitírselos. Qué ocurre cuando esas herramientas empiezan a cobrar por más funciones?
• Debate sobre la protección de la propiedad intelectual¿Qué normas deben aplicarse para proteger la propiedad intelectual si se quiere actuar antes de que surjan posibles problemas? ¿Se aplica la legislación vigente sobre derechos de autor a los contenidos generados por IA?
• Explorar la privacidad de los datos¿Qué información recopila actualmente la IA? ¿Qué podría recoger en el futuro? ¿Cómo utiliza la información proporcionada por los usuarios? Discuta el impacto potencial que podría tener una IA capaz de integrar datos de toda la red del usuario.

Lucha contra el plagio

• Manos a la obra con la IALos educadores deberían probar la plataforma de IA por sí mismos para comprender los límites de sus capacidades. Introduce tus propias pistas de enseñanza para probarla.
• Familiaridad con los estilos de escritura de los alumnos: Conocer al máximo las características y el nivel de escritura de cada alumno.
• Escritura en el aulaOrganizar algunas tareas de escritura en el aula, teniendo en cuenta las dificultades prácticas que pueden tener algunos alumnos.
• Utilizar la evaluación formativaObservación continua del progreso de aprendizaje de los alumnos mediante herramientas de evaluación formativa.
• Optimizar el diseño de las tareasEl profesor: evalúe las actuales instrucciones para las tareas e intente incorporar un enfoque centrado en el estudiante que haga hincapié en la inteligencia emocional y la experiencia personal. Como dijo un profesor: "Si no quieres respuestas generalizadas, no hagas preguntas generalizadas".
• Ensayo conjunto de herramientas de IAProbar las herramientas de IA con los alumnos y debatir abiertamente sus limitaciones.
• "Caballo de Troya".Incluya una palabra o frase específica en los requisitos de la tarea que no sea visible para el estudiante. El educador puede entonces utilizar esta búsqueda de palabras clave para determinar si el estudiante pegó el requerimiento directamente en la herramienta de IA. (Por ejemplo, requerir que un ensayo incluya una palabra que está fuera de lugar pero ligeramente relacionada con el tema normalmente no sería generada naturalmente por la IA).
• Uso de herramientas de detección (como último recurso)Herramientas de detección de contenidos: existen en el mercado algunas herramientas de detección de contenidos mediante IA, pero es importante tener en cuenta que no son perfectas, pueden tener un alto número de falsos positivos (algunos estudios han observado cerca de 50% en ocasiones) y pueden clasificar erróneamente contenido original como plagiado.

Rose, una estudiante de 18 años, comentó: "Como el ChatGPT Un programa así carece de la capacidad de establecer una conexión emocional con el lector. No podemos privar a la escritura de la emoción humana".

Lo que esto significa para el futuro

Los avances tecnológicos no se detienen y esperan a que la gente piense en profundidad y planifique todas las implicaciones, por lo que los educadores pueden explorar esta incertidumbre con sus alumnos.

• Más inteligente y más rápido
  • Con el tiempo, la IA se hará más poderosa y se integrará más en la vida cotidiana, y la amplitud y profundidad de su impacto puede ser mayor de lo que esperamos actualmente, tanto de forma positiva como negativa.
• Nuevas barreras de entrada
  • En el ámbito de la educación, la aparición de herramientas de IA más potentes puede que no aborde a la vez la cuestión de la universalidad. La brecha digital ya existe, y las ChatGPT Estas herramientas ya están disponibles en versiones de pago. Esto significa que los pocos estudiantes que puedan permitirse estas herramientas obtendrán una ventaja adicional, lo que ampliará aún más la brecha entre las familias numerosas o aquellas cuyas escuelas no puedan permitírselas.
• Mayor preocupación por la privacidad
  • El impacto total de la IA sobre la privacidad no está claro. Lo que es seguro, sin embargo, es que los datos se han convertido en un bien extremadamente valioso. Y, a medida que la IA sigue aprendiendo a través de las aportaciones de los usuarios, cualquier información personal que contenga un usuario puede ser recopilada y utilizada.
• Mercado laboral y cambio de competencias
  • En este momento sólo podemos especular sobre cómo la IA cambiará el mercado laboral. Cómo preparar a los estudiantes para un mundo futuro que ni siquiera podemos imaginar plenamente es un verdadero reto.

Cómo responder a futuras consideraciones

• Juega a ser futuristaPregunta a los alumnos cómo creen que la IA reconfigurará el mercado laboral y qué competencias creen que serán necesarias en el futuro.
• Diseñar el aprendizaje basado en proyectosPida a los alumnos que realicen una tarea de aprendizaje basado en proyectos investigando sobre esta tecnología que sin duda marcará sus vidas.
• Debate sobre normativa y políticaEl debate sobre cómo debe regularse la IA y qué políticas gubernamentales deben ponerse en marcha.

Como la tecnología evoluciona a un ritmo vertiginoso, hemos aprendido a adoptarla", dice Audrey, una estudiante de 17 años.ChatGPT No debe haber excepciones".

Otras formas de aplicar la IA

Sin embargo, al otro lado de todas estas preocupaciones está la utilidad de la IA como herramienta. Imaginemos que se pudiera pedir a los programas de IA que ayudaran a redactar planes de clase, cartas a los padres o correos electrónicos. Los educadores pueden intentar explorar cómo puede servirles la IA. ¿Es posible que la IA proporcione algo que los profesores necesitan desesperadamente pero de lo que siempre carecen (además de financiación): tiempo?

• La inteligencia artificial a su servicioConsulte sitios de recursos educativos como Ditch That Textbook para obtener consejos prácticos sobre cómo los profesores pueden utilizar la IA, por ejemplo, para generar borradores de programas de estudios, crear materiales de lectura con distintos niveles de dificultad, diseñar preguntas de práctica, etc.
• Prácticas guiadas de programación para estudiantesEl objetivo es que los alumnos escriban sus propios algoritmos sencillos utilizando herramientas de programación.
• redacción comparadaPida a los alumnos que escriban en respuesta a preguntas específicas y que comparen su trabajo con los resultados generados por el programa de IA para explorar en profundidad las diferencias entre ambos.
• Generación de arte con IA: Utilización de la IA para generar obras de arte preocupándose por la ética de su material de origen.
• Explora los principios de las matemáticasUna mirada en profundidad a las matemáticas que hay detrás de los algoritmos y el aprendizaje automático.
• Debate sobre la IA en la cienciaInvestigación: Explore cómo tecnologías como los algoritmos o la IA generativa pueden hacer avanzar la investigación científica (por ejemplo, en ámbitos como el descubrimiento de fármacos, la predicción de modelos climáticos, etc.).
• Historia y sociedadEl objetivo: debatir el impacto de las nuevas tecnologías, incluida la IA, en las civilizaciones y sociedades, tanto históricas como actuales.

La educadora Patricia Monticello Kievlan nos cuenta: "Suelo hablar de los temas más comunes para las redacciones de solicitud de admisión a la universidad, pero este año voy a dejar que los alumnos sepan más sobre ellos". ChatGPT para escribir estas redacciones. Discutiremos lo que la IA hace bien y lo que no, y cómo los estudiantes pueden utilizarla para ayudar con el proceso de solicitud: por ejemplo, hacer una lista de los plazos de solicitud y el papeleo requerido, o crear un calendario para presentar los materiales de solicitud."