Inteligencia artificial en el aula: de la gestión de riesgos a la potenciación pedagógica

关于机器人将接管世界的玩笑话，许多人或许都曾听闻。这些玩笑曾基于一种看似遥不可及的现实，但如今，其背后却潜藏着真实的焦虑。人工智能（AI）已不再是科幻概念，而是真实存在且能力日益强大的技术。尽管像 ChatGPT 这样的工具占据了新闻头条，但实际上，人们每天的在线活动都已离不开 AI。

那么，AI 究竟是什么？它以多种形式存在，从简单的自动化（如控制广告推送、自动驾驶汽车路径规划，以及在线购物时回答问题的聊天机器人）到具备一定社交智能的程序。例如，算法决定了用户在线看到哪些广告；Sora 这样的程序可以根据文本提示生成完整的视频。虽然目前还没有 AI 达到《西部世界》（ Westworld ）中描绘的那种真正自我意识，但已有不少旨在扮演朋友角色的“伴侣型” AI 聊天机器人出现。甚至，网络上还出现了由 AI 生成的虚拟人物和社交媒体明星。

AI 在学校教育场景中也逐渐显现。一些教育科技产品采用了适应性学习技术（AI 的一种形式），面部识别技术也属于 AI 的范畴。然而，生成式 AI 是一个相对较新的领域，尤其是在课堂环境中。这类 AI 工具，如 ChatGPT responder cantando Gemini，能够根据简单的提示创作出完整的文章。虽然人们在 Google Docs 或短信中遇到的预测性文本已不陌生，但由程序根据简单问答生成完整作品，仍然算得上新奇。尽管这类工具创作真正原创内容的能力尚待提高，其潜力仍引起了许多教育工作者的关注。

当前面临的挑战

随着技术的演进和日益复杂化，人们对现实及预期的挑战感到不安是完全可以理解的。以下是一些当前值得关注的问题：

• 滥用风险
  • 深度伪造（Deepfakes）技术可以生成看似逼真的图片、视频和音频，模仿名人、政治人物甚至用户的家人。这还包括未经本人同意，利用 AI 生成的裸体图像或色情视频。已有案例显示，一些青少年正使用所谓的“一键脱衣”应用生成同学的裸照。
• 偏见与错误信息
  • AI 的学习依赖于其训练数据来源，因此会继承源数据中存在的偏见、错误信息和有问题的内容。例如，如果开发团队缺乏代表性，几乎可以肯定隐性偏见会被嵌入到工具的框架中，面部识别技术存在的种族歧视问题便是例证。AI 也可能“一本正经地胡说八道”，即产生“AI 幻觉”，编造完全虚假的信息，甚至声称自己拥有情感或人类感官。
• 环境影响
  • 生成式 AI 的训练和运行需要消耗巨大的能源和其他资源，包括用作冷却机制的大量淡水。训练一个像 GPT-4 这样的大型模型可能消耗数百万千瓦时的电力和大量水资源。在气候问题本已严峻的时代，AI 的广泛应用无疑加剧了这些环境负担。
• 伦理困境
  • AI 工具从广泛的来源抓取内容进行学习和生成，其产出往往是许多他人作品的混合体，但通常缺乏对原作者完整或一致的署名。这引发了关于知识产权保护的严峻问题。此外，在生成式 AI 的背景下，数据隐私是一个模糊且多层次的问题，用户输入的信息如何被使用和存储缺乏透明度。
• 剽窃问题
  • 对教师而言，最主要的担忧之一是学生利用 AI 进行剽窃。已经有学生提交由 AI 生成的论文作为自己的作业。

如何应对这些挑战

面对诸多担忧和不确定性，一些教育工作者可能会感到不知所措。但关键在于积极应对，而非恐慌。以下是一些可行的措施和可利用的资源。

应对滥用风险

• 防患于未然：通过开展 AI 素养教育，普及相关知识，并组织讨论，让学生了解该技术可能被有害利用的方式。
• 提高学生意识：告知学生网络上已存在深度伪造内容，对于那些特别耸人听闻或广泛传播以煽动情绪的音视频，应保持批判性思维。虽然目前仍可能发现一些破绽，但辨别难度正日益增加。
• 强调内容创作中的“同意”原则：如同拍照或录像前应征得同意一样，在将他人图像输入 AI 工具前，获得其许可是至关重要的。通过提问“如果有人发布令你难堪的关于你或你的内容，你会有何感受？”来培养学生的同理心。
• 明确后果：清晰告知学生使用 AI 生成色情图片的严重后果。提醒他们可能会在 TikTok 等平台看到此类应用的广告。即使他们可能出于好奇或觉得“照片不是真的”而认为这很有趣，但利用 AI 生成他人裸照属于骚扰行为，并且很可能是非法的。这不仅伤害受害者，还可能涉及法律责任。受害者应告知信任的成年人，向有关部门报告，并可通过 CyberTipline.org 举报。

应对偏见与错误信息

• 展示实例：向学生展示使用特定提示词由 AI 工具生成的图像，并讨论其中所体现的偏见（例如，当提示“医生”或“CEO”时，AI 可能倾向于生成特定性别或种族的图像）。
• 利用媒体资源：借助科幻电影、剧集和书籍等媒介，引导学生讨论算法偏见、面部识别技术的缺陷等议题。
• 核查信息来源：提醒学生在使用 AI 进行研究时，要求其提供信息来源链接（部分 AI 工具在被要求时会提供）。并要求学生逐一核查这些链接的可靠性。
• 解释 AI 幻觉：说明 AI 会组合其数据集中的信息以产生完全的捏造内容。AI 工具也可能声称感受到爱、体验各种人类感官等。因此，让学生（尤其是低龄学生）理解 AI 聊天机器人听起来像真人，但这只是设计使然——由真人设计出来的。

应对环境影响

• 提供背景知识：向学生提供关于全球气候变化和地球资源的适龄背景信息。
• 告知资源消耗：让学生了解使用生成式 AI 所需的巨大资源负荷。可以引导讨论：手机、电脑等科技产品对地球有何影响？先进技术如何影响地球环境？
• 关注解决方案：介绍那些致力于限制这些负面影响、寻找环境问题解决方案的科研人员和项目。

一位 17 岁的学生 Andrea 提到：“随着越来越多的公司开始将 AI 融入其产品，透明度变得至关重要。”

应对伦理困境

• 探讨伦理模糊地带：讨论生成式 AI 运作方式中存在的伦理问题，并扩展到更广泛的层面，探讨技术发展的影响以及社会应如何应对。
• 关注数字鸿沟：讨论现有的数字鸿沟，以及新技术发展对那些无法负担的人意味着什么。当这类工具开始对更多功能收费时，会发生什么？
• 讨论知识产权保护：如果想在潜在问题发生前采取措施，需要设立哪些保护知识产权的规则？现有版权法是否适用于 AI 生成内容？
• 探讨数据隐私：AI 目前收集哪些信息？未来可能收集哪些？它如何使用用户提供的信息？讨论一个能够整合用户全网数据的 AI 可能带来的潜在影响。

应对剽窃问题

• 亲身体验 AI：教育者应亲自试用 AI 平台，了解其能力边界。输入自己的教学提示词进行测试。
• 熟悉学生写作风格：尽可能了解每个学生的写作特点和水平。
• 课堂写作：在课堂上安排一些写作任务，同时注意考虑部分学生可能存在的实际困难。
• 运用形成性评价：利用形成性评价工具，持续观察学生的学习进展。
• 优化作业设计：评估当前的作业提示，尝试融入以学生为中心的方法，强调情感智能和个人经验。正如一位教师所言：“如果你不想要泛泛的答案，就不要问泛泛的问题。”
• 共同测试 AI 工具：与学生一起测试 AI 工具，并公开讨论其局限性。
• 巧设“特洛伊木马”：在作业要求中包含一个学生看不到的特定词语或短语。之后，教育者可以使用这个关键词搜索，判断学生是否直接将提示粘贴到了 AI 工具中。（例如，要求文章中必须包含一个生僻但与主题略有相关的词，AI 通常不会自然生成）。
• 使用检测工具（作为最后手段）：市面上存在一些 AI 内容检测工具，但需要注意它们并非完美，误报率可能较高（有研究指出有时接近 50%），可能将原创内容误判为抄袭。

一位 18 岁的学生 Rose 认为：“像 ChatGPT 这样的程序缺乏与读者建立情感连接的能力。我们不能剥夺写作中的人类情感。”

这对未来意味着什么

技术发展不会停下脚步等待人们深思熟虑并规划好所有影响，因此，教育者可以与学生一起探索这种不确定性。

• 更智能、更快速
  • 随着时间的推移，AI 只会变得更强大，并进一步融入日常生活，其影响的广度和深度可能超出我们目前的预期，既有积极方面，也有消极方面。
• 新的准入壁垒
  • 在教育领域，更强大的 AI 工具的出现，未必能同步解决普及性的问题。数字鸿沟已然存在，而像 ChatGPT 这样的工具已经推出了付费版本。这意味着，能够负担这些工具的少数学生将获得额外的优势，进一步拉大家庭或学校无法负担者的差距。
• 加剧的隐私问题
  • AI 对隐私的全部影响尚不明朗。但可以肯定的是，数据已成为极其宝贵的商品。而且，由于 AI 通过用户的输入持续学习，用户包含的任何个人信息都可能被收集和利用。
• 就业市场与技能变革
  • AI 将如何改变就业市场，目前只能进行猜测。如何让学生为我们甚至无法完全想象的未来世界做好准备，是一个真正的挑战。

如何应对未来的考量

• 扮演未来学家：询问学生他们认为 AI 将如何重塑就业市场，以及他们认为未来需要哪些技能。
• 设计项目式学习：让学生围绕这项必将塑造他们生活的技术进行研究，完成一个基于项目的学习任务。
• 讨论监管与政策：引导学生讨论应如何对 AI 进行监管，政府应制定哪些相关政策。

一位 17 岁的学生 Audrey 表示：“随着技术的飞速发展，我们学会了拥抱它，ChatGPT 也不应例外。”

AI 的其他应用途径

然而，在所有这些担忧的另一面，是 AI 作为工具的实用性。设想一下，如果可以要求 AI 程序帮助撰写教案、家长信或电子邮件，会怎样？教育者可以尝试探索 AI 如何为自身服务。毕竟，它首先是一个工具！AI 是否有可能提供一些教师们极度需要却总是缺乏的东西（除了资金之外）——时间？

• 让 AI 为你所用：参考 Ditch That Textbook 等教育资源网站上关于教师如何利用 AI 的实用建议，例如用于生成教学大纲草稿、创建不同难度的阅读材料、设计练习题等。
• 引导学生编程实践：让学生使用编程工具编写自己的简单算法。
• 对比写作：让学生根据特定提示进行写作，然后将其作品与 AI 程序的生成结果进行比较，深入探讨两者间的差异。
• AI 艺术生成：使用 AI 生成艺术作品，同时关注其素材来源的伦理问题。
• 探索数学原理：深入了解算法和机器学习背后的数学知识。
• 讨论 AI 在科学中的应用：探讨算法或生成式 AI 等技术如何推动科学研究（例如在药物发现、气候模型预测等领域）。
• 联系历史与社会：讨论包括 AI 在内的新技术对历史上及当今文明和社会的影响。

教育家 Patricia Monticello Kievlan 分享道：“我通常会讨论最常见的大学申请文书主题，但今年我让 ChatGPT 来写这些文章！我们会讨论 AI 做得好的和不好的地方，以及学生可以如何利用它来帮助申请过程：比如列出申请截止日期和所需文书清单，或者制定申请材料提交时间表。”