关于机器人将接管世界的玩笑话,许多人或许都曾听闻。这些玩笑曾基于一种看似遥不可及的现实,但如今,其背后却潜藏着真实的焦虑。人工智能(AI)已不再是科幻概念,而是真实存在且能力日益强大的技术。尽管像 ChatGPT
这样的工具占据了新闻头条,但实际上,人们每天的在线活动都已离不开 AI。
那么,AI 究竟是什么?它以多种形式存在,从简单的自动化(如控制广告推送、自动驾驶汽车路径规划,以及在线购物时回答问题的聊天机器人)到具备一定社交智能的程序。例如,算法决定了用户在线看到哪些广告;Sora
这样的程序可以根据文本提示生成完整的视频。虽然目前还没有 AI 达到《西部世界》( Westworld )中描绘的那种真正自我意识,但已有不少旨在扮演朋友角色的“伴侣型” AI 聊天机器人出现。甚至,网络上还出现了由 AI 生成的虚拟人物和社交媒体明星。
AI 在学校教育场景中也逐渐显现。一些教育科技产品采用了适应性学习技术(AI 的一种形式),面部识别技术也属于 AI 的范畴。然而,生成式 AI 是一个相对较新的领域,尤其是在课堂环境中。这类 AI 工具,如 ChatGPT
和 Gemini
,能够根据简单的提示创作出完整的文章。虽然人们在 Google Docs
或短信中遇到的预测性文本已不陌生,但由程序根据简单问答生成完整作品,仍然算得上新奇。尽管这类工具创作真正原创内容的能力尚待提高,其潜力仍引起了许多教育工作者的关注。
当前面临的挑战
随着技术的演进和日益复杂化,人们对现实及预期的挑战感到不安是完全可以理解的。以下是一些当前值得关注的问题:
- 滥用风险
- 深度伪造(Deepfakes)技术可以生成看似逼真的图片、视频和音频,模仿名人、政治人物甚至用户的家人。这还包括未经本人同意,利用 AI 生成的裸体图像或色情视频。已有案例显示,一些青少年正使用所谓的“一键脱衣”应用生成同学的裸照。
- 偏见与错误信息
- AI 的学习依赖于其训练数据来源,因此会继承源数据中存在的偏见、错误信息和有问题的内容。例如,如果开发团队缺乏代表性,几乎可以肯定隐性偏见会被嵌入到工具的框架中,面部识别技术存在的种族歧视问题便是例证。AI 也可能“一本正经地胡说八道”,即产生“AI 幻觉”,编造完全虚假的信息,甚至声称自己拥有情感或人类感官。
- 环境影响
- 生成式 AI 的训练和运行需要消耗巨大的能源和其他资源,包括用作冷却机制的大量淡水。训练一个像
GPT-4
这样的大型模型可能消耗数百万千瓦时的电力和大量水资源。在气候问题本已严峻的时代,AI 的广泛应用无疑加剧了这些环境负担。
- 生成式 AI 的训练和运行需要消耗巨大的能源和其他资源,包括用作冷却机制的大量淡水。训练一个像
- 伦理困境
- AI 工具从广泛的来源抓取内容进行学习和生成,其产出往往是许多他人作品的混合体,但通常缺乏对原作者完整或一致的署名。这引发了关于知识产权保护的严峻问题。此外,在生成式 AI 的背景下,数据隐私是一个模糊且多层次的问题,用户输入的信息如何被使用和存储缺乏透明度。
- 剽窃问题
- 对教师而言,最主要的担忧之一是学生利用 AI 进行剽窃。已经有学生提交由 AI 生成的论文作为自己的作业。
如何应对这些挑战
面对诸多担忧和不确定性,一些教育工作者可能会感到不知所措。但关键在于积极应对,而非恐慌。以下是一些可行的措施和可利用的资源。
应对滥用风险
- 防患于未然:通过开展 AI 素养教育,普及相关知识,并组织讨论,让学生了解该技术可能被有害利用的方式。
- 提高学生意识:告知学生网络上已存在深度伪造内容,对于那些特别耸人听闻或广泛传播以煽动情绪的音视频,应保持批判性思维。虽然目前仍可能发现一些破绽,但辨别难度正日益增加。
- 强调内容创作中的“同意”原则:如同拍照或录像前应征得同意一样,在将他人图像输入 AI 工具前,获得其许可是至关重要的。通过提问“如果有人发布令你难堪的关于你或你的内容,你会有何感受?”来培养学生的同理心。
- 明确后果:清晰告知学生使用 AI 生成色情图片的严重后果。提醒他们可能会在
TikTok
等平台看到此类应用的广告。即使他们可能出于好奇或觉得“照片不是真的”而认为这很有趣,但利用 AI 生成他人裸照属于骚扰行为,并且很可能是非法的。这不仅伤害受害者,还可能涉及法律责任。受害者应告知信任的成年人,向有关部门报告,并可通过 CyberTipline.org 举报。
应对偏见与错误信息
- 展示实例:向学生展示使用特定提示词由 AI 工具生成的图像,并讨论其中所体现的偏见(例如,当提示“医生”或“CEO”时,AI 可能倾向于生成特定性别或种族的图像)。
- 利用媒体资源:借助科幻电影、剧集和书籍等媒介,引导学生讨论算法偏见、面部识别技术的缺陷等议题。
- 核查信息来源:提醒学生在使用 AI 进行研究时,要求其提供信息来源链接(部分 AI 工具在被要求时会提供)。并要求学生逐一核查这些链接的可靠性。
- 解释 AI 幻觉:说明 AI 会组合其数据集中的信息以产生完全的捏造内容。AI 工具也可能声称感受到爱、体验各种人类感官等。因此,让学生(尤其是低龄学生)理解 AI 聊天机器人听起来像真人,但这只是设计使然——由真人设计出来的。
应对环境影响
- 提供背景知识:向学生提供关于全球气候变化和地球资源的适龄背景信息。
- 告知资源消耗:让学生了解使用生成式 AI 所需的巨大资源负荷。可以引导讨论:手机、电脑等科技产品对地球有何影响?先进技术如何影响地球环境?
- 关注解决方案:介绍那些致力于限制这些负面影响、寻找环境问题解决方案的科研人员和项目。
一位 17 岁的学生 Andrea 提到:“随着越来越多的公司开始将 AI 融入其产品,透明度变得至关重要。”
应对伦理困境
- 探讨伦理模糊地带:讨论生成式 AI 运作方式中存在的伦理问题,并扩展到更广泛的层面,探讨技术发展的影响以及社会应如何应对。
- 关注数字鸿沟:讨论现有的数字鸿沟,以及新技术发展对那些无法负担的人意味着什么。当这类工具开始对更多功能收费时,会发生什么?
- 讨论知识产权保护:如果想在潜在问题发生前采取措施,需要设立哪些保护知识产权的规则?现有版权法是否适用于 AI 生成内容?
- 探讨数据隐私:AI 目前收集哪些信息?未来可能收集哪些?它如何使用用户提供的信息?讨论一个能够整合用户全网数据的 AI 可能带来的潜在影响。
应对剽窃问题
- 亲身体验 AI:教育者应亲自试用 AI 平台,了解其能力边界。输入自己的教学提示词进行测试。
- 熟悉学生写作风格:尽可能了解每个学生的写作特点和水平。
- 课堂写作:在课堂上安排一些写作任务,同时注意考虑部分学生可能存在的实际困难。
- 运用形成性评价:利用形成性评价工具,持续观察学生的学习进展。
- 优化作业设计:评估当前的作业提示,尝试融入以学生为中心的方法,强调情感智能和个人经验。正如一位教师所言:“如果你不想要泛泛的答案,就不要问泛泛的问题。”
- 共同测试 AI 工具:与学生一起测试 AI 工具,并公开讨论其局限性。
- 巧设“特洛伊木马”:在作业要求中包含一个学生看不到的特定词语或短语。之后,教育者可以使用这个关键词搜索,判断学生是否直接将提示粘贴到了 AI 工具中。(例如,要求文章中必须包含一个生僻但与主题略有相关的词,AI 通常不会自然生成)。
- 使用检测工具(作为最后手段):市面上存在一些 AI 内容检测工具,但需要注意它们并非完美,误报率可能较高(有研究指出有时接近 50%),可能将原创内容误判为抄袭。
一位 18 岁的学生 Rose 认为:“像
ChatGPT
这样的程序缺乏与读者建立情感连接的能力。我们不能剥夺写作中的人类情感。”
这对未来意味着什么
技术发展不会停下脚步等待人们深思熟虑并规划好所有影响,因此,教育者可以与学生一起探索这种不确定性。
- 更智能、更快速
- 随着时间的推移,AI 只会变得更强大,并进一步融入日常生活,其影响的广度和深度可能超出我们目前的预期,既有积极方面,也有消极方面。
- 新的准入壁垒
- 在教育领域,更强大的 AI 工具的出现,未必能同步解决普及性的问题。数字鸿沟已然存在,而像
ChatGPT
这样的工具已经推出了付费版本。这意味着,能够负担这些工具的少数学生将获得额外的优势,进一步拉大家庭或学校无法负担者的差距。
- 在教育领域,更强大的 AI 工具的出现,未必能同步解决普及性的问题。数字鸿沟已然存在,而像
- 加剧的隐私问题
- AI 对隐私的全部影响尚不明朗。但可以肯定的是,数据已成为极其宝贵的商品。而且,由于 AI 通过用户的输入持续学习,用户包含的任何个人信息都可能被收集和利用。
- 就业市场与技能变革
- AI 将如何改变就业市场,目前只能进行猜测。如何让学生为我们甚至无法完全想象的未来世界做好准备,是一个真正的挑战。
如何应对未来的考量
- 扮演未来学家:询问学生他们认为 AI 将如何重塑就业市场,以及他们认为未来需要哪些技能。
- 设计项目式学习:让学生围绕这项必将塑造他们生活的技术进行研究,完成一个基于项目的学习任务。
- 讨论监管与政策:引导学生讨论应如何对 AI 进行监管,政府应制定哪些相关政策。
一位 17 岁的学生 Audrey 表示:“随着技术的飞速发展,我们学会了拥抱它,
ChatGPT
也不应例外。”
AI 的其他应用途径
然而,在所有这些担忧的另一面,是 AI 作为工具的实用性。设想一下,如果可以要求 AI 程序帮助撰写教案、家长信或电子邮件,会怎样?教育者可以尝试探索 AI 如何为自身服务。毕竟,它首先是一个工具!AI 是否有可能提供一些教师们极度需要却总是缺乏的东西(除了资金之外)——时间?
- 让 AI 为你所用:参考 Ditch That Textbook 等教育资源网站上关于教师如何利用 AI 的实用建议,例如用于生成教学大纲草稿、创建不同难度的阅读材料、设计练习题等。
- 引导学生编程实践:让学生使用编程工具编写自己的简单算法。
- 对比写作:让学生根据特定提示进行写作,然后将其作品与 AI 程序的生成结果进行比较,深入探讨两者间的差异。
- AI 艺术生成:使用 AI 生成艺术作品,同时关注其素材来源的伦理问题。
- 探索数学原理:深入了解算法和机器学习背后的数学知识。
- 讨论 AI 在科学中的应用:探讨算法或生成式 AI 等技术如何推动科学研究(例如在药物发现、气候模型预测等领域)。
- 联系历史与社会:讨论包括 AI 在内的新技术对历史上及当今文明和社会的影响。
教育家 Patricia Monticello Kievlan 分享道:“我通常会讨论最常见的大学申请文书主题,但今年我让
ChatGPT
来写这些文章!我们会讨论 AI 做得好的和不好的地方,以及学生可以如何利用它来帮助申请过程:比如列出申请截止日期和所需文书清单,或者制定申请材料提交时间表。”