多个国家支持的网络威胁组织开始利用ChatGPT编写钓鱼邮件。
微软与OpenAI联手发布的一份报告指出，黑客正在利用大型语言模型（LLM）例如ChatGPT来改进他们的网络攻击策略。
据该研究指出，通过数据挑选、文件操作和多任务处理，一些受国家支持的黑客组织已经提升了他们的攻击手段。
此份报告是在上月传出微软遭俄罗斯支持黑客团队入侵的消息后不久发布的，微软的一些高级领导团队的电子邮箱账户在此次事件中受到泄露。
## 报告中发现了哪些内容？
[微软的这份报告]，是与其合作伙伴OpenAI共同进行的，其目的在于探讨如何安全、负责任地利用生成式人工智能技术。
报告透露了一些对手正将AI功能集成到他们的策略和行动程序中。
报告中引用了Strontium组织的一个网络攻击案例，该组织与俄罗斯军事情报相关联，被认为是一个“极为有效的威胁者”。研究发现，借助AI的协助，他们能够运用LLM支持的侦查和LLM强化的脚本技术。
简单来说，LLM支持的侦查是指利用生成式AI来学习卫星通讯协议和雷达成像工具，这可以提供对潜在目标的更深入了解和有价值的洞察。
同理，LLM强化的脚本技术是指用AI模型来创建能在攻击过程中执行特定任务的代码片段。
LLM的这类用途体现了一个更大范围内的令人担忧的趋势，即网络犯罪分子利用生成式AI编写代码，以便禁用反病毒系统并删除目录文件，避免数据泄漏被异常地标记。
## 面临风险的产业
研究中提到了几个威胁组织，这些组织目标涵盖了多个行业领域，如Strontium、Charcoal Typhoon和Salmon Typhoon等。他们的目标包括：
- **国防
- 能源
- 政府机构
- 非政府组织（NGOs）
- 石油与天然气
- 科技
- 运输与物流
值得注意的是，Salmon Typhoon（也被称为Sodium）过去已知曾对美国国防部门实施了攻击。
报告还特别指出，不同的黑客组织将瞄准特定地区的目标，例如，Charcoal Typhoon（又名Chromium）主要针对台湾、泰国、蒙古、马来西亚、法国和尼泊尔的组织。
微软如何进行反击
报告显示，对抗AI攻击的最直接答案就是利用AI技术进行反击。
> “AI可以帮助攻击者提高攻击的复杂度，他们也有充足的资源来实施这些攻击。微软追踪着300多个威胁组织，我们也在用AI技术来进行保护、检测和响应。” - 微软主要检测分析经理Homa Hayatyfar
遵循这一策略，微软正在开发一个全新的[GPT-4 AI助手，Security Copilot]，旨在更快地检测出网络威胁和安全风险并加以总结，避免其造成的潜在伤害。该工具将能够针对性地强化相应安全措施。
在上个月公司高管的电子邮件账户遭受泄露以及Azure云服务被攻破后，这家技术巨头还在为旧有系统提升安全标准。
