Microsoft: Хакеры используют искусственный интеллект для повышения квалификации в области кибератак

Многие государственные организации, занимающиеся киберугрозами, начали писать фишинговые письма с использованием ChatGPT.

Хакеры используют большие языковые модели (LLM), такие как ChatGPT, для совершенствования своих стратегий кибератак, говорится в отчете, выпущенном Microsoft совместно с OpenAI.

Согласно исследованию, ряд спонсируемых государством хакерских организаций усовершенствовал свои методы атак, используя такие приемы, как сбор данных, манипулирование файлами и многозадачность.

Отчет появился вскоре после того, как в прошлом месяце стало известно, что Microsoft подверглась взлому со стороны поддерживаемой Россией хакерской группы, в результате чего были взломаны электронные почтовые ящики некоторых членов высшего руководства компании.

## Что было найдено в отчете?

[Этот отчет от Microsoft] была проведена совместно с партнером OpenAI, цель которой - изучить, как безопасно и ответственно использовать технологии генеративного ИИ.

В докладе говорится о том, что некоторые противники интегрируют возможности ИИ в свои стратегии и оперативные процедуры.

В отчете приводится пример кибератаки организации "Стронций", которая связана с российской военной разведкой и считается "чрезвычайно эффективным субъектом угроз". Исследование показало, что с помощью искусственного интеллекта они смогли применить методы обнаружения с использованием LLM и скриптовые методы с использованием LLM.

Проще говоря, разведка с помощью LLM подразумевает использование генеративного ИИ для изучения протоколов спутниковой связи и средств радиолокационной съемки, что позволяет глубже понять и получить ценные сведения о потенциальных целях.

Аналогичным образом, методы создания сценариев с использованием LLM относятся к использованию моделей ИИ для создания фрагментов кода, которые могут выполнять определенные задачи во время атаки.

Подобное использование LLM является примером более широкой тревожной тенденции, когда киберпреступники используют генеративный ИИ для написания кода, чтобы отключать антивирусные системы и удалять файлы каталогов, чтобы избежать аномального обнаружения утечек данных.

## Отрасли, подверженные риску

В исследовании упоминается несколько организаций, представляющих угрозу, и цели этих организаций охватывают широкий спектр отраслей промышленности, таких как Strontium, Charcoal Typhoon и Salmon Typhoon. Их цели включают:

• **Оборона
• возобновляемая энергия
• правительственная организация
• Неправительственные организации (НПО)
• Нефть и газ
• наука и техника
• Транспорт и логистика

 

Стоит отметить, что Salmon Typhoon (также известный как Sodium) известен тем, что в прошлом совершал атаки на оборонные ведомства США.

В отчете также подчеркивается, что различные хакерские организации нацелены на определенные регионы, например, Charcoal Typhoon (он же Chromium) в основном нацеливался на организации в Тайване, Таиланде, Монголии, Малайзии, Франции и Непале.

 

Как Microsoft ведет борьбу

 

Отчет показывает, что самый простой ответ на вопрос, как бороться с атаками ИИ, - это использовать технологии ИИ, чтобы дать им отпор.

> "ИИ может помочь злоумышленникам повысить изощренность своих атак, и у них достаточно ресурсов для их осуществления. Microsoft отслеживает более 300 угрожающих организаций, и мы также используем технологии ИИ для защиты, обнаружения и реагирования". - Хома Хаятифар, менеджер по аналитике первичных обнаружений, Microsoft

Следуя этой стратегии, Microsoft разрабатывает новый [GPT-4 AI Assistant, Security Copilot], предназначен для более быстрого обнаружения киберугроз и рисков безопасности и их обобщения, чтобы избежать потенциального вреда, который они могут нанести. Инструмент сможет нацеливать и усиливать соответствующие меры безопасности.

Технологический гигант все еще находится в процессе повышения стандартов безопасности для унаследованных систем после взлома учетных записей электронной почты руководителей компании и взлома облачного сервиса Azure в прошлом месяце.