Várias organizações de ameaças cibernéticas patrocinadas pelo Estado começaram a escrever e-mails de phishing usando o ChatGPT.
Os hackers estão usando grandes modelos de linguagem (LLMs), como o ChatGPT, para aprimorar suas estratégias de ataque cibernético, de acordo com um relatório divulgado pela Microsoft em conjunto com a OpenAI.
De acordo com o estudo, por meio da seleção de dados, manipulação de arquivos e multitarefa, várias organizações de hackers patrocinadas pelo Estado aprimoraram seus métodos de ataque.
O relatório vem logo após a notícia divulgada no mês passado de que a Microsoft havia sido violada por uma equipe de hackers apoiada pela Rússia, na qual as contas de e-mail de alguns de seus líderes seniores foram comprometidas.
## O que foi encontrado no relatório?
[Este relatório da Microsoft], foi conduzido em conjunto com seu parceiro OpenAI, que tem como objetivo explorar como utilizar tecnologias de IA geradoras de forma segura e responsável.
O relatório revela que alguns adversários estão integrando recursos de IA em suas estratégias e procedimentos operacionais.
O relatório cita o exemplo de um ataque cibernético da organização Strontium, que está ligada à inteligência militar russa e é considerada um "agente de ameaças extremamente eficaz". O estudo constatou que, com a ajuda da IA, eles conseguiram empregar detecção habilitada para LLM e técnicas de script aprimoradas por LLM.
Simplificando, o reconhecimento habilitado para LLM refere-se ao uso de IA generativa para aprender protocolos de comunicação via satélite e ferramentas de geração de imagens de radar, o que pode proporcionar uma compreensão mais profunda e insights valiosos sobre alvos potenciais.
Da mesma forma, as técnicas de script aprimoradas por LLM referem-se ao uso de modelos de IA para criar trechos de código que podem executar tarefas específicas durante um ataque.
Esses usos do LLM exemplificam uma tendência preocupante mais ampla de criminosos cibernéticos que usam IA generativa para escrever códigos a fim de desativar sistemas antivírus e excluir arquivos de diretório para evitar que as violações de dados sejam sinalizadas de forma anormal.
## Setores em risco
Várias organizações de ameaças foram mencionadas no estudo, e os alvos dessas organizações abrangem uma ampla gama de setores industriais, como Strontium, Charcoal Typhoon e Salmon Typhoon. Seus alvos incluem:
- **Defesa
- energia renovável
- organização governamental
- Organizações não governamentais (ONGs)
- Petróleo e gás
- ciência e tecnologia
- Transporte e logística
Vale a pena observar que o Salmon Typhoon (também conhecido como Sodium) é conhecido por ter realizado ataques aos departamentos de defesa dos EUA no passado.
O relatório também destacou que diferentes organizações de hackers terão como alvo regiões específicas, por exemplo, o Charcoal Typhoon (também conhecido como Chromium) visava principalmente organizações em Taiwan, Tailândia, Mongólia, Malásia, França e Nepal.
Como a Microsoft está reagindo
O relatório mostra que a resposta mais direta para combater os ataques de IA é usar a tecnologia de IA para revidar.
> "A IA pode ajudar os invasores a aumentar a sofisticação de seus ataques, e eles têm amplos recursos para realizá-los. A Microsoft rastreia mais de 300 organizações de ameaças, e também estamos usando a tecnologia de IA para proteção, detecção e resposta." - Homa Hayatyfar, gerente de análise de detecção primária, Microsoft
Seguindo essa estratégia, a Microsoft está desenvolvendo um novo [Assistente de IA GPT-4, copiloto de segurança], foi projetado para detectar ameaças cibernéticas e riscos de segurança com mais rapidez e resumi-los para evitar os possíveis danos que eles causam. A ferramenta será capaz de direcionar e fortalecer as medidas de segurança correspondentes.
A gigante da tecnologia ainda está no processo de elevar os padrões de segurança para sistemas legados após uma violação das contas de e-mail dos executivos da empresa e uma violação de seu serviço de nuvem Azure no mês passado.
Português do Brasil