Microsoft Co. (MSFT) и OpenAI недавно раскрыли, что киберпреступники используют большие языковые модели, такие как ChatGPT, для уточнения и усиления своих кибератак.
В недавно опубликованном отчете Microsoft и OpenAI выявили группы, поддерживаемые Россией, Северной Кореей, Ираном и Китаем, использующие такие инструменты, как ChatGPT, для исследования целей, доработки сценариев и разработки тактик социальной инженерии.
Эти технологические гиганты выделили четыре конкретные группы, использующие большие языковые модели в своих хакерских операциях: Forest Blizzard из России (также известный как Strontium), Emerald Sheet из Северной Кореи (также известный как Thallium), Crimson Sandstorm из Ирана (также известный как Curium) и Charcoal Typhoon из Китая (также известный как Chromium) и натриевый тайфун из Китая (также известный как Sodium).
Согласно полученным данным, российские хакеры используют большие языковые модели для разведки и методы написания сценариев, чтобы получить подробные знания о возможностях спутников и потенциально автоматизировать технические операции.
Северокорейский Emerald Sheet использует эту технологию для исследования уязвимостей, усовершенствованных методов написания сценариев и разведки, чтобы узнать больше о таких организациях, как аналитические центры, участвующие в северокорейской программе создания ядерного оружия.
Crimson Sandstorm из Ирана использовала технологию для создания различных фишинговых электронных писем, отключения антивирусного программного обеспечения через реестр или политики Windows и удаления файлов в каталогах после закрытия приложения.
С другой стороны, китайские Charcoal Typhoon и Salmon Typhoon использовали большие языковые модели для переводов, коммуникации и потенциальной разработки кода со злым умыслом, вероятно, для установления связей, манипулирования целями и коммуникации.
Microsoft сообщила о принятии мер по отключению учетных записей и активов этих групп и упомянула, что они не обнаружили каких-либо значительных атак с использованием больших языковых моделей, которые они отслеживают. Софтверный гигант также пересматривает меры безопасности своего программного обеспечения после недавних крупных атак на облако Azure и случаев, когда российские хакеры шпионили за руководителями Microsoft.