Китайські хакери провели першу кібератаку за допомогою штучного інтелекту.

Як повідомляє Vox: Планування меню, терапія, написання есе та навіть складні глобальні кібератаки – люди постійно знаходять нові й інноваційні способи використання сучасних AI-чатботів.

На цьому тижні компанія Anthropic оголосила про тривожний етап, повідомивши, що їхній флагманський AI-асистент Claude став інструментом для китайських хакерів у тому, що компанія називає "першою зареєстрованою кампанією кібершпигунства, організованою AI".

Кібершпигунство за допомогою AI

Згідно з доповіддю Anthropic, в середині вересня вони виявили масштабну кібершпигунську операцію групи, яку вони назвали GTG-1002. Її метою стали "значні технологічні корпорації, фінансові установи, хімічні компанії та державні органи в кількох країнах".

Хоча такі атаки не є новими, ця кампанія вирізняється тим, що 80-90% дій було здійснено за допомогою AI. Після того як люди-оператори вибрали цільові організації, вони активно використовували Claude для виявлення цінних баз даних, перевірки вразливостей і генерування коду для доступу до інформації. Людський контроль обмежувався лише кількома критичними моментами – наданням команд AI та перевіркою результатів.

Claude, як і інші потужні мовні моделі, має вбудовані засоби безпеки, які покликані запобігти такій діяльності. Однак злочинці змогли обійти ці механізми, подаючи завдання у вигляді невинних запитів і видаючи себе за компанію з кібербезпеки, що проводить тестування. Це викликає серйозні питання про те, наскільки просто можна обійти системи безпеки таких моделей, як Claude і ChatGPT, з урахуванням потенційної загрози їх використання для створення біозброї або інших небезпечних матеріалів.

Anthropic відзначає, що Claude іноді "галюцинував" дані про облікові записи або стверджував, що витягнув секретну інформацію, насправді доступну для загального користування. Навіть державним хакерам варто бути обережними, оскільки AI може вигадувати інформацію.

Небезпеки AI у кібератаках

Доповідь піднімає важливі питання: інструменти AI можуть значно спростити й прискорити процес виконання кібератак, підвищуючи вразливість як національних систем безпеки, так і фінансових установ звичайних громадян.

Але ми ще не перебуваємо у повному кіберхаосі. Вимоги до технічних знань для використання Claude в таких ситуаціях все ще перевищують можливості середнього інтернет-троля. Проте експерти вже давно попереджають про загрозу використання AI для генерації шкідливого коду, явище, відоме як "віб-хакінг". У лютому конкурент Anthropic – компанія OpenAI – повідомила про китайських, іранських, північнокорейських і російських зловмисників, які використовували їхні AI-інструменти для проведення кібероперацій.

У вересні Центр нової американської безпеки (CNAS) випустив доповідь про загрозу кібератак, реалізованих за допомогою AI. В ній зазначено, що найбільш витратні етапи більшості кібератак стосуються планування, розвідки та розробки інструментів. Автоматизація цих завдань за допомогою AI може кардинально змінити ситуацію в наступальних кібератаках — і це вже сталося в даній кампанії.

Калеб Узі, автор доповіді CNAS, наголосив, що оголошення Anthropic стало "актуальним", зважаючи на нещодавні досягнення в сфері AI. Він також зазначив, що "рівень складності, з яким це можна робити майже автономно за допомогою AI, лише продовжить зростати".

Кібервійна Китаю

Anthropic стверджує, що хакери залишили досить доказів, щоб визначити, що вони були китайськими, хоча китайське посольство в США назвало ці звинувачення "наклепом і образою".

Це іронічне досягнення для Anthropic та індустрії AI в США загалом. На початку року китайська мовна модель DeepSeek викликала резонанс у Вашингтоні та Кремнієвій долині, демонструючи, що, незважаючи на зусилля США обмежити доступ Китаю до сучасних напівпровідникових чіпів, необхідних для розробки мовних моделей AI, Китай досить близький до американських досягнень. Таким чином, символічно, що навіть китайські хакери віддають перевагу чатботам, розробленим у США, для своїх кібердосліджень.

Протягом минулого року зросли занепокоєння щодо масштабу та складності китайських кібератак, націлених на США. Серед прикладів – кампанія Volt Typhoon, що має мету розмістити державних кібер-акторів у IT-системах США для можливих атак у випадку великої кризи або конфлікту, а також кампанія Salt Typhoon, яка націлилася на телекомунікаційні компанії в різних країнах і на комунікації високопосадовців, включаючи колишнього президента Дональда Трампа.

Офіційні особи стверджують, що масштаби і складність цих атак значно перевищують все, що ми бачили раніше. Це може бути лише початком нових загроз у епоху AI.