Нелегальний доступ до великих мовних моделей штучного інтелекту перетворюється на окремий підпільний ринок. Google Threat Intelligence Group цього року зафіксувала різке зростання явища, яке дослідники об'єднують під терміном LLM-jacking. Про це повідомив головний аналітик групи Джон Гультквіст.
За його словами, хакерам потрібні потужні LLM для вимагання, шпигунства та розробки нових методів шахрайства, але платити повну ціну за офіційні підписки вони не хочуть. «У підпіллі формується ціла економіка навколо доступу до LLM-моделей», — заявив Гультквіст.
Термін LLM-jacking запровадила команда Sysdig Threat Research Team. Фахівці виявили схему, у якій викрадені хмарні облікові дані використовували для доступу до LLM-сервісів, щоб згодом перепродати цей доступ іншим зловмисникам. Під цим поняттям об'єднують кілька різновидів атак: продаж викрадених облікових даних до публічних сервісів штучного інтелекту та крадіжку обчислювальних потужностей, які зловмисники застосовують для безкоштовного запуску власних моделей.
Найпоширеніший спосіб отримати доступ до LLM — викрадені облікові дані. Йдеться про API-ключі, що потрапили до публічних репозиторіїв, фішинг співробітників і хмарні акаунти зі слабким захистом. Далі зловмисники або самі користуються моделями за чужий рахунок, або перепродують доступ на підпільних майданчиках.
За даними дослідників Google Threat, на тіньових майданчиках пропонують доступ до моделей Anthropic, OpenAI і Google зі знижками до 97%. Для порівняння: підписка на найпотужніші версії ChatGPT і Claude може коштувати до 200 доларів на місяць за користувача. Через таку різницю в ціні атакувальники отримують фінансову перевагу, тоді як захисникам доводиться відповідати тими самими інструментами, але за офіційними тарифами.
Гультквіст наголошує, що зловмисники можуть купувати токени значно дешевше, а це дає їм перевагу в ефективності й витратах. За його словами, штучний інтелект сьогодні застосовує кожен актор загроз, тому в кібербезпеці ШІ-інструменти вже мають бути в центрі уваги.
Тим, хто вважає штучний інтелект тимчасовою модою й сподівається перечекати, аналітик пророкує невтішний сценарій: таких очікує лавина інцидентів, сповіщень і атак, більша за все, що вони бачили раніше. «Навести лад у власному домі потрібно вже зараз», — резюмував він.
Компанії, своєю чергою, дедалі активніше використовують ШІ проти кіберзлочинців. Дослідження PYMNTS Intelligence показує, що 42% респондентів застосовують три й більше ШІ-інструментів захисту в багаторівневому стеку. Половина опитаних називає ШІ-згенеровані листи від імені постачальників головною загрозою, а майже 90% фінансових керівників вважають перевірку постачальників помірним або суттєвим тягарем. Автори звіту зазначають, що виявлення таких спроб шахрайства забирає в компаній і час, і гроші.
В Україні проблема теж актуальна. За даними CERT-UA, хакери активно пропонують українцям «отримати гуманітарну допомогу» або розсилають «повістки в суд», використовуючи соціальну інженерію для доступу до даних і акаунтів.
4
