Дослідник безпеки знайшов у штучному інтелекті Claude уразливість, яка може дозволити зловмисникам виконувати команди на комп’ютерах користувачів. За даними публікації, для атаки може бути достатньо лише шкідливого або скомпрометованого розширення для браузера. Компанія Anthropic дізналася про проблему ще в травні, однак, за повідомленням, досі її не виправила.
Ризик полягає в тому, що шкідливе розширення може впливати на взаємодію з Claude і використовувати її можливості для виконання дій на пристрої жертви. Саме тому навіть користувачі, які не завантажують підозрілих програм напряму, можуть опинитися під загрозою, якщо їхній браузер містить небезпечний компонент. Точних даних про те, чи вже експлуатували цю вразливість, у повідомленні немає.
Цей випадок з’явився на тлі ширшої дискусії про те, як штучний інтелект змінює кібербезпеку. За інформацією РБК-Україна, компанія OpenAI оголосила про модель ChatGPT Cyber, призначену для завдань безпеки. За даними видання, сканування коду ядра Linux позначило 948 потенційних проблем, а у Firefox було виявлено 81 раніше невідому вразливість. Водночас такі результати ще потребують перевірки, адже не всі знахідки є реальними уразливостями. OpenAI, за повідомленням, також планує виділити 1 мільярд доларів на підтримку захисників критичної інфраструктури.
Фахівці попереджають, що інструменти на основі ШІ стають доступними не лише експертам з безпеки, а й хакерам. За словами учасників дискусії, особливо ризикованими виглядають відкриті моделі без вбудованих обмежень. Водночас є і приклади практичної користі: CTO компанії Charge Robotics Макс Юстіч за допомогою моделі GPT 5.6 Sol знайшов помилку в Ubuntu та Debian. За його словами, модель спрямували на ділянку коду, де років тому вже була схожа помилка, і пошук зайняв близько двох годин. Вручну знайти таку проблему, за його оцінкою, було б дуже складно. Про знахідку повідомили проєкт Debian, і оновлення безпеки вийшло швидко. Докази того, що зловмисники встигли використати цю помилку, наразі відсутні.
Окремо Anthropic оголосила про функцію Personal Finance для Claude. Вона дає змогу під’єднати банківські рахунки та картки, але лише з доступом для читання: ШІ не може переказувати, оплачувати чи інвестувати гроші. Підключення відбувається через сервіс Plaid, а банківський пароль Claude не бачить. Асистент має доступ до балансів, лімітів і транзакцій за останні два роки, при цьому дані, за повідомленням, не використовуються для навчання моделі. Спочатку функція з’явиться в США для користувачів платних тарифів Pro, Max і Ultra у бета-режимі. Дат запуску в інших країнах поки не назвали. Аналітики розглядають це як відповідь на подібні фінансові інструменти ChatGPT від OpenAI.
Ще одна тема, яка показує зміну ринку праці в ІТ, — пошук роботи junior-розробниками. За даними DOU, junior Python-інженер Іван Вентик за три місяці надіслав 330 резюме. Він отримав 33 запрошення на співбесіди і 6 тестових завдань, які треба було виконати вдома. Частина завдань мала дедлайни на вихідні, а один із кандидатів, за його словами, не отримав жодного зворотного зв’язку. Вентик визнає, що для виконання домашніх завдань використовував ШІ.
Джерело: dev.ua
4
