Компанія Anthropic представила FlashProve, систему, яка дозволяє перевірити, чи справді відповідь користувачу надала заявлена модель штучного інтелекту. Технологія використовує криптографію, щоб запобігти непомітній підміні моделей, зокрема дешевшими версіями. Про це повідомили в самій компанії.
Проблема, на яку відповідає FlashProve, полягає в тому, що користувачі ШІ-сервісів сьогодні не можуть достовірно перевірити, яка саме модель відповідає на їхні запити. Компанія може непомітно замінити дорожчу модель дешевшою, щоб зменшити витрати, і визначити таку підміну лише за якістю тексту складно. В Anthropic зазначають, що навіть сурогатні або скомпрометовані системи здатні видавати правдоподібні результати, приховуючи реальний процес генерації від кінцевого споживача. Звичайний користувач, за словами компанії, не може перевірити, яка мовна модель згенерувала відповідь, тож сервіси маршрутизації або самі розробники можуть підміняти моделі без відома клієнта.
Механізм працює у два етапи. Спочатку, в офлайн-фазі, розробник публікує короткий цифровий відбиток ваг моделі, який відповідає конкретному набору її параметрів, без розкриття самих параметрів. Далі, в онлайн-фазі, для кожного конкретного запиту та згенерованих токенів створюється файл доказу. Користувачі або незалежні аудитори можуть перевірити його на звичайному комп'ютері за лічені секунди, і для цього не потрібен доступ до внутрішніх параметрів ШІ.
Anthropic розглядає кілька сценаріїв використання. Клієнти зможуть перевіряти, чи отримують відповіді від моделі, за яку заплатили. Технологія може допомогти виявляти випадки, коли зловмисники підміняють відповіді ШІ або коли розробники використовують інші моделі замість заявлених. Ще один напрям стосується перевірки роботи, яку нібито виконав штучний інтелект: наприклад, розробник програмного забезпечення зможе підтвердити, що його код справді перевірила на вразливості конкретна модель. Крім того, FlashProve потенційно допоможе незалежним дослідникам і регуляторам перевіряти, які моделі використовують компанії.
Під час тестування систему випробували на моделі Llama 4 Maverick від Meta, яка має 400 мільярдів параметрів. Один графічний процесор NVIDIA H100 створював докази зі швидкістю близько 110 токенів за секунду. Файл доказу для відповіді обсягом 1024 токени займав приблизно 19 МБ, а його перевірка на центральному процесорі тривала від 17 до 21 секунди залежно від кількості потоків обчислення. Водночас створення доказів поки потребує значних ресурсів: за оцінкою Anthropic, воно використовує приблизно у 70–95 разів більше часу роботи графічного процесора, ніж звичайна обробка аналогічних запитів.
В Anthropic наголошують, що дослідження триває, а FlashProve ще не готова до широкого використання. Компанія опублікувала проміжні результати та технічну специфікацію, а робочий код виклала на GitHub під відкритою ліцензією, щоб спільнота могла перевірити технологію та вдосконалити її. Розробники сподіваються на активну участь фахівців і переконані, що запровадження таких рішень суттєво підвищить довіру до штучного інтелекту. Технологія також відкриває нові можливості для регулювання галузі, перевірки безпеки та контролю за дотриманням зобов'язань розробниками.
Джерело: ain.ua
7
