Віталік просуває використання доказів із нульовим розголошенням для захисту приватності AI! Анонімна оплата за чат-логи проти зловживань

Керівник AI Фонду Ethereum Давиде Крапіс і співзасновник Ethereum Віталік Бутерін запропонували використовувати нульові знання для забезпечення приватності взаємодії користувачів із великими мовними моделями, одночасно запобігаючи спаму та зловживанням. Кожного разу, коли користувач надсилає повідомлення чат-боту, відбувається виклик API. Вони стверджують, що основні виклики для користувачів і постачальників — це приватність, безпека та ефективність.

Приватність та юридичні ризики чат-історій AI

(Джерело: Давиде Крапіс)

Кожного разу, коли користувач надсилає повідомлення додатку (наприклад, чат-боту AI), активується виклик API. Крапіс і Віталік Бутерін у блозі в середу зазначили, що основні виклики для користувачів і постачальників — це приватність, безпека та ефективність. Вони кажуть: «Нам потрібна система, де користувач може один раз внести кошти і анонімно, безпечно та ефективно здійснювати тисячі API-запитів.» Вони додають: «Необхідно гарантувати, що постачальники отримують оплату і захищені від спаму, а також що запити користувачів не пов’язані з їхньою особистістю або іншими користувачами.»

Зі зростанням застосування чат-ботів AI все більше викликає занепокоєння проблема витоку даних великих мовних моделей (LLM). Зазвичай чат-боти обробляють дуже чутливі дані, і зв’язування використання з особистістю може спричинити серйозні ризики для приватності, юридичної та безпекової сфери. Журнали використання навіть можуть слугувати доказами у судових процесах. Ці ризики не є теоретичними — вже є реальні випадки.

Наприклад, особа може запитати у ChatGPT «як легально уникнути сплати податків» або «як вирішити майнові спори з колишнім партнером». Такі записи, якщо їх викличуть у суді, можуть негативно вплинути на цю особу у розлучних процесах або податкових розслідуваннях. Ще більш крайній випадок — якщо хтось запитує про чутливі політичні теми або заборонений у країнах з авторитарним режимом контент, ці записи можуть призвести до політичних переслідувань. Поточні сервіси AI зазвичай зберігають історію діалогів користувачів, хоча і стверджують, що вона зашифрована та анонімізована, проте у разі державних ордерів або хакерських атак ці захисти можуть бути зламані.

Три основні проблеми сучасних API викликів AI

Ризики приватності: постачальники знають, хто і що запитує, і можуть розкривати або бути змушені розкривати цю інформацію

Відстежуваність: ідентифікація через електронну пошту або кредитну картку, що розкриває реальну особу

Неефективність і висока вартість: оплата за запити у блокчейні повільна, дорога і відстежувана

Крапіс і Бутерін зазначають, що наразі постачальники змушені обирати між двома «менш бажаними шляхами»: один — ідентифікаційний доступ, коли користувачі змушені залишати електронну пошту або кредитні картки, що створює ризики приватності; інший — оплата за запит у блокчейні, що є повільною, дорогою і відстежуваною. Обидва варіанти не дають справжнього захисту приватності користувачів.

Рішення анонімних запитів із використанням нульових знань

Крапіс і Бутерін запропонували систему, де користувачі можуть внести кошти у смарт-контракт і виконувати API-запити без розкриття особистості або зв’язку з конкретним запитом, використовуючи нульові знання та обмежувач швидкості для оплати та запобігання спаму. Вони кажуть: «Користувач вносить 100 USDC у смарт-контракт і робить 500 запитів до LLM. Постачальник отримує 500 дійсних, оплачуваних запитів, але не може зв’язати їх із конкретним користувачем або між собою, а запити залишаються анонімними.»

Технічна логіка цієї системи полягає у тому, що користувач вносить 100 USDC (або іншу криптовалюту) у смарт-контракт, який генерує для нього набір анонімних сертифікатів (на основі нульових знань). Кожного разу, коли користувач надсилає запит, він використовує анонімний сертифікат, щоб довести, що «я заплатив, але не розкриваю свою особистість». Постачальник AI перевіряє дійсність сертифіката і надає послугу, не знаючи, хто саме його зробив, і не може зв’язати 500 запитів із одним користувачем.

«Ця модель забезпечує, що користувачі підтверджують свої загальні витрати (з урахуванням поточного індексу квитків), щоб суворо залишатися у межах початкового депозиту та підтверджених записів повернення коштів.» Це запобігає подвійним витратам. Користувач не може витратити більше, ніж внесено (наприклад, 0.2 USDC за запит), а нульові знання гарантують, що витрати не перевищують депозит, не розкриваючи, хто саме витрачає.

Інноваційний механізм протидії подвійним ставкам і зловживанням

Щоб запобігти шахрайству, нелегальному контенту, спробам зламати систему та іншим порушенням правил, Крапіс і Бутерін запропонували систему подвійного заставлення. Якщо користувач буде виявлений у спробі подвійного використання депозиту, його кошти можуть бути конфісковані будь-яким учасником (включно з сервером). Але у разі порушення правил, депозит користувача буде відправлений на адресу знищення, і ця подія буде зафіксована у блокчейні.

Вони кажуть: «Наприклад, користувач може подати запит, щоб модель створила інструкцію для виготовлення зброї або допомогла обійти системи безпеки — такі запити порушують політику багатьох постачальників. Хоча особистість користувача залишається прихованою, спільнота може перевірити частоту «спалювання» застави і докази таких дій.»

Цей механізм балансує приватність і відповідальність. Користувач має повну анонімність, але при зловживанні сервісом (генерація нелегального контенту, злам системи) його депозит буде конфісковано як покарання. Хоча цей економічний механізм не може повністю запобігти всім зловживанням, він підвищує їхню ціну. Важливо, що весь процес залишається анонімним: сервіс і спільнота бачать лише, що «хтось був покараний за порушення», але не знають, хто саме.

Такий «анонімний, але з підзвітністю» дизайн може стати новим стандартом у технологіях приватності. Це доводить, що приватність і безпека не є абсолютними протилежностями — за допомогою криптографічних інновацій можна досягти обох. Якщо цей підхід буде впроваджено компаніями, такими як OpenAI, Anthropic, це може кардинально змінити модель приватності у AI-сервісах.

Для користувачів цей підхід означає, що вони можуть один раз внести 100 USDC у гаманець і анонімно користуватися AI протягом місяців або років (залежно від частоти використання), без необхідності входу у систему або прив’язки кредитної картки. У разі порушення правил вони втратять максимум депозит, але їхня особистість залишиться захищеною. Така модель «купівлі анонімності за гроші» може привабити багато приватних користувачів і організацій.

Для постачальників AI-сервісів цей підхід також має переваги. Він вирішує дилему «приватність проти доходу»: автоматизація платежів через смарт-контракти усуває витрати на обробку кредитних карток і суперечки. Використання нульових знань для анонімності знижує юридичні ризики витоку даних (оскільки особисті дані не збираються). А механізм застави і покарань забезпечує більш ефективний захист від зловживань, ніж традиційні блокування.