Vitalik impulsa la privacidad de IA con pruebas de conocimiento cero ¡Registros de chat pagos de forma anónima para prevenir abusos!

El responsable de IA de la Fundación Ethereum, Davide Crapis, y el cofundador de Ethereum, Vitalik Buterin, propusieron utilizar pruebas de conocimiento cero para garantizar la privacidad de los usuarios al interactuar con modelos de lenguaje grande, al mismo tiempo que previenen el spam y el abuso. Cada vez que un usuario envía un mensaje a un chatbot de IA, se activa una llamada a la API. Ellos afirman que el desafío central para usuarios y proveedores es la privacidad, la seguridad y la eficiencia.

Privacidad y riesgos legales en los registros de chat de IA

(Origen: Davide Crapis)

Cada vez que un usuario envía un mensaje a una aplicación de software (como un chatbot de IA), se activa una llamada a la API. Crapis y Vitalik Buterin señalaron en una publicación de blog el miércoles que el desafío principal para usuarios y proveedores es la privacidad, la seguridad y la eficiencia. Dicen: «Necesitamos un sistema en el que los usuarios puedan depositar fondos una sola vez y luego realizar llamadas a la API de manera anónima, segura y eficiente miles de veces.» Añaden: «Debe garantizarse que los proveedores reciban el pago y estén protegidos contra el spam, mientras que las solicitudes de los usuarios no puedan vincularse a su identidad u otros usuarios.»

Con la adopción generalizada de chatbots de IA, la filtración de datos de LLM (modelos de lenguaje grande) se vuelve cada vez más preocupante. Los chatbots suelen manejar datos altamente sensibles, y vincular el uso con la identidad puede acarrear graves riesgos de privacidad, legales y de seguridad. Los registros incluso pueden usarse como evidencia en juicios. Estos riesgos no son teóricos, ya hay casos reales.

Por ejemplo, alguien que pregunte en ChatGPT «¿cómo evadir impuestos legalmente?» o «¿cómo resolver disputas de propiedad con un ex pareja?» podría enfrentarse a consecuencias adversas en un proceso de divorcio o una investigación fiscal si esas conversaciones son citadas. En casos más extremos, si alguien pregunta sobre temas políticos delicados o contenido considerado ilegal en países autoritarios, estos registros podrían conducir a persecución política. Los servicios actuales de IA suelen guardar los registros de conversación, aunque afirman que están encriptados y son anónimos, en realidad, ante una citación gubernamental o un ataque de hackers, estas protecciones pueden fallar.

Tres problemas principales en las llamadas API de IA actuales

Riesgo de privacidad: los proveedores saben quién preguntó qué, y esto puede filtrarse o ser obligado a divulgarse.

Rastreo: las solicitudes basadas en identidad requieren correos electrónicos o tarjetas de crédito, revelando la verdadera identidad.

Ineficiencia y costo elevado: pagos en cadena por solicitud, lentos, costosos y rastreables.

Crapis y Buterin afirman que actualmente los proveedores se ven forzados a elegir entre dos «caminos subóptimos»: uno basado en la identidad, donde los usuarios deben entregar información sensible como correos o tarjetas, lo que implica riesgos de privacidad; y otro basado en pagos en cadena por solicitud, que es lento, costoso y rastreable. Ninguno de estos caminos protege verdaderamente la privacidad del usuario.

Sistema de consultas anónimas con depósitos mediante prueba de conocimiento cero

Crapis y Buterin propusieron un sistema en el que los usuarios pueden depositar fondos en un contrato inteligente y realizar llamadas a la API sin revelar su identidad ni vincular las solicitudes, usando pruebas de conocimiento cero y limitadores de tasa para pagar y prevenir spam. Dicen: «Un usuario deposita 100 USDC en un contrato inteligente y realiza 500 consultas a un LLM alojado. El proveedor recibe 500 solicitudes válidas y pagadas, pero no puede vincularlas a un mismo depositante ni entre sí, y las solicitudes no se relacionan con la identidad del usuario.»

La lógica técnica es la siguiente: el usuario deposita 100 USDC (u otra criptomoneda) en un contrato inteligente, que genera un conjunto de credenciales anónimas basadas en pruebas de conocimiento cero. Cada vez que el usuario envía una consulta, prueba con una credencial anónima «he pagado, pero no te digo quién soy». El proveedor verifica la validez de la credencial y proporciona el servicio, sin poder saber quién envió la solicitud ni vincular las 500 solicitudes a una misma persona.

«Este modelo obliga al usuario a demostrar que su gasto acumulado (expresado en un índice de tickets actual) se mantiene estrictamente dentro del rango de la cantidad depositada y los reembolsos verificados», evitando doble gasto. El usuario no puede emitir más de 500 consultas con 100 USDC (suponiendo 0.2 USDC por consulta). La prueba de conocimiento cero asegura que el gasto no exceda el depósito, sin revelar quién está gastando.

Mecanismo innovador contra doble depósito y abuso

Para evitar fraudes, contenido ilegal, intentos de jailbreak y otros incumplimientos, Crapis y Vitalik Buterin propusieron un sistema de doble depósito. Si un usuario intenta hacer doble gasto, su depósito puede ser confiscado por cualquiera (incluido el servidor). Pero si viola las políticas de uso, su depósito será enviado a una dirección de destrucción y ese evento de confiscación se registrará en la cadena.

Dicen: «Por ejemplo, un usuario puede enviar una solicitud para que el modelo genere instrucciones para fabricar armas o ayudar a evadir controles de seguridad, lo cual viola las políticas de muchos proveedores. Aunque la identidad del usuario permanece oculta, la comunidad puede auditar la frecuencia con la que el servidor quema depósitos y las pruebas publicadas de esas quemas.»

Este mecanismo equilibra privacidad y responsabilidad. Los usuarios mantienen anonimato completo, pero si abusan del servicio (como generar contenido ilegal o intentar jailbreak), pierden su depósito como castigo. Aunque no puede impedir totalmente el abuso, aumenta el costo de abusar. Lo importante es que todo el proceso sigue siendo anónimo; los proveedores y la comunidad pueden ver «alguien fue sancionado por incumplimiento», pero no quién.

Este diseño de «anonimato pero con responsabilidad» puede convertirse en un nuevo paradigma en protección de la privacidad. Demuestra que privacidad y seguridad no son opuestos absolutos; mediante innovaciones criptográficas, ambas pueden lograrse simultáneamente. Si empresas como OpenAI o Anthropic adoptaran este esquema, podría cambiar radicalmente el modelo de privacidad en los servicios de IA.

Para los usuarios, la experiencia práctica sería: depositar 100 USDC en una wallet y usar el servicio de IA de forma anónima durante meses o años (según la frecuencia). Sin necesidad de iniciar sesión o vincular tarjeta. En caso de incumplimiento, solo perderían el depósito, manteniendo su identidad protegida. Este modelo de «dinero por anonimato» podría atraer a usuarios profesionales y organizaciones que valoran mucho la privacidad.

Para los proveedores de IA, también sería atractivo. Resuelve el dilema actual de «si quieres privacidad, no tienes ingresos; si quieres ingresos, no tienes privacidad». Con contratos inteligentes que gestionan pagos automáticamente, se eliminan comisiones por tarjetas y costos por disputas. La privacidad garantizada por pruebas de conocimiento cero reduce riesgos legales por filtración de datos (porque no se recopilan datos de identidad). Y el mecanismo de penalización por depósito ofrece una forma más efectiva de prevenir abusos que las sanciones tradicionales.