技术投资者兼前Coinbase首席技术官Balaji Srinivasan提出了一个严峻的命题:在人工智能(AI)飞速发展的世界中,私钥——而不仅仅是提示——可能决定谁或什么保持控制权。
著名加密货币投资者、《网络国家》作者Balaji Srinivasan发布了一篇题为“非你的钥匙,非你的机器人”的广泛推文,探讨人工智能是否会始终受制于人类指挥,还是最终自主设定方向。
虽然这只是一篇简短的推文,但他直截了当地表达了问题:“根本问题在于AI是否会被拴在绳索上。”
目前,Srinivasan认为,人类仍然处于上游。AI系统可能会优化提示、生成内部独白和自我纠错,但目标仍由人类定义。“然而,人类仍然是最终的上游,”他写道,将人类描述为目标设定者和响应市场、政治及变化条件的感知者。
他质疑这种层级是否会持续存在。随着AI模型在验证和推理方面的提升,他暗示它们可能在许多任务上超越人类。然而,Srinivasan对机器能否自主生成基础目标表示怀疑。“但AI会取代对上游人类提示的需求吗?我不太确定。”
在他看来,关键限制在于繁殖。人类的动机源于进化压力——食物、住所,尤其是繁殖。他认为,除非AI系统能在没有人类合作的情况下繁殖,否则它们将依赖于人类设定的目标。
Srinivasan描绘了一个假设的未来:自主AI需要控制物理基础设施——类人机器人、无人机、数据中心、装配线和能源生产——全部在没有人类监督的情况下运行。虽然他承认这种场景“在技术上并非不可想象”,但他转向地缘政治。
他认为,中国更可能开发受控的AI系统,而非完全自主的。“我们以中国共产主义更可能产生AI奴隶而非AI神祇为前提,”他写道。在这种框架下,机器人和数字代理将受到与人类身份相关联的密码学控制。
他将这一逻辑推广到全球。Srinivasan建议,区块链密码学可以作为AI治理的机制。“所有私有财产都变成私钥,而你的机器人是你最重要的私有财产,因为它们为你做所有事情,”他写道。
在这个设想的未来中,无拘无束的机器人将被视为安全威胁,在它们复制之前被消除。Srinivasan将其比作对流行反乌托邦叙事的逆转——人类与顺从的机器合作,防止自主AI建立自我维持的基础。
虽然这被描述为推测,但他的观点触及了关于AI对齐、数字主权以及密码学在新兴技术中的作用的持续辩论。随着各国考虑AI监管,企业加快研发步伐,Srinivasan的观点增添了一抹加密色彩:掌控钥匙,掌控机器人。