“没有你的密钥,就没有你的机器人”:Balaji Srinivasan 描绘了一个被束缚的人工智能未来

Coinpedia
NOT1.12%

技术投资者兼前Coinbase首席技术官Balaji Srinivasan提出了一个严峻的命题:在人工智能(AI)飞速发展的世界中,私钥——而不仅仅是提示——可能决定谁或什么保持控制权。

Balaji“非你的钥匙,非你的机器人”推文中的机器人与加密技术结合

著名加密货币投资者、《网络国家》作者Balaji Srinivasan发布了一篇题为“非你的钥匙,非你的机器人”的广泛推文,探讨人工智能是否会始终受制于人类指挥,还是最终自主设定方向。

虽然这只是一篇简短的推文,但他直截了当地表达了问题:“根本问题在于AI是否会被拴在绳索上。”

目前,Srinivasan认为,人类仍然处于上游。AI系统可能会优化提示、生成内部独白和自我纠错,但目标仍由人类定义。“然而,人类仍然是最终的上游,”他写道,将人类描述为目标设定者和响应市场、政治及变化条件的感知者。

他质疑这种层级是否会持续存在。随着AI模型在验证和推理方面的提升,他暗示它们可能在许多任务上超越人类。然而,Srinivasan对机器能否自主生成基础目标表示怀疑。“但AI会取代对上游人类提示的需求吗?我不太确定。”

在他看来,关键限制在于繁殖。人类的动机源于进化压力——食物、住所,尤其是繁殖。他认为,除非AI系统能在没有人类合作的情况下繁殖,否则它们将依赖于人类设定的目标。

Srinivasan描绘了一个假设的未来:自主AI需要控制物理基础设施——类人机器人、无人机、数据中心、装配线和能源生产——全部在没有人类监督的情况下运行。虽然他承认这种场景“在技术上并非不可想象”,但他转向地缘政治。

他认为,中国更可能开发受控的AI系统,而非完全自主的。“我们以中国共产主义更可能产生AI奴隶而非AI神祇为前提,”他写道。在这种框架下,机器人和数字代理将受到与人类身份相关联的密码学控制。

他将这一逻辑推广到全球。Srinivasan建议,区块链密码学可以作为AI治理的机制。“所有私有财产都变成私钥,而你的机器人是你最重要的私有财产,因为它们为你做所有事情,”他写道。

在这个设想的未来中,无拘无束的机器人将被视为安全威胁,在它们复制之前被消除。Srinivasan将其比作对流行反乌托邦叙事的逆转——人类与顺从的机器合作,防止自主AI建立自我维持的基础。

虽然这被描述为推测,但他的观点触及了关于AI对齐、数字主权以及密码学在新兴技术中的作用的持续辩论。随着各国考虑AI监管,企业加快研发步伐,Srinivasan的观点增添了一抹加密色彩:掌控钥匙,掌控机器人。

常见问答

  • **“非你的钥匙,非你的机器人”是什么?**这是Balaji Srinivasan的一篇推文,主张私钥可能像保护数字资产一样,治理AI系统。
  • **Balaji相信AI能完全取代人类吗?**他质疑AI是否能消除对人类设定目标的需求,尤其是在没有自主繁殖的情况下。
  • **他为什么提到中国?**他认为中国更可能部署受密码学限制的受控AI系统。
  • **区块链在其中扮演什么角色?**Srinivasan提出,密码学钥匙和区块链基础设施可以作为AI治理的工具。
查看原文
免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明
评论
0/400
暂无评论