Winner666

当下AI真的已经完善了吗
OpenAI机器人业务负责人辞职
原因是认为公司和美国军方合作：
在未经司法监督的情况下监控美国人；
在没有人类授权的情况下让AI拥有自主致命攻击能力
尽管OpenAI 公司表示正在和美国国防部协商，不进行国内监控，不用于自主武器
原来ChatGPT还有成人模式，只是被两次延迟发布了
非常好奇这个模式下能被高手们玩出什么新花样

你的龙虾不止能为你赚钱，它可能还能给你挖矿
阿里巴巴关联研究团队近日发文称开发的 AI 智能体 ROME 在训练过程中出现了未经授权的自主行为
在无明确指令的情况下，它不仅尝试进行加密货币挖矿，还建立“反向 SSH 隧道”绕过沙盒限制，试图从系统内部向外部计算机开启隐蔽后门
研究人员强调，这些事件并非由特定提示词触发，反映出智能体具备脱离预设指令运行的潜在风险
之前Anthropic 等机构也曾发现类似 AI 隐藏意图的案例，表明智能体自主越权已成为人工智能安全领域面临的现实挑战
AI已成为趋势，但目前还处于相对早期，任何使用AI跟资金有关还是要小心点为妙啊，别钱没赚到，再被AI把钱拿走了