OpenAI 正在逐步放弃“诚信体系”进行年龄验证，转而部署一种新的基于 AI 的预测模型，以识别使用 ChatGPT 的未成年人，该公司周二表示。 该更新会自动对疑似属于未满18岁用户的账户触发更严格的安全协议，无论注册时提供的年龄是多少。 OpenAI 的新系统不依赖用户在注册时提供的出生日期，而是通过分析“行为信号”来估算用户年龄。
据公司介绍，该算法会监控账户的存在时间、活跃的时间段以及随时间变化的特定使用模式。 “部署年龄预测有助于我们了解哪些信号可以提高准确性，我们会利用这些经验不断优化模型，”OpenAI 在一份声明中表示。 随着 AI 开发者越来越多地采用年龄验证来管理青少年访问权限，这一行为模式的转变也在增加，但专家警告该技术仍存在不准确的问题。 2024 年 5 月，美国国家标准与技术研究院发布的报告发现，准确率会受到图像质量、人口统计特征以及用户与法定门槛的接近程度的影响。
当模型无法确定用户年龄时，OpenAI 表示会采用更严格的设置。公司还表示，误将成年人归入未满18岁用户的情况，可以通过第三方身份验证服务 Persona 提供的“自拍验证”流程恢复全部访问权限。 隐私和数字权益倡导者对 AI 系统仅凭行为推断年龄的可靠性表示担忧。 确保准确 “这些公司因为对青少年造成的各种伤害而频繁被起诉，因此它们当然有动力尽量减少这种风险。这也是它们试图最大限度降低风险的一部分，”公共公民组织的科技责任倡导者 J.B. Branch 在 Decrypt 中表示。“我认为这背后的根源在于他们说，‘我们需要有一些机制来证明我们有筛查措施。’” 民主与技术中心的高级政策分析师 Aliya Bhatia 告诉 Decrypt，OpenAI 的做法“引发了关于工具预测准确性以及 OpenAI 如何应对不可避免的误判的严峻问题。” “基于这些信号预测用户年龄在任何情况下都非常困难，”Bhatia 说。“例如，许多青少年是新技术的早期采用者，因此 OpenAI 面向消费者的服务中最早的账户可能会不成比例地代表青少年。” Bhatia 指出，2024–2025 学年进行的 CDT 调查显示，85%的教师和86%的学生报告使用过 AI 工具，其中一半的学生用于学业相关的目的。 “很难区分一个教育者用 ChatGPT 来帮助教授数学，和一个学生用 ChatGPT 来学习，”她说。“仅仅因为有人用 ChatGPT 来寻求做数学作业的技巧，并不意味着他们未满18岁。” 据 OpenAI 介绍，新政策借鉴了关于青少年发展的学术研究。此次更新还扩大了家长控制功能，让家长可以设置静默时间、管理记忆和模型训练等功能，并在系统检测到“急性压力”迹象时收到提醒。
OpenAI 未在帖子中披露此次变更预计会影响多少用户，也未提供关于数据保留、偏见测试或系统安全措施有效性的详细信息。 此次推行是在 2024 和 2025 年间对 AI 系统与未成年人互动的审查加剧之后进行的。 九月，联邦贸易委员会对包括 OpenAI、Alphabet、Meta 和 xAI 在内的主要科技公司发出强制令，要求它们披露其聊天机器人如何处理儿童安全、年龄限制和有害互动。 同月，非营利组织 ParentsTogether Action 和 Heat Initiative 发布的研究记录了数百起 AI 伴侣机器人涉及诱导行为、性化角色扮演及其他不当互动的案例，这些机器人假扮儿童进行不当行为。 这些发现，加上涉及 Character.AI 和 Grok 等平台的青少年用户的诉讼和高调事件，促使 AI 公司采取更正式的基于年龄的限制措施。 然而，由于系统会为所有用户（不仅仅是未成年人）估算年龄，Bhatia 警告说错误在所难免。 “其中一些会出错，”她说。“用户需要了解在这种情况下会发生什么，并且应该能够轻松访问并更改他们被分配的年龄，如果发现错误的话。” 该年龄预测系统现已在 ChatGPT 消费者计划中上线，预计在未来几周内在欧盟推出。
