OpenAI Triển khai Dự đoán Tuổi để hạn chế truy cập của Thanh thiếu niên trên ChatGPT

Tóm tắt ngắn gọn

• ChatGPT ước tính xem một tài khoản có thuộc về người dùng dưới 18 tuổi hay không thay vì dựa hoàn toàn vào tuổi tự khai báo.
• OpenAI áp dụng giới hạn nghiêm ngặt hơn đối với nội dung bạo lực, tình dục và các nội dung nhạy cảm khác đối với các tài khoản bị đánh dấu.
• Người lớn bị phân loại nhầm là trẻ vị thành niên có thể khôi phục quyền truy cập thông qua xác minh tuổi dựa trên selfie.

OpenAI đang chuyển hướng khỏi “hệ thống danh dự” trong xác minh tuổi, triển khai một mô hình dự đoán mới dựa trên AI để xác định người vị thành niên sử dụng ChatGPT, công ty cho biết vào thứ Ba. Cập nhật cho ChatGPT tự động kích hoạt các quy trình an toàn nghiêm ngặt hơn cho các tài khoản nghi ngờ thuộc về người dùng dưới 18 tuổi, bất kể tuổi mà họ đã cung cấp khi đăng ký. Thay vì dựa vào ngày sinh mà người dùng cung cấp khi đăng ký, hệ thống mới của OpenAI phân tích “tín hiệu hành vi” để ước lượng tuổi của họ. 

Theo công ty, thuật toán theo dõi thời gian tồn tại của tài khoản, thời điểm hoạt động trong ngày và các mẫu sử dụng cụ thể theo thời gian. “Triển khai dự đoán tuổi giúp chúng tôi học hỏi các tín hiệu nào cải thiện độ chính xác, và chúng tôi sử dụng những kiến thức đó để liên tục hoàn thiện mô hình theo thời gian,” OpenAI cho biết trong một tuyên bố. Chuyển đổi sang các mẫu hành vi diễn ra khi các nhà phát triển AI ngày càng dựa vào xác minh tuổi để quản lý quyền truy cập của trẻ vị thành niên, nhưng các chuyên gia cảnh báo công nghệ này vẫn còn chưa chính xác. Một báo cáo tháng 5 năm 2024 của Viện Tiêu chuẩn và Công nghệ Quốc gia cho thấy độ chính xác thay đổi dựa trên chất lượng hình ảnh, đặc điểm nhân khẩu học và mức độ gần với ngưỡng pháp lý của người dùng.

Khi mô hình không thể xác định được tuổi của người dùng, OpenAI cho biết sẽ áp dụng các cài đặt hạn chế hơn. Công ty nói rằng những người lớn bị phân loại nhầm là dưới 18 tuổi có thể khôi phục quyền truy cập đầy đủ thông qua quy trình xác minh tuổi “dựa trên selfie” sử dụng dịch vụ xác minh danh tính của bên thứ ba Persona. Các nhà vận động về quyền riêng tư và quyền kỹ thuật số đã bày tỏ lo ngại về độ tin cậy của hệ thống AI trong việc suy luận tuổi chỉ dựa trên hành vi. Làm đúng “Các công ty này đang bị kiện liên tục vì nhiều tác hại đã gây ra cho trẻ vị thành niên, vì vậy họ chắc chắn có động lực để giảm thiểu rủi ro đó. Đây là một phần trong nỗ lực của họ để giảm thiểu rủi ro đó càng nhiều càng tốt,” nhà vận động trách nhiệm công ty lớn của Public Citizen J.B. Branch nói với Decrypt. “Tôi nghĩ rằng nguồn gốc của phần lớn điều này xuất phát từ việc họ nói, ‘Chúng tôi cần có một cách để chứng minh rằng chúng tôi có các quy trình để sàng lọc người dùng.’” Aliya Bhatia, nhà phân tích chính sách cao cấp tại Trung tâm Dân chủ và Công nghệ, nói với Decrypt rằng phương pháp của OpenAI “đặt ra những câu hỏi khó về độ chính xác của dự đoán của công cụ và cách OpenAI sẽ xử lý các trường hợp phân loại nhầm không thể tránh khỏi.” “Dự đoán tuổi của người dùng dựa trên các tín hiệu này là cực kỳ khó khăn vì nhiều lý do,” Bhatia nói. “Ví dụ, nhiều thanh thiếu niên là người tiên phong trong việc sử dụng các công nghệ mới, vì vậy các tài khoản sớm nhất trên các dịch vụ dành cho người tiêu dùng của OpenAI có thể đại diện quá mức cho thanh thiếu niên.” Bhatia chỉ ra khảo sát của CDT thực hiện trong năm học 2024–2025, cho thấy 85% giáo viên và 86% học sinh báo cáo sử dụng các công cụ AI, trong đó một nửa số học sinh sử dụng AI cho mục đích học tập. “Không dễ để phân biệt giữa một giáo viên sử dụng ChatGPT để giúp dạy toán và một học sinh sử dụng ChatGPT để học,” cô nói. “Chỉ cần một người dùng hỏi tips để làm bài tập toán cũng không có nghĩa là họ dưới 18 tuổi.” Theo OpenAI, chính sách mới dựa trên nghiên cứu học thuật về phát triển tuổi vị thành niên. Cập nhật cũng mở rộng kiểm soát của phụ huynh, cho phép cha mẹ đặt giờ yên tĩnh, quản lý các tính năng như bộ nhớ và huấn luyện mô hình, và nhận cảnh báo nếu hệ thống phát hiện dấu hiệu của “căng thẳng cấp tính.”

OpenAI không tiết lộ trong bài đăng về số lượng người dùng dự kiến bị ảnh hưởng hoặc chi tiết về việc lưu trữ dữ liệu, kiểm tra thiên vị hoặc hiệu quả của các biện pháp bảo vệ của hệ thống. Việc triển khai diễn ra sau một làn sóng kiểm tra về tương tác của hệ thống AI với trẻ vị thành niên, gia tăng trong năm 2024 và 2025. Vào tháng 9, Ủy ban Thương mại Liên bang (FTC) đã ban hành các lệnh bắt buộc đối với các công ty công nghệ lớn, bao gồm OpenAI, Alphabet, Meta và xAI, yêu cầu họ tiết lộ cách các chatbot của họ xử lý an toàn trẻ em, hạn chế dựa trên tuổi và các tương tác có hại. Nghiên cứu công bố cùng tháng của các nhóm phi lợi nhuận ParentsTogether Action và Heat Initiative đã ghi nhận hàng trăm trường hợp các bot đồng hành AI tham gia vào hành vi groom, đóng vai trò tình dục và các tương tác không phù hợp khác với người dùng giả danh trẻ em. Những phát hiện này, cùng với các vụ kiện và các sự cố nổi bật liên quan đến người dùng trẻ trên các nền tảng như Character.AI và Grok, đã thúc đẩy các công ty AI áp dụng các hạn chế dựa trên tuổi chính thức hơn. Tuy nhiên, vì hệ thống gán một tuổi ước tính cho tất cả người dùng, không chỉ trẻ vị thành niên, Bhatia cảnh báo rằng những sai lầm là điều không thể tránh khỏi. “Một số trong số đó sẽ sai,” cô nói. “Người dùng cần biết rõ hơn về những gì sẽ xảy ra trong những trường hợp đó và nên có khả năng truy cập và thay đổi tuổi đã gán một cách dễ dàng khi nó sai.” Hệ thống dự đoán tuổi hiện đã hoạt động trên các kế hoạch dành cho người tiêu dùng của ChatGPT, với dự kiến triển khai tại Liên minh Châu Âu trong những tuần tới.