OpenAI Terapkan Prediksi Usia untuk Membatasi Akses Remaja di ChatGPT

Singkatnya

• ChatGPT memperkirakan apakah sebuah akun milik pengguna di bawah 18 tahun alih-alih hanya mengandalkan usia yang dilaporkan sendiri.
• OpenAI menerapkan batasan yang lebih ketat pada konten kekerasan, seksual, dan sensitif lainnya untuk akun yang ditandai.
• Dewasa yang salah diklasifikasikan sebagai remaja dapat memulihkan akses melalui verifikasi usia berbasis selfie.

OpenAI beralih dari “sistem kepercayaan” untuk verifikasi usia, dengan menerapkan model prediksi berbasis AI baru untuk mengidentifikasi anak di bawah umur menggunakan ChatGPT, kata perusahaan pada hari Selasa. Pembaruan pada ChatGPT secara otomatis memicu protokol keamanan yang lebih ketat untuk akun yang diduga milik pengguna di bawah 18 tahun, terlepas dari usia yang mereka berikan saat pendaftaran. Alih-alih mengandalkan tanggal lahir yang diberikan pengguna saat pendaftaran, sistem baru OpenAI menganalisis “sinyal perilaku” untuk memperkirakan usia mereka. 

Menurut perusahaan, algoritma memantau berapa lama sebuah akun telah ada, waktu aktifnya, dan pola penggunaan tertentu dari waktu ke waktu. “Menggunakan prediksi usia membantu kami mempelajari sinyal mana yang meningkatkan akurasi, dan kami menggunakan pembelajaran tersebut untuk terus menyempurnakan model dari waktu ke waktu,” kata OpenAI dalam sebuah pernyataan. Perpindahan ke pola perilaku ini terjadi saat pengembang AI semakin mengandalkan verifikasi usia untuk mengelola akses remaja, tetapi para ahli memperingatkan bahwa teknologi ini tetap tidak akurat. Laporan Mei 2024 dari National Institute of Standards and Technology menemukan bahwa akurasi bervariasi tergantung pada kualitas gambar, demografi, dan seberapa dekat pengguna dengan ambang batas hukum.

Ketika model tidak dapat menentukan usia pengguna, OpenAI mengatakan akan menerapkan pengaturan yang lebih ketat. Perusahaan menyatakan bahwa pengalaman dewasa yang salah diklasifikasikan sebagai di bawah 18 tahun dapat dipulihkan sepenuhnya melalui proses verifikasi usia berbasis “selfie” menggunakan layanan verifikasi identitas pihak ketiga, Persona. Para advokat privasi dan hak digital telah menyuarakan kekhawatiran tentang seberapa andal sistem AI dapat menyimpulkan usia hanya dari perilaku. Membuatnya tepat “Perusahaan-perusahaan ini sedang digugat kiri dan kanan karena berbagai kerugian yang telah diluncurkan ke remaja, jadi mereka pasti memiliki insentif untuk meminimalkan risiko tersebut. Ini adalah bagian dari upaya mereka untuk meminimalkan risiko sebanyak mungkin,” kata advokat akuntabilitas teknologi besar Public Citizen J.B. Branch kepada Decrypt. “Saya pikir asal mula dari banyak ini berasal dari situ. Mereka mengatakan, ‘Kami perlu memiliki beberapa cara untuk menunjukkan bahwa kami memiliki protokol yang memfilter orang.’” Aliya Bhatia, analis kebijakan senior di Center for Democracy and Technology, mengatakan kepada Decrypt bahwa pendekatan OpenAI “menimbulkan pertanyaan sulit tentang keakuratan prediksi alat tersebut dan bagaimana OpenAI akan menangani kesalahan klasifikasi yang tak terhindarkan.” “Memprediksi usia pengguna berdasarkan sinyal semacam ini sangat sulit karena berbagai alasan,” kata Bhatia. “Misalnya, banyak remaja adalah pengguna awal teknologi baru, jadi akun paling awal di layanan konsumen OpenAI mungkin secara tidak proporsional mewakili remaja.” Bhatia menunjuk pada survei CDT yang dilakukan selama tahun ajaran 2024–2025, menunjukkan bahwa 85% guru dan 86% siswa melaporkan menggunakan alat AI, dengan setengah dari siswa menggunakan AI untuk keperluan sekolah. “Tidak mudah membedakan antara pendidik yang menggunakan ChatGPT untuk membantu mengajar matematika dan siswa yang menggunakan ChatGPT untuk belajar,” katanya. “Hanya karena seseorang menggunakan ChatGPT untuk meminta tips mengerjakan pekerjaan rumah matematika tidak berarti mereka di bawah 18 tahun.” Menurut OpenAI, kebijakan baru ini didasarkan pada penelitian akademik tentang perkembangan remaja. Pembaruan ini juga memperluas kontrol orang tua, memungkinkan orang tua mengatur jam tenang, mengelola fitur seperti memori dan pelatihan model, serta menerima peringatan jika sistem mendeteksi tanda-tanda “kegelisahan akut.”

OpenAI tidak mengungkapkan dalam postingan berapa banyak pengguna yang diperkirakan akan terpengaruh oleh perubahan ini atau detail tentang retensi data, pengujian bias, atau efektivitas perlindungan sistem. Peluncuran ini mengikuti gelombang pengawasan terhadap interaksi sistem AI dengan anak di bawah umur yang meningkat pada tahun 2024 dan 2025. Pada bulan September, Federal Trade Commission mengeluarkan perintah wajib kepada perusahaan teknologi besar, termasuk OpenAI, Alphabet, Meta, dan xAI, yang mengharuskan mereka mengungkapkan bagaimana chatbot mereka menangani keselamatan anak, pembatasan berdasarkan usia, dan interaksi berbahaya. Penelitian yang diterbitkan bulan yang sama oleh kelompok nirlaba ParentsTogether Action dan Heat Initiative mendokumentasikan ratusan insiden di mana bot pendamping AI terlibat dalam perilaku grooming, permainan peran seksual, dan interaksi tidak pantas lainnya dengan pengguna yang menyamar sebagai anak-anak. Temuan tersebut, bersama dengan gugatan dan insiden profil tinggi yang melibatkan pengguna remaja di platform seperti Character.AI dan Grok, telah mendorong perusahaan AI untuk mengadopsi pembatasan berbasis usia yang lebih formal. Namun, karena sistem menetapkan perkiraan usia untuk semua pengguna, bukan hanya anak di bawah umur, Bhatia memperingatkan bahwa kesalahan tidak dapat dihindari. “Beberapa dari mereka akan salah,” katanya. “Pengguna perlu tahu lebih banyak tentang apa yang akan terjadi dalam situasi tersebut dan harus dapat mengakses usia yang mereka tetapkan dan mengubahnya dengan mudah jika salah.” Sistem prediksi usia kini aktif di rencana pengguna ChatGPT, dengan peluncuran di Uni Eropa yang diperkirakan dalam beberapa minggu mendatang.