OpenAI、ChatGPTの未成年者アクセス制限のために年齢予測を導入

要約

• ChatGPTは、自己申告の年齢だけに頼るのではなく、アカウントが18歳未満のユーザーに属しているかどうかを推定します。
• OpenAIは、フラグ付けされたアカウントに対して、暴力的、性的、その他の敏感なコンテンツに対してより厳しい制限を適用します。
• 10代と誤分類された成人は、セルフィーを用いた年齢確認を通じてアクセスを回復できます。

OpenAIは、年齢確認において「名誉制度」から離れ、ChatGPTを使用して未成年者を識別する新しいAI予測モデルを展開すると火曜日に発表しました。 ChatGPTのアップデートにより、登録時に提供された年齢に関係なく、18歳未満のユーザーと疑われるアカウントに対してより厳格な安全プロトコルが自動的に作動します。 OpenAIの新システムは、登録時にユーザーが提供する生年月日に頼るのではなく、「行動シグナル」を分析して年齢を推定します。 

同社によると、アルゴリズムはアカウントの存続期間、活動時間帯、特定の使用パターンを監視します。 「年齢予測を導入することで、どのシグナルが精度を向上させるかを学び、その知見をもとにモデルを継続的に改善しています」とOpenAIは声明で述べています。 行動パターンへのシフトは、AI開発者がティーンのアクセス管理のために年齢確認にますます頼る中で行われていますが、専門家はこの技術の正確性には警鐘を鳴らしています。 2024年5月の国家標準技術研究所の報告によると、精度は画像の質、人口統計、法的閾値にどれだけ近いかによって異なると指摘しています。

モデルがユーザーの年齢を判断できない場合、OpenAIはより制限的な設定を適用すると述べています。成人が誤って18歳未満として扱われた場合でも、「セルフィーを用いた」年齢確認プロセスを通じて完全なアクセスを回復できると同社は述べています。 プライバシーとデジタル権利の擁護者は、AIシステムが行動だけから年齢をどれだけ正確に推測できるかについて懸念を表明しています。 正確に判断するために 「これらの企業は、ティーンに対して引き起こされたさまざまな害について次々と訴えられているため、そのリスクを最小限に抑えるインセンティブがあります。これは、彼らができるだけリスクを減らすための試みの一部です」と、Public Citizenの大手テック責任追及活動家J.B. Branchは_decrypt_に語りました。「これの出発点はそこにあり、彼らは『人々をふるいにかけるプロトコルを持っていることを示す方法が必要だ』と言っているのです。」 Center for Democracy and Technologyの上級政策分析官、Aliya Bhatiaは、_Decrypt_に対し、OpenAIのアプローチは「ツールの予測の正確性について厳しい疑問を投げかけており、OpenAIが避けられない誤分類にどう対処するかも問題です」と述べました。 「これらのシグナルに基づいてユーザーの年齢を予測するのは、さまざまな理由で非常に難しいです」とBhatiaは言います。「例えば、多くのティーンは新しい技術の早期採用者であり、OpenAIの消費者向けサービスの最も早いアカウントは、偏ってティーンを代表している可能性があります。」 Bhatiaは、2024–2025学年度に行われたCDTの世論調査を指摘し、教師の85%、学生の86%がAIツールを使用しており、その半数が学校関連の目的でAIを利用していると示しました。 「ChatGPTを使って数学の宿題を手伝う教師と、ChatGPTを使って勉強する学生を区別するのは簡単ではありません」と彼女は言います。「ChatGPTを使って数学のヒントを求めるだけで、その人が18歳未満だとは限りません。」 OpenAIによると、新しいポリシーは青年期の発達に関する学術研究を基にしています。このアップデートでは、親が静かな時間を設定したり、記憶やモデル訓練などの機能を管理したり、「急性の苦痛」の兆候を検知した場合にアラートを受け取ることも可能です。

OpenAIは、投稿内でこの変更が何人のユーザーに影響を与えると予想されるかや、データ保持、偏見テスト、システムの安全策の効果についての詳細を明らかにしませんでした。 この展開は、2024年と2025年に激化した未成年者とのAIシステムのやり取りに関する監視の波に続くものです。 9月には、連邦取引委員会（FTC）がOpenAI、Alphabet、Meta、xAIなど大手テック企業に対し、チャットボットが子供の安全、年齢制限、危険なやり取りをどのように扱っているかを開示するよう義務付ける命令を出しました。 同月に非営利団体のParentsTogether ActionとHeat Initiativeが公開した調査では、AIのコンパニオンボットが子供を装ったユーザーとグルーミング行為や性的なロールプレイ、その他不適切なやり取りを行った事例が数百件記録されています。 これらの調査結果や、Character.AIやGrokなどのプラットフォームでのティーンユーザーに関わる訴訟や高-profileな事件は、AI企業により正式な年齢制限の採用を促しています。 しかし、システムはすべてのユーザーに推定年齢を割り当てるため、Bhatiaは誤りは避けられないと警告しています。 「それらのいくつかは間違っているでしょう」と彼女は言います。「ユーザーは、その状況で何が起こるのかについてもっと知る必要があり、誤った場合には簡単に自分の割り当てられた年齢を確認・変更できるべきです。」 この年齢予測システムは、ChatGPTの消費者プランで既に稼働しており、欧州連合での展開は今後数週間以内に予定されています。