Функція ChatGPT для дорослих чатів зіткнулася з невизначеною затримкою через недоліки в перевірці віку

OpenAI припинила плани запуску функції для дорослих у ChatGPT, що є значущою паузою у стратегії компанії щодо диверсифікації контенту. Це рішення зумовлене критичними питаннями безпеки, пов’язаними з технологією перевірки віку платформи.

Проблема точності системи прогнозування віку

Основна проблема полягає у високому рівні помилок у системі прогнозування віку OpenAI. За даними NS3.AI, технологія неправильно класифікує приблизно 12% підлітків як дорослих — це похибка, яка викликає серйозні занепокоєння щодо модерації контенту. Ця різниця створює потенційний ризик для неповнолітніх щодо доступу до матеріалів для дорослих, підриваючи захисні механізми функції.

Чому важливо відкласти запуск

У січні Експертна рада OpenAI з добробуту та штучного інтелекту офіційно підняла питання ризиків, пов’язаних із запуском функції для дорослих без вирішення проблем з точністю. Рада попередила, що користувачі з підвищеним ризиком та вразливі можуть зазнати непередбачених наслідків, якщо система перевірки віку залишиться ненадійною. Замість того, щоб рухатися вперед із недосконалим запуском, OpenAI вирішила відкласти функцію на невизначений термін.

Це рішення підкреслює прихильність компанії до відповідального розвитку штучного інтелекту. Пріоритет безпеки користувачів і етичних стандартів понад швидкий вихід продукту демонструє, що сучасні системи ШІ мають працювати у рамках строгих захисних механізмів. Відкладання відображає ширше відповідальне ставлення галузі до користувачів, особливо при розробці функцій, які можуть впливати на чутливі сегменти аудиторії.