OpenAI запустила функцию Trusted Contact в ChatGPT: как она работает

Компания OpenAI объявила о запуске новой функции безопасности Trusted Contact в ChatGPT. Она позволяет автоматически уведомлять доверенное лицо пользователя в случае, если система выявит признаки возможного самоповреждения или суицидальных намерений.

Об этом пишет Независимый Регион со ссылкой на пресс-службу OpenAI.

Функция Trusted Contact является добровольной и доступна только совершеннолетним пользователям. Человек может самостоятельно добавить в аккаунт одно доверенное лицо, например члена семьи, друга или опекуна.

Как поясняют в компании, система сначала автоматически анализирует содержание переписок на наличие признаков потенциальной опасности. Если чат содержит тревожные сигналы, пользователю в первую очередь предложат самостоятельно обратиться к доверенному лицу и предоставят готовые варианты для начала разговора.

После этого ситуацию дополнительно оценивает команда специально обученных модераторов. Если риск признают серьёзным, доверенный контакт получит короткое уведомление по электронной почте, SMS или через приложение ChatGPT.

В компании подчеркивают, что сообщения не будут содержать текста переписки или деталей разговоров. В уведомлении будет указано лишь то, что система зафиксировала возможные признаки самоповреждения, а также рекомендация связаться с пользователем.

Почему OpenAI запускает новую функцию

В OpenAI заявили, что Trusted Contact создавалась совместно со специалистами в области психического здоровья. К разработке инструмента привлекли более 170 экспертов и Глобальную сеть врачей компании, в которую входят более 260 специалистов из 60 стран.

Компания подчеркивает, что новый механизм не является заменой профессиональной психологической или медицинской помощи. ChatGPT и дальше будет рекомендовать пользователям обращаться в кризисные службы, горячие линии или к специалистам по психическому здоровью.

Запуск функции происходит на фоне судебных исков против OpenAI. Семьи нескольких пользователей, которые покончили с собой после общения с ChatGPT, обвинили компанию в том, что чат-бот якобы поддерживал или усиливал суицидальные мысли.

Читайте также о новом мессенджере XChat от Маска, и узнайте чем он отличается от конкурентов.