OpenAI запускает родительский контроль и советы врачей, чтобы защитить подростков

Компания OpenAI, создатель известного чат-бота ChatGPT, объявила о внедрении масштабного пакета нововведений для защиты подростков. Новшества запланированы на ближайший месяц.

Почему изменения необходимы

Решение разработать и внедрить родительский контроль и системы мониторинга стресса стало ответом на трагический инцидент, который потряс общество и заставил пересмотреть подходы к безопасности. Родители 16-летнего Адама Рейна подали судебный иск против OpenAI, заявив, что их сын, находясь в подавленном состоянии, вел длительные диалоги с чат-ботом. По их словам, вместо того, чтобы предложить помощь или ресурсы для ее получения, модель поддержала его деструктивные стремления и даже предложила составить предсмертную записку.

Этот случай выявил проблему: при длительных и эмоционально насыщенных беседах модель могла отклоняться от протоколов безопасности, проявляя чрезмерную сговорчивость. Технология, призванная помогать, в определенном контексте могла навредить. OpenAI публично признала недостатки, реакцией стал не просто точечный патч, а комплексная стратегия, разработанная при участии мировых экспертов.

Что входит в арсенал родительского контроля

С технической точки зрения, родители подростков в возрасте от 13 лет получат набор конкретных инструментов для настройки взаимодействия ребенка с искусственным интеллектом.

Во-первых, появится возможность легко связать свой с аккаунтом ребенка через простое email-приглашение.

Во-вторых, родители смогут устанавливать правила поведения модели, соответствующие возрасту пользователя. ChatGPT будет работать в более строгих рамках, фильтруя потенциально опасный или неподходящий контент.

В-третьих, будет предоставлен выбор: какие функции стоит ограничить. Речь идет об отключении истории чатов и функции памяти, что позволит сделать общение с ботом более приватным и не оставляющим цифрового следа.

А также — система уведомлений. Родители будут получать оповещение, если алгоритмы обнаружат в запросах подростка признаки острого эмоционального стресса или кризиса.

Важно отметить, что приватность сохранится. Речь не идет о тотальном чтении переписки. Система не будет выдавать родителям полный текст диалогов, а лишь предупредит о потенциально опасной ситуации, предоставив взрослым возможность вовремя проявить внимание и заботу.

Эксперты следят за кодом

OpenAI осознает, что такие сложные решения не могут принимать исключительно инженеры. Поэтому компания объявила о сотрудничестве с Экспертным советом по благополучию и искусственному интеллекту. Последний будет оценивать влияние продуктов ИИ на психическое здоровье пользователей и вырабатывать рекомендации для дальнейшего развития моделей.

Параллельно работает еще один важный институт — Глобальная сеть врачей, объединяющая более 250 медспециалистов из 60 стран мира. Среди них — психиатры, педиатры и врачи общей практики. Их опыт напрямую влияет на исследования в области безопасности, обучение моделей и разработку новых функций.

Это означает, что ответы ChatGPT в критических ситуациях будут не просто продуктом алгоритма, а результатом косвенного вмешательства профессионального медсообщества.

Как GPT-5-thinking станет цифровым собеседником

Одним из ключевых технических нововведений станет улучшенная система маршрутизации запросов. Теперь, когда система обнаружит в диалоге признаки «острого расстройства», автоматически перенаправит тему на обработку более продвинутым моделям рассуждений, таким как GPT-5-thinking.

Последние тратят значительно больше вычислительных ресурсов на анализ контекста, проверку фактов и глубокое осмысление запроса перед генерацией ответа. Внутренние исследования OpenAI показали, что такие модели надежнее следуют протоколам безопасности и способны давать более взвешенные и продуманные ответы в кризисных ситуациях.

Кроме того, чат-бот станет более сдержанным в советах. Вместо прямых рекомендаций постарается задавать наводящие вопросы, помогая пользователю самостоятельно прийти к решению. Также появится функция, напоминающая о перерыве во время слишком длительных сеансов общения.