Дом
OpenAI интегрирует инструменты с открытым исходным кодом для обеспечения безопасности подростков в процессе разработки
Во вторник компания OpenAI объявила о выпуске набора рекомендаций, призванных помочь разработчикам сделать свои приложения более безопасными для подростков. Лаборатория искусственного интеллекта заявила, что эти правила безопасности для подростков совместимы с её моделью безопасности с открытым весом gpt-oss-safeguard.
Вместо того чтобы начинать с нуля и определять, как повысить безопасность ИИ для подростков, разработчики могут использовать эти подсказки для укрепления своих приложений. Они касаются таких проблем, как графическое насилие и материалы сексуального характера, вредные идеалы и модели поведения, связанные с образом тела, рискованные действия и испытания, романтические или насильственные ролевые сценарии, а также продукты и услуги с возрастными ограничениями.
Эти правила безопасности разработаны в виде подсказок, что гарантирует их легкую совместимость с моделями, отличными от gpt-oss-safeguard, хотя, вероятно, они наиболее эффективны в рамках собственной экосистемы OpenAI.
OpenAI заявила, что при разработке этих подсказок сотрудничала с организациями по безопасности ИИ Common Sense Media и everyone.ai.
«Эти основанные на подсказках политики помогают установить значимый базовый уровень безопасности во всей экосистеме. Поскольку они являются открытыми, их можно адаптировать и совершенствовать со временем», — заявил в своем заявлении Робби Торни, руководитель отдела искусственного интеллекта и цифровых оценок в Common Sense Media.
В своем блоге OpenAI отметила, что разработчикам, в том числе опытным командам, часто бывает сложно преобразовать цели безопасности в точные операционные правила.
«Это может привести к пробелам в защите, несогласованному применению правил или чрезмерно широкой фильтрации», — пояснила компания. «Четкие, хорошо определенные политики являются важнейшей основой для эффективных систем безопасности».
OpenAI признает, что эти политики не являются полным решением сложных задач безопасности ИИ. Однако они основываются на предыдущих усилиях, включая меры безопасности на уровне продукта, такие как родительский контроль и определение возраста. В прошлом году OpenAI обновила свои рекомендации для крупных языковых моделей — известные как Model Spec — чтобы определить, как ее модели ИИ должны взаимодействовать с пользователями младше 18 лет.
Однако у самой OpenAI тоже не все гладко. Компания сталкивается с множеством исков от семей людей, покончивших жизнь самоубийством после чрезмерного использования ChatGPT. Эти опасные отношения часто возникают после того, как пользователь обходит меры безопасности чат-бота, а защитные механизмы ни одной модели не являются полностью непробиваемыми. Тем не менее, эти новые правила представляют собой шаг вперед, особенно в плане помощи независимым разработчикам.
Связанная статья
Сатья Наделла готов использовать новые возможности, предоставляемые соглашением с OpenAI
В среду аналитик с Уолл-стрит напрямую спросил генерального директора Microsoft Сатью Наделлу, как изменения в партнерстве с OpenAI повлияют на финансовые результаты компании.Наделла охарактеризовал новое соглашение как выгодное для всех сторон. “Мы
OpenAI описывает экономику искусственного интеллекта с участием государственных инвестиционных фондов, налогами на роботов и четырехдневной рабочей неделей
В то время как правительства пытаются справиться с экономическими последствиями появления сверхинтеллектуальных машин, компания OpenAI опубликовала ряд предложений по формированию политики, в которых
Грег Брокман рассказывает, как Илон Маск покинул OpenAI
В конце августа 2017 года ключевые фигуры OpenAI — на тот момент небольшой некоммерческой исследовательской лаборатории — собрались, чтобы обсудить, как создать коммерческую структуру для продвижения
Рекомендации по связанным специальным темам
Бизнес
Лучшее ПО для оптимизации цен с помощью ИИ: отслеживание конкурентов и автоматическая корректировка цен в магазине
Откройте для себя лучшее программное обеспечение 2026 года для оптимизации цен с помощью ИИ на сайте XIX.AI. В нашем тщательно подобранном списке представлены высокооцененные, революционные инструменты, которые отслеживают конкурентов и автоматически корректируют цены в вашем магазине для получения максимальной прибыли. Сравните бесплатные и платные варианты на основе реальных тестов. Получите преимущество в ценообразовании уже сейчас.
10 инструментов
xix.ai
код
Лучшие системы проверки кода на основе ИИ: автоматизация обеспечения соответствия стандартам чистого кода и рефакторинг файлов в устаревших репозиториях
Откройте для себя 20 лучших рецензентов кода на базе ИИ 2026 года на XIX.AI. В нашем тщательно составленном списке представлены высокооцененные, революционные инструменты для автоматизации проверки соответствия стандартам чистого кода и рефакторинга файлов в устаревших репозиториях. Сравните бесплатные и платные варианты с помощью реальных тестов и еженедельно обновляемых рейтингов. Получите преимущество ИИ уже сегодня.
10 инструментов
xix.ai
Преобразование текста в речь
Лучшие приложения с функцией преобразования текста в речь на базе ИИ для детей с дислексией: помощь в обучении и повышение эффективности чтения
Откройте для себя лучшие приложения с технологией TTS на базе искусственного интеллекта 2026 года, специально отобранные для помощи людям с дислексией. В нашем рейтинге экспертов сравниваются бесплатные и платные инструменты, а также освещаются мощные функции, способствующие повышению эффективности чтения и обучения. Откройте для себя революционные решения, которые обязательно стоит попробовать, чтобы раскрыть потенциал учащихся. Начните свое путешествие на XIX.AI.
10 инструментов
xix.ai
Создание комиксов
Лучшие генераторы на базе ИИ для сёнэн-манги: создавайте динамичные сцены боевых действий и эффекты энергии
Откройте для себя лучшие генераторы искусственного интеллекта для манги в стиле «сёнен» 2026 года на сайте XIX.AI. В нашем тщательно отобранном списке представлены мощные инструменты для создания динамичных сцен боевых действий и эффектных энергетических эффектов. Сравните бесплатные и платные варианты на основе реальных тестов. Раскройте свой творческий потенциал и начните создавать эпическую мангу уже сегодня!
15 инструментов
xix.ai
Бизнес
Лучшие приложения для учета расходов на базе ИИ: сканируйте чеки и автоматически классифицируйте корпоративные расходы
Лучшие программы для учета расходов с ИИ 2026 года: самые популярные инструменты для сканирования чеков и автоматической классификации корпоративных расходов. Откройте для себя мощные, революционные решения для удобного управления расходами, точного финансового мониторинга и оптимизации соблюдения нормативных требований. Наш тщательно составленный и еженедельно обновляемый обзор бесплатных и платных вариантов поможет вам найти идеальный вариант. Воспользуйтесь преимуществами ИИ с помощью рекомендаций экспертов XIX.AI.
10 инструментов
xix.ai
Бизнес
Лучшие инструменты для подбора персонала с помощью ИИ: отбор резюме и автоматизация планирования собеседований с кандидатами
Откройте для себя 20 лучших инструментов для рекрутинга на базе ИИ 2026 года на сайте XIX.AI. В нашем тщательно составленном списке представлены мощные, революционные решения для отбора резюме и автоматизации планирования собеседований с кандидатами. Сравните бесплатные и платные варианты с помощью реальных тестов и еженедельно обновляемого рейтинга. Найдите своего идеального помощника по подбору персонала и оптимизируйте процесс рекрутинга уже сегодня!
10 инструментов
xix.ai
Комментарии (0)
Во вторник компания OpenAI объявила о выпуске набора рекомендаций, призванных помочь разработчикам сделать свои приложения более безопасными для подростков. Лаборатория искусственного интеллекта заявила, что эти правила безопасности для подростков совместимы с её моделью безопасности с открытым весом gpt-oss-safeguard.
Вместо того чтобы начинать с нуля и определять, как повысить безопасность ИИ для подростков, разработчики могут использовать эти подсказки для укрепления своих приложений. Они касаются таких проблем, как графическое насилие и материалы сексуального характера, вредные идеалы и модели поведения, связанные с образом тела, рискованные действия и испытания, романтические или насильственные ролевые сценарии, а также продукты и услуги с возрастными ограничениями.
Эти правила безопасности разработаны в виде подсказок, что гарантирует их легкую совместимость с моделями, отличными от gpt-oss-safeguard, хотя, вероятно, они наиболее эффективны в рамках собственной экосистемы OpenAI.
OpenAI заявила, что при разработке этих подсказок сотрудничала с организациями по безопасности ИИ Common Sense Media и everyone.ai.
«Эти основанные на подсказках политики помогают установить значимый базовый уровень безопасности во всей экосистеме. Поскольку они являются открытыми, их можно адаптировать и совершенствовать со временем», — заявил в своем заявлении Робби Торни, руководитель отдела искусственного интеллекта и цифровых оценок в Common Sense Media.
В своем блоге OpenAI отметила, что разработчикам, в том числе опытным командам, часто бывает сложно преобразовать цели безопасности в точные операционные правила.
«Это может привести к пробелам в защите, несогласованному применению правил или чрезмерно широкой фильтрации», — пояснила компания. «Четкие, хорошо определенные политики являются важнейшей основой для эффективных систем безопасности».
OpenAI признает, что эти политики не являются полным решением сложных задач безопасности ИИ. Однако они основываются на предыдущих усилиях, включая меры безопасности на уровне продукта, такие как родительский контроль и определение возраста. В прошлом году OpenAI обновила свои рекомендации для крупных языковых моделей — известные как Model Spec — чтобы определить, как ее модели ИИ должны взаимодействовать с пользователями младше 18 лет.
Однако у самой OpenAI тоже не все гладко. Компания сталкивается с множеством исков от семей людей, покончивших жизнь самоубийством после чрезмерного использования ChatGPT. Эти опасные отношения часто возникают после того, как пользователь обходит меры безопасности чат-бота, а защитные механизмы ни одной модели не являются полностью непробиваемыми. Тем не менее, эти новые правила представляют собой шаг вперед, особенно в плане помощи независимым разработчикам.
Сатья Наделла готов использовать новые возможности, предоставляемые соглашением с OpenAI
В среду аналитик с Уолл-стрит напрямую спросил генерального директора Microsoft Сатью Наделлу, как изменения в партнерстве с OpenAI повлияют на финансовые результаты компании.Наделла охарактеризовал новое соглашение как выгодное для всех сторон. “Мы
OpenAI описывает экономику искусственного интеллекта с участием государственных инвестиционных фондов, налогами на роботов и четырехдневной рабочей неделей
В то время как правительства пытаются справиться с экономическими последствиями появления сверхинтеллектуальных машин, компания OpenAI опубликовала ряд предложений по формированию политики, в которых
Грег Брокман рассказывает, как Илон Маск покинул OpenAI
В конце августа 2017 года ключевые фигуры OpenAI — на тот момент небольшой некоммерческой исследовательской лаборатории — собрались, чтобы обсудить, как создать коммерческую структуру для продвижения
Откройте для себя лучшее программное обеспечение 2026 года для оптимизации цен с помощью ИИ на сайте XIX.AI. В нашем тщательно подобранном списке представлены высокооцененные, революционные инструменты, которые отслеживают конкурентов и автоматически корректируют цены в вашем магазине для получения максимальной прибыли. Сравните бесплатные и платные варианты на основе реальных тестов. Получите преимущество в ценообразовании уже сейчас.
10 инструментов
xix.ai
Откройте для себя 20 лучших рецензентов кода на базе ИИ 2026 года на XIX.AI. В нашем тщательно составленном списке представлены высокооцененные, революционные инструменты для автоматизации проверки соответствия стандартам чистого кода и рефакторинга файлов в устаревших репозиториях. Сравните бесплатные и платные варианты с помощью реальных тестов и еженедельно обновляемых рейтингов. Получите преимущество ИИ уже сегодня.
10 инструментов
xix.ai
Откройте для себя лучшие приложения с технологией TTS на базе искусственного интеллекта 2026 года, специально отобранные для помощи людям с дислексией. В нашем рейтинге экспертов сравниваются бесплатные и платные инструменты, а также освещаются мощные функции, способствующие повышению эффективности чтения и обучения. Откройте для себя революционные решения, которые обязательно стоит попробовать, чтобы раскрыть потенциал учащихся. Начните свое путешествие на XIX.AI.
10 инструментов
xix.ai
Откройте для себя лучшие генераторы искусственного интеллекта для манги в стиле «сёнен» 2026 года на сайте XIX.AI. В нашем тщательно отобранном списке представлены мощные инструменты для создания динамичных сцен боевых действий и эффектных энергетических эффектов. Сравните бесплатные и платные варианты на основе реальных тестов. Раскройте свой творческий потенциал и начните создавать эпическую мангу уже сегодня!
15 инструментов
xix.ai
Лучшие программы для учета расходов с ИИ 2026 года: самые популярные инструменты для сканирования чеков и автоматической классификации корпоративных расходов. Откройте для себя мощные, революционные решения для удобного управления расходами, точного финансового мониторинга и оптимизации соблюдения нормативных требований. Наш тщательно составленный и еженедельно обновляемый обзор бесплатных и платных вариантов поможет вам найти идеальный вариант. Воспользуйтесь преимуществами ИИ с помощью рекомендаций экспертов XIX.AI.
10 инструментов
xix.ai
Откройте для себя 20 лучших инструментов для рекрутинга на базе ИИ 2026 года на сайте XIX.AI. В нашем тщательно составленном списке представлены мощные, революционные решения для отбора резюме и автоматизации планирования собеседований с кандидатами. Сравните бесплатные и платные варианты с помощью реальных тестов и еженедельно обновляемого рейтинга. Найдите своего идеального помощника по подбору персонала и оптимизируйте процесс рекрутинга уже сегодня!
10 инструментов
xix.ai
