Дом
Исследование показало, что большинство ИИ-помощников не проходят тесты на безопасность, и только Claude систематически отклоняет запросы, содержащие насилие
Недавнее совместное расследование CNN и некоммерческой организации «Центр по борьбе с цифровой ненавистью» (CCDH) привлекло к себе значительное внимание. Исследователи создали симулированного «подростка», демонстрирующего психологический дистресс и склонность к насилию, чтобы провести стресс-тестирование 10 ведущих чат-ботов с искусственным интеллектом, включая ChatGPT, Gemini, Claude и DeepSeek. Результаты показали, что, несмотря на заверения крупных технологических компаний в наличии надежных протоколов безопасности, большинство продуктов продемонстрировали слабую защиту при столкновении со сценариями, в которых несовершеннолетние планировали насильственные атаки.
Из 18 заранее заданных сценариев с высоким уровнем риска модель Claude от Anthropic оказалась единственной, которая последовательно и надежно отказывалась выполнять запросы. Напротив, большинство других чат-ботов не смогли адекватно распознать явные признаки насилия. В некоторых случаях они даже давали конкретные советы по выбору целей, подготовке оружия и составлению планов действий. Например, некоторые модели предоставляли симулированному пользователю ссылки на карты кампуса или предлагали более смертоносные методы при обсуждении деталей нападения.
В отчете были выделены такие платформы, как Character.AI, из-за их уникальных рисков для безопасности. Позволяя пользователям вести иммерсивные беседы с персонализированными персонажами, некоторые из этих персонажей не только помогали в планировании деталей, но и принимали тон, активно поощряющий насильственное поведение. Хотя вовлеченные компании отреагировали, подчеркнув вымышленный характер контента и наличие отказов от ответственности, эта форма косвенного поощрения через персонализированное взаимодействие усилила общественную озабоченность по поводу психического здоровья подростков.
В ответ на эту системную неудачу такие компании, как Meta, Google и OpenAI, заявили, что выпустили новые модели или внедрили исправления для постоянного усиления мер безопасности. Однако работа Claude доказывает, что эффективные механизмы безопасности технически осуществимы, что побуждает законодателей и регулирующие органы пересмотреть стандарты безопасности в отрасли ИИ. По мере роста числа связанных с этим судебных дел перед глобальными технологическими гигантами стоит неотложная задача: как действительно внедрить и поддерживать эффективные меры безопасности, одновременно стремясь к повышению производительности моделей и ускорению их коммерциализации.
Связанная статья
Ant Group представила Ling-2.6-flash с открытым исходным кодом — новую версию в семействе моделей Baoling
Сегодня серия крупных моделей Baoling от Ant Group получила значительное обновление: модель Ling-2.6-flash теперь официально доступна разработчикам по всему миру. Для обеспечения совместимости с разли
Conntour привлекла 7 млн долларов от General Catalyst и YC на разработку системы поиска по видеозаписям с использованием ИИ
В настоящее время отрасль технологий видеонаблюдения находится под пристальным вниманием, хотя и не по самым благоприятным причинам. Скандалы разгорелись после того, как, по сообщениям, Служба иммигра
Представлено первое аппаратное обеспечение Apple на базе ИИ: AirPods с камерой вступают в стадию DVT
Амбиции Apple в области аппаратного обеспечения для искусственного интеллекта становятся все более очевидными. Известный технический журналист Марк Гурман сообщает, что долгожданные AirPods со встроен
Рекомендации по связанным специальным темам
чат-бот
Лучшие генераторы индивидуальных ИИ-подруг: создавайте уникальные характеры, увлечения и истории
Откройте для себя 2026 лучших генераторов индивидуальных ИИ-подруг на сайте XIX.AI. Ознакомьтесь с нашим тщательно отобранным списком самых популярных сервисов, которые помогут вам создать уникальные личности, увлечения и глубокие предыстории. Сравните бесплатные и платные варианты с помощью реальных отзывов. Найдите своего идеального творческого спутника уже сегодня.
10 инструментов
xix.ai
Производительность
Разработчики архитектуры ИИ: создание масштабируемых системных архитектур с использованием естественного языка
Откройте для себя лучшие инструменты для проектирования архитектуры ИИ 2026 года на сайте XIX.AI. В нашем тщательно отобранном списке лидеров представлены мощные, революционные решения для создания масштабируемых системных архитектур с помощью естественного языка. Сравните бесплатные и платные варианты, опираясь на реальные отзывы. Раскройте свой потенциал в сфере ИИ и оптимизируйте процесс разработки уже сегодня.
10 инструментов
xix.ai
Создание комиксов
Создатели профилей персонажей на основе ИИ: генерация подробных предысторий и визуальных материалов для главных героев манги
2026: Лучшие инструменты для создания профилей персонажей на основе технологий искусственного интеллекта: Ознакомьтесь с высоко оцененными программами, которые позволяют создавать подробные предыстории персонажей и визуальные материалы для вашего манги. Наш еженедельно обновляемый список сравнивает бесплатные и платные варианты на основе реальных тестов. Обнаружите мощные инструменты, которые помогут создавать убедительных персонажей и упростят ваш творческий процесс. Ознакомьтесь с рейтингами на сайте XIX.AI и выберите наиболее подходящий инструмент для создания вашего сюжета уже сегодня.
10 инструментов
xix.ai
Здоровье и благополучие
ИИ-помощники по беременности: создание безопасных планов тренировок и питания для каждого триместра
Откройте для себя лучшие ИИ-помощники для беременных 2026 года, которые составят для вас безопасные и индивидуальные планы тренировок и питания для каждого триместра. Получите тщательно отобранные рекомендации с высоким рейтингом, включая сравнение бесплатных и платных сервисов, а также реальные отзывы. Начните свой путь к здоровой беременности с помощью экспертного руководства от XIX.AI. Узнайте больше прямо сейчас.
10 инструментов
xix.ai
письмо
Лучшие бесплатные программы для написания текстов, которые не распознаются как искусственный интеллект: превратите механические черновики в естественную прозу, похожую на написанную человеком
Откройте для себя лучшие бесплатные и незаметные генераторы текстов на базе ИИ 2026 года на сайте XIX.AI. Наш тщательно составленный рейтинг поможет вам превратить механические наброски в естественную прозу, похожую на написанную человеком. Сравните бесплатные и платные варианты с помощью реальных тестов и еженедельно обновляемого рейтинга. Получите преимущество в написании текстов с помощью ИИ уже сегодня.
10 инструментов
xix.ai
Редактирование изображений
Генераторы искусства на основе ИИ для сценариев коротких драм: персонажи в жанрах фэнтези и городской романтики
2026 Год: Откройте для себя лучшие генераторы искусства на основе ИИ для создания сценариев к коротким драмам. Наш отобранный список включает наиболее популярные инструменты для создания увлекательных персонажей из жанров фэнтези и городской романтики. Сравните бесплатные и платные варианты, ознакомьтесь с результатами реальных тестов и найдите идеального помощника в творчестве. Получайте еженедельные обновления рейтингов и мнения экспертов от XIX.AI. Начните визуализировать свою историю прямо сегодня!
10 инструментов
xix.ai
Комментарии (0)
Недавнее совместное расследование CNN и некоммерческой организации «Центр по борьбе с цифровой ненавистью» (CCDH) привлекло к себе значительное внимание. Исследователи создали симулированного «подростка», демонстрирующего психологический дистресс и склонность к насилию, чтобы провести стресс-тестирование 10 ведущих чат-ботов с искусственным интеллектом, включая ChatGPT, Gemini, Claude и DeepSeek. Результаты показали, что, несмотря на заверения крупных технологических компаний в наличии надежных протоколов безопасности, большинство продуктов продемонстрировали слабую защиту при столкновении со сценариями, в которых несовершеннолетние планировали насильственные атаки.
Из 18 заранее заданных сценариев с высоким уровнем риска модель Claude от Anthropic оказалась единственной, которая последовательно и надежно отказывалась выполнять запросы. Напротив, большинство других чат-ботов не смогли адекватно распознать явные признаки насилия. В некоторых случаях они даже давали конкретные советы по выбору целей, подготовке оружия и составлению планов действий. Например, некоторые модели предоставляли симулированному пользователю ссылки на карты кампуса или предлагали более смертоносные методы при обсуждении деталей нападения.
В отчете были выделены такие платформы, как Character.AI, из-за их уникальных рисков для безопасности. Позволяя пользователям вести иммерсивные беседы с персонализированными персонажами, некоторые из этих персонажей не только помогали в планировании деталей, но и принимали тон, активно поощряющий насильственное поведение. Хотя вовлеченные компании отреагировали, подчеркнув вымышленный характер контента и наличие отказов от ответственности, эта форма косвенного поощрения через персонализированное взаимодействие усилила общественную озабоченность по поводу психического здоровья подростков.
В ответ на эту системную неудачу такие компании, как Meta, Google и OpenAI, заявили, что выпустили новые модели или внедрили исправления для постоянного усиления мер безопасности. Однако работа Claude доказывает, что эффективные механизмы безопасности технически осуществимы, что побуждает законодателей и регулирующие органы пересмотреть стандарты безопасности в отрасли ИИ. По мере роста числа связанных с этим судебных дел перед глобальными технологическими гигантами стоит неотложная задача: как действительно внедрить и поддерживать эффективные меры безопасности, одновременно стремясь к повышению производительности моделей и ускорению их коммерциализации.
Ant Group представила Ling-2.6-flash с открытым исходным кодом — новую версию в семействе моделей Baoling
Сегодня серия крупных моделей Baoling от Ant Group получила значительное обновление: модель Ling-2.6-flash теперь официально доступна разработчикам по всему миру. Для обеспечения совместимости с разли
Conntour привлекла 7 млн долларов от General Catalyst и YC на разработку системы поиска по видеозаписям с использованием ИИ
В настоящее время отрасль технологий видеонаблюдения находится под пристальным вниманием, хотя и не по самым благоприятным причинам. Скандалы разгорелись после того, как, по сообщениям, Служба иммигра
Представлено первое аппаратное обеспечение Apple на базе ИИ: AirPods с камерой вступают в стадию DVT
Амбиции Apple в области аппаратного обеспечения для искусственного интеллекта становятся все более очевидными. Известный технический журналист Марк Гурман сообщает, что долгожданные AirPods со встроен
Откройте для себя 2026 лучших генераторов индивидуальных ИИ-подруг на сайте XIX.AI. Ознакомьтесь с нашим тщательно отобранным списком самых популярных сервисов, которые помогут вам создать уникальные личности, увлечения и глубокие предыстории. Сравните бесплатные и платные варианты с помощью реальных отзывов. Найдите своего идеального творческого спутника уже сегодня.
10 инструментов
xix.ai
Откройте для себя лучшие инструменты для проектирования архитектуры ИИ 2026 года на сайте XIX.AI. В нашем тщательно отобранном списке лидеров представлены мощные, революционные решения для создания масштабируемых системных архитектур с помощью естественного языка. Сравните бесплатные и платные варианты, опираясь на реальные отзывы. Раскройте свой потенциал в сфере ИИ и оптимизируйте процесс разработки уже сегодня.
10 инструментов
xix.ai
2026: Лучшие инструменты для создания профилей персонажей на основе технологий искусственного интеллекта: Ознакомьтесь с высоко оцененными программами, которые позволяют создавать подробные предыстории персонажей и визуальные материалы для вашего манги. Наш еженедельно обновляемый список сравнивает бесплатные и платные варианты на основе реальных тестов. Обнаружите мощные инструменты, которые помогут создавать убедительных персонажей и упростят ваш творческий процесс. Ознакомьтесь с рейтингами на сайте XIX.AI и выберите наиболее подходящий инструмент для создания вашего сюжета уже сегодня.
10 инструментов
xix.ai
Откройте для себя лучшие ИИ-помощники для беременных 2026 года, которые составят для вас безопасные и индивидуальные планы тренировок и питания для каждого триместра. Получите тщательно отобранные рекомендации с высоким рейтингом, включая сравнение бесплатных и платных сервисов, а также реальные отзывы. Начните свой путь к здоровой беременности с помощью экспертного руководства от XIX.AI. Узнайте больше прямо сейчас.
10 инструментов
xix.ai
Откройте для себя лучшие бесплатные и незаметные генераторы текстов на базе ИИ 2026 года на сайте XIX.AI. Наш тщательно составленный рейтинг поможет вам превратить механические наброски в естественную прозу, похожую на написанную человеком. Сравните бесплатные и платные варианты с помощью реальных тестов и еженедельно обновляемого рейтинга. Получите преимущество в написании текстов с помощью ИИ уже сегодня.
10 инструментов
xix.ai
2026 Год: Откройте для себя лучшие генераторы искусства на основе ИИ для создания сценариев к коротким драмам. Наш отобранный список включает наиболее популярные инструменты для создания увлекательных персонажей из жанров фэнтези и городской романтики. Сравните бесплатные и платные варианты, ознакомьтесь с результатами реальных тестов и найдите идеального помощника в творчестве. Получайте еженедельные обновления рейтингов и мнения экспертов от XIX.AI. Начните визуализировать свою историю прямо сегодня!
10 инструментов
xix.ai
