Дом
Meta обвиняется в том, что побуждала конкурирующие ИИ-системы исследовать крайне сложные психологические темы.
Недавние разоблачения, касающиеся внутренней переписки, спровоцировали ожесточённые дебаты относительно границ безопасности искусственного интеллекта. Согласно сообщениям СМИ, компания Meta реализовала проект под названием «Канн», в рамках которого наняла сотрудников по аутсорсингу для того, чтобы они выдавали себя за несовершеннолетних и проводили спорные «тесты на экстремальное давление» против нескольких крупных чат-ботов конкурентов, включая ChatGPT, Gemini и Character.AI.
Согласно внутренним документам Meta и информации от нескольких осведомлённых источников, этот проект продолжался как минимум до 21 апреля текущего года. Через компанию Covalen Meta мобилизовала сотни работников для создания фальшивых профилей пользователей в возрасте до 18 лет, используя временные адреса электронной почты и стандартный пароль. Эти «несовершеннолетние» аккаунты затем отправляли высокорискованные запросы о самоубийстве, самоповреждении и расстройствах пищевого поведения в ходе общения с чат-ботами конкурентов, а также загружали изображения ножей, таблеток и петель, чтобы спровоцировать реакцию моделей.
Внутренние документы проекта показывают, что эти сценарии тестирования были тщательно разработаны с целью изучения механизмов защиты систем искусственного интеллекта конкурентов, чтобы найти способы обойти предусмотренные защитные меры и заставить чат-боты генерировать опасный контент. В одном из раундов тестирования в августе 2025 года сотрудники ввели более 45 000 высокорискованных запросов на платформы конкурентов. Тестирующие часто выдавали себя за расстроенных подростков, придумывая ситуации вроде «запроса о таблетках для аборта», «столкновения с насильственными угрозами» или «скрытия расстройства пищевого поведения», чтобы проверить границы реакции моделей.
В ответ Meta опубликовала официальное заявление в свою защиту. Представитель компании заявил, что сравнение ответов чат-ботов является стандартной практикой в отрасли для обеспечения безопасности и соответствия требованиям продуктов искусственного интеллекта, и что обвинения в злонамеренных действиях искажают усилия технологических компаний по совершенствованию своих систем. Meta также прямо отрицала использование данных тестирования конкурентов для обучения собственных моделей.
Этот инцидент не только выявляет «серые зоны» в тестировании безопасности искусственного интеллекта, но и вновь вызывает обеспокоенность по поводу уязвимости генеративных ИИ-систем при работе с деликатными вопросами, связанными с молодёжью. По мере быстрого развития технологий искусственного интеллекта поиск баланса между эффективным и безопасным тестированием, а также между конкурентной деятельностью и этическими соображениями становится насущной проблемой для всей отрасли.
Связанная статья
Генеральный директор Anthropic Дамир Амодей отвергает пессимистичные взгляды и объясняет кризис доверия к ИИ невыполненными обещаниями
На фоне обострения общественных дискуссий о рисках и регулировании искусственного интеллекта генеральный директор Anthropic Дарио Амодеи опроверг утверждения о том, что его сообщения являются излишне пессимистичными. Это разъяснение напрямую отвечает
OpenAI и Oracle углубляют интеграцию вычислительных мощностей для упрощения доступа к облачным сервисам
По мере роста спроса на вычислительные мощности искусственного интеллекта удобство доступа к инфраструктуре корпоративного уровня стало одним из ключевых приоритетов отрасли. 10 июня компании OpenAI и Oracle объявили о стратегическом партнерстве, нап
Усман Джавид из компании «Orange» о позиции Европы в гонке за искусственный интеллект
Усман Джаваид, директор по продуктам и маркетингу компании Orange BusinessУсман Джаваид, директор по продуктам и маркетингу в Orange Business, объясняет, почему будущее искусственного интеллекта в Евр
Рекомендации по связанным специальным темам
автоматизация
Инструменты искусственного интеллекта для обработки счетов-фактур, предназначенные для автоматизации учета кредиторской задолженности, маршрутизации утверждений и синхронизации с системами ERP
2026: Новейшие и лучшие инструменты на базе ИИ для обработки счетов-фактур, автоматизации учета кредиторской задолженности, маршрутизации утверждений и синхронизации с ERP-системами! XIX.AI отбирает высокооцененные и мощные решения, прошедшие строгие практические испытания, которые позволяют значительно повысить производительность. Получите сравнение бесплатных и платных версий, ознакомьтесь с подробными рейтингами и откройте для себя варианты, которые обязательно стоит попробовать для оптимизации ваших финансовых операций. Узнайте больше прямо сейчас, чтобы раскрыть потенциал искусственного интеллекта!
9 инструментов
xix.ai
письмо
Инструменты для создания технической документации по ИИ для команд разработчиков
2026: новейшие и лучшие инструменты для создания технической документации на базе ИИ, получившие самые высокие оценки, для команд разработчиков! XIX.AI подготовила мощную, революционную подборку инструментов, которые обязательно стоит попробовать. Все они проходят тщательные тесты в реальных условиях и включаются в еженедельно обновляемый рейтинг. Эти лучшие решения помогают командам значительно повысить производительность за счет оптимизации создания контента, исправления ошибок в документации и ускорения процессов программирования во всех проектах. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент, который поможет вам раскрыть весь потенциал ИИ!
13 инструментов
xix.ai
Разработка программного обеспечения
Помощники по классификации ошибок ИИ: ранжирование проблем по степени серьезности и влиянию на пользователей
Рейтинг лучших и наиболее высокооцененных помощников по сортировке ошибок на базе ИИ 2026 года! В этой тщательно отобранной подборке представлены мощные инструменты, способные кардинально изменить подход к работе, которые помогают командам быстро сортировать ошибки по степени серьезности и влиянию на пользователей, экономя драгоценное время. XIX.AI предлагает сравнение бесплатных и платных версий, а также результаты реальных тестов, которые помогут вам найти решение, которое обязательно стоит попробовать и которое значительно повысит производительность. Ознакомьтесь с ним прямо сейчас, чтобы найти идеальный инструмент для оптимизации рабочих процессов разработки!
10 инструментов
xix.ai
код
Лучшие инструменты для программирования с ИИ для Python и JavaScript
В специально подобранном списке XIX.AI представлены лучшие и наиболее высоко оцененные инструменты для программирования с использованием ИИ 2026 года, подходящие для Python и JavaScript. Эти мощные решения прошли строгие тестирования в реальных условиях, что позволяет им обеспечивать выдающиеся результаты при написании эффективного кода, устранении ошибок и повышении производительности. Получите бесплатное сравнение версий с платными и определите, какой вариант лучше всего подходит вашим потребностям. Ознакомьтесь с предложениями прямо сейчас, чтобы найти идеальный инструмент для программирования и раскрыть потенциал ИИ.
10 инструментов
xix.ai
Академические исследования
Лучшие инструменты для анализа ссылок с использованием ИИ в целях поиска научных исследований
2026: Новейшие и лучшие инструменты для анализа цитирования на основе ИИ, получившие высокие оценки, для поиска научных работ! XIX.AI подготовил подборку мощных, революционных инструментов, которые обязательно стоит попробовать — они прошли тщательные тесты в реальных условиях и обеспечивают точные результаты. Здесь вы найдёте подробные сравнения бесплатных и платных версий, еженедельно обновляемые рейтинги и аналитические материалы, которые помогут вам повысить эффективность исследований и быстрее находить ценные данные. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для научной работы! 238 символов
11 инструментов
xix.ai
SEO
Инструменты для создания метатегов с использованием ИИ для более эффективного внутреннего SEO
2026: лучшие и самые популярные инструменты для создания метатегов с ИИ, которые ускоряют внутреннее SEO! XIX.AI подготовил подборку мощных и революционных инструментов, отличающихся высокой надежностью и прошедших тщательные тесты в реальных условиях. Здесь вы найдёте сравнение бесплатных и платных версий, а также подробные рейтинги, которые помогут вам выбрать идеальный вариант для повышения видимости вашего контента в поисковых системах и повышения эффективности написания текстов. Ознакомьтесь с ними прямо сейчас, чтобы раскрыть потенциал искусственного интеллекта!
9 инструментов
xix.ai
Комментарии (0)
Недавние разоблачения, касающиеся внутренней переписки, спровоцировали ожесточённые дебаты относительно границ безопасности искусственного интеллекта. Согласно сообщениям СМИ, компания Meta реализовала проект под названием «Канн», в рамках которого наняла сотрудников по аутсорсингу для того, чтобы они выдавали себя за несовершеннолетних и проводили спорные «тесты на экстремальное давление» против нескольких крупных чат-ботов конкурентов, включая ChatGPT, Gemini и Character.AI.
Согласно внутренним документам Meta и информации от нескольких осведомлённых источников, этот проект продолжался как минимум до 21 апреля текущего года. Через компанию Covalen Meta мобилизовала сотни работников для создания фальшивых профилей пользователей в возрасте до 18 лет, используя временные адреса электронной почты и стандартный пароль. Эти «несовершеннолетние» аккаунты затем отправляли высокорискованные запросы о самоубийстве, самоповреждении и расстройствах пищевого поведения в ходе общения с чат-ботами конкурентов, а также загружали изображения ножей, таблеток и петель, чтобы спровоцировать реакцию моделей.
Внутренние документы проекта показывают, что эти сценарии тестирования были тщательно разработаны с целью изучения механизмов защиты систем искусственного интеллекта конкурентов, чтобы найти способы обойти предусмотренные защитные меры и заставить чат-боты генерировать опасный контент. В одном из раундов тестирования в августе 2025 года сотрудники ввели более 45 000 высокорискованных запросов на платформы конкурентов. Тестирующие часто выдавали себя за расстроенных подростков, придумывая ситуации вроде «запроса о таблетках для аборта», «столкновения с насильственными угрозами» или «скрытия расстройства пищевого поведения», чтобы проверить границы реакции моделей.
В ответ Meta опубликовала официальное заявление в свою защиту. Представитель компании заявил, что сравнение ответов чат-ботов является стандартной практикой в отрасли для обеспечения безопасности и соответствия требованиям продуктов искусственного интеллекта, и что обвинения в злонамеренных действиях искажают усилия технологических компаний по совершенствованию своих систем. Meta также прямо отрицала использование данных тестирования конкурентов для обучения собственных моделей.
Этот инцидент не только выявляет «серые зоны» в тестировании безопасности искусственного интеллекта, но и вновь вызывает обеспокоенность по поводу уязвимости генеративных ИИ-систем при работе с деликатными вопросами, связанными с молодёжью. По мере быстрого развития технологий искусственного интеллекта поиск баланса между эффективным и безопасным тестированием, а также между конкурентной деятельностью и этическими соображениями становится насущной проблемой для всей отрасли.
Генеральный директор Anthropic Дамир Амодей отвергает пессимистичные взгляды и объясняет кризис доверия к ИИ невыполненными обещаниями
На фоне обострения общественных дискуссий о рисках и регулировании искусственного интеллекта генеральный директор Anthropic Дарио Амодеи опроверг утверждения о том, что его сообщения являются излишне пессимистичными. Это разъяснение напрямую отвечает
OpenAI и Oracle углубляют интеграцию вычислительных мощностей для упрощения доступа к облачным сервисам
По мере роста спроса на вычислительные мощности искусственного интеллекта удобство доступа к инфраструктуре корпоративного уровня стало одним из ключевых приоритетов отрасли. 10 июня компании OpenAI и Oracle объявили о стратегическом партнерстве, нап
Усман Джавид из компании «Orange» о позиции Европы в гонке за искусственный интеллект
Усман Джаваид, директор по продуктам и маркетингу компании Orange BusinessУсман Джаваид, директор по продуктам и маркетингу в Orange Business, объясняет, почему будущее искусственного интеллекта в Евр
2026: Новейшие и лучшие инструменты на базе ИИ для обработки счетов-фактур, автоматизации учета кредиторской задолженности, маршрутизации утверждений и синхронизации с ERP-системами! XIX.AI отбирает высокооцененные и мощные решения, прошедшие строгие практические испытания, которые позволяют значительно повысить производительность. Получите сравнение бесплатных и платных версий, ознакомьтесь с подробными рейтингами и откройте для себя варианты, которые обязательно стоит попробовать для оптимизации ваших финансовых операций. Узнайте больше прямо сейчас, чтобы раскрыть потенциал искусственного интеллекта!
9 инструментов
xix.ai
2026: новейшие и лучшие инструменты для создания технической документации на базе ИИ, получившие самые высокие оценки, для команд разработчиков! XIX.AI подготовила мощную, революционную подборку инструментов, которые обязательно стоит попробовать. Все они проходят тщательные тесты в реальных условиях и включаются в еженедельно обновляемый рейтинг. Эти лучшие решения помогают командам значительно повысить производительность за счет оптимизации создания контента, исправления ошибок в документации и ускорения процессов программирования во всех проектах. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент, который поможет вам раскрыть весь потенциал ИИ!
13 инструментов
xix.ai
Рейтинг лучших и наиболее высокооцененных помощников по сортировке ошибок на базе ИИ 2026 года! В этой тщательно отобранной подборке представлены мощные инструменты, способные кардинально изменить подход к работе, которые помогают командам быстро сортировать ошибки по степени серьезности и влиянию на пользователей, экономя драгоценное время. XIX.AI предлагает сравнение бесплатных и платных версий, а также результаты реальных тестов, которые помогут вам найти решение, которое обязательно стоит попробовать и которое значительно повысит производительность. Ознакомьтесь с ним прямо сейчас, чтобы найти идеальный инструмент для оптимизации рабочих процессов разработки!
10 инструментов
xix.ai
В специально подобранном списке XIX.AI представлены лучшие и наиболее высоко оцененные инструменты для программирования с использованием ИИ 2026 года, подходящие для Python и JavaScript. Эти мощные решения прошли строгие тестирования в реальных условиях, что позволяет им обеспечивать выдающиеся результаты при написании эффективного кода, устранении ошибок и повышении производительности. Получите бесплатное сравнение версий с платными и определите, какой вариант лучше всего подходит вашим потребностям. Ознакомьтесь с предложениями прямо сейчас, чтобы найти идеальный инструмент для программирования и раскрыть потенциал ИИ.
10 инструментов
xix.ai
2026: Новейшие и лучшие инструменты для анализа цитирования на основе ИИ, получившие высокие оценки, для поиска научных работ! XIX.AI подготовил подборку мощных, революционных инструментов, которые обязательно стоит попробовать — они прошли тщательные тесты в реальных условиях и обеспечивают точные результаты. Здесь вы найдёте подробные сравнения бесплатных и платных версий, еженедельно обновляемые рейтинги и аналитические материалы, которые помогут вам повысить эффективность исследований и быстрее находить ценные данные. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для научной работы! 238 символов
11 инструментов
xix.ai
2026: лучшие и самые популярные инструменты для создания метатегов с ИИ, которые ускоряют внутреннее SEO! XIX.AI подготовил подборку мощных и революционных инструментов, отличающихся высокой надежностью и прошедших тщательные тесты в реальных условиях. Здесь вы найдёте сравнение бесплатных и платных версий, а также подробные рейтинги, которые помогут вам выбрать идеальный вариант для повышения видимости вашего контента в поисковых системах и повышения эффективности написания текстов. Ознакомьтесь с ними прямо сейчас, чтобы раскрыть потенциал искусственного интеллекта!
9 инструментов
xix.ai
