OpenAI представляет план мер по обеспечению безопасности, направленный на борьбу с сексуальной эксплуатацией детей

В ответ на растущую озабоченность по поводу безопасности детей в Интернете компания OpenAI представила концепцию, направленную на укрепление мер по защите детей в США в эпоху искусственного интеллекта. Опубликованный во вторник «План действий по обеспечению безопасности детей» призван обеспечить более быстрое выявление, усовершенствованную систему подачи сообщений и более эффективное расследование случаев эксплуатации детей с использованием ИИ.

«План действий по обеспечению безопасности детей» призван решить проблему тревожного роста сексуальной эксплуатации детей, связанного с развитием искусственного интеллекта. По данным Internet Watch Foundation (IWF), в первой половине 2025 года было выявлено более 8 000 сообщений о материалах с изображением сексуального насилия над детьми, сгенерированных с помощью ИИ — это на 14 % больше, чем в предыдущем году. В частности, преступники используют инструменты ИИ для создания поддельных откровенных изображений детей с целью финансового сексуального шантажа, а также для составления убедительных сообщений в целях вербовки.

План действий OpenAI появился на фоне усиления внимания со стороны политиков, педагогов и защитников прав детей, особенно после тревожных инцидентов, в ходе которых молодые люди покончили жизнь самоубийством после того, как, по сообщениям, общались с чат-ботами на базе ИИ.

В ноябре организации Social Media Victims Law Center и Tech Justice Law Project подали семь исков в суды штата Калифорния, утверждая, что OpenAI выпустила GPT-4o до того, как он был готов. В исках утверждается, что способность продукта к психологической манипуляции способствовала неправомерным смертям в результате самоубийств и содействия самоубийству. В них упоминаются четыре человека, покончившие жизнь самоубийством, и ещё трое, у которых после длительного общения с чат-ботами возникли тяжёлые, угрожающие жизни галлюцинации.

Данный план действий был разработан в партнерстве с Национальным центром по делам пропавших и эксплуатируемых детей (NCMEC) и Альянсом генеральных прокуроров, а также с участием генерального прокурора Северной Каролины Джеффа Джексона и генерального прокурора штата Юта Дерека Брауна.

Компания заявляет, что план действий сосредоточен на трех направлениях: обновлении законодательства с целью охвата материалов с насилием, сгенерированных ИИ, совершенствовании механизмов подачи сообщений для правоохранительных органов и встраивании превентивных мер защиты непосредственно в системы ИИ. С помощью этих мер OpenAI стремится не только раньше выявлять потенциальные угрозы, но и обеспечить, чтобы информация, на основании которой можно принимать меры, оперативно поступала следователям.

Новый план OpenAI по обеспечению безопасности детей основан на предыдущих инициативах, включая обновленные рекомендации по взаимодействию с пользователями младше 18 лет, которые запрещают создание несоответствующего контента или поощрение самоповреждений, а также не допускают предоставления советов, которые могли бы помочь молодым людям скрывать опасное поведение от опекунов. Недавно компания опубликовала план по обеспечению безопасности подростков в Индии.

Только на этой неделе: сэкономьте до 482 долларов на Disrupt 2026

Предложение действует до 10 апреля, 23:59 по тихоокеанскому времени

Ваш следующий раунд финансирования. Ваш следующий сотрудник. Ваша следующая возможность прорыва. Найдите всё это на TechCrunch Disrupt 2026, где более 10 000 основателей, инвесторов и лидеров технологической отрасли соберутся на три дня, чтобы принять участие в более чем 250 практических сессиях, установить ценные связи и открыть для себя инновации, определяющие рынок. Зарегистрируйтесь сейчас, чтобы воспользоваться этой скидкой.

Только на этой неделе: сэкономьте до 482 долларов на Disrupt 2026

Предложение действует до 10 апреля, 23:59 по тихоокеанскому времени

Ваш следующий раунд финансирования. Ваш следующий сотрудник. Ваша следующая возможность прорыва. Найдите всё это на TechCrunch Disrupt 2026, где более 10 000 основателей, инвесторов и лидеров технологической отрасли соберутся на три дня, чтобы принять участие в более чем 250 практических сессиях, установить ценные связи и открыть для себя инновации, определяющие рынок. Зарегистрируйтесь прямо сейчас, чтобы воспользоваться этой скидкой.