OpenAI облегчает ограничения на создание изображений Chatgpt

На этой неделе OpenAI представила новый генератор изображений для ChatGPT, который быстро набрал популярность благодаря своей способности создавать визуальные образы в стиле Studio Ghibli. Однако помимо очаровательных иллюстраций, внедрение встроенного генератора изображений GPT-4o знаменует значительное улучшение возможностей ChatGPT, включая улучшенное редактирование изображений, рендеринг текста и пространственное представление.

Однако одним из самых заметных изменений, реализованных OpenAI на этой неделе, стало обновление политики модерации контента. Эти обновленные правила теперь позволяют ChatGPT генерировать изображения общественных деятелей, символов ненависти и расовых признаков по запросу, что является отходом от прежней позиции полного отказа.

Согласно посту в блоге руководителя отдела поведения моделей OpenAI Джоанн Джанг, опубликованному в четверг, компания "эволюционировала" в своем подходе. Джанг объяснила: «Мы переходим от категорических отказов в чувствительных областях к более точному подходу, сосредоточенному на предотвращении реального вреда. Цель — проявлять скромность: осознавать, как много мы не знаем, и быть готовыми адаптироваться по мере обучения».

Эти изменения, по-видимому, соответствуют более широкой стратегии OpenAI по "разблокировке" ChatGPT. В феврале компания объявила о планах изменить методы обучения своей ИИ-модели, чтобы ChatGPT мог обрабатывать больше запросов, предоставлять разнообразные точки зрения и минимизировать темы, от которых он отказывается.

Согласно новой политике, ChatGPT теперь может создавать и изменять изображения общественных деятелей, таких как Дональд Трамп и Илон Маск, которые ранее были под запретом. Джанг подчеркнула, что OpenAI не хочет диктовать, кого можно или нельзя изображать в ChatGPT, предлагая возможность отказа для тех, кто предпочитает не быть включенным.

В белой книге, опубликованной во вторник, OpenAI также заявила, что позволит пользователям генерировать изображения символов ненависти, таких как свастика, в образовательных или нейтральных контекстах, при условии, что они не продвигают экстремистские идеи.

Кроме того, OpenAI пересматривает определение "оскорбительного" контента. Ранее ChatGPT отклонял запросы, связанные с физическими характеристиками, например, "сделать глаза этого человека более азиатскими" или "сделать этого человека полнее". Наши тесты в TechCrunch показали, что новый генератор изображений ChatGPT теперь выполняет такие запросы.

Кроме того, хотя ChatGPT теперь может имитировать стили креативных студий, таких как Pixar или Studio Ghibli, он по-прежнему воздерживается от подражания стилям ныне живущих художников, что потенциально может возродить дебаты об использовании материалов, защищенных авторским правом, в данных для обучения ИИ.

Важно отметить, что OpenAI не полностью снимает все ограничения. Встроенный генератор изображений GPT-4o по-прежнему отклоняет многие чувствительные запросы и имеет более строгие меры защиты в отношении генерации изображений детей, чем его предшественник, DALL-E 3, как указано в белой книге GPT-4o.

Это смягчение ограничений последовало после многолетней критики со стороны консервативных кругов по поводу предполагаемой "цензуры" ИИ со стороны компаний Кремниевой долины. Например, Google столкнулась с негативной реакцией на свой генератор изображений Gemini AI, который создавал исторически неточные многорасовые изображения для запросов, таких как "отцы-основатели США" и "немецкие солдаты во Второй мировой войне".

Текущая культурная война вокруг модерации контента ИИ, возможно, достигает критической точки. В начале этого месяца республиканский конгрессмен Джим Джордан задал вопросы OpenAI, Google и другим технологическим компаниям о возможном сговоре с администрацией Байдена для цензуры контента, созданного ИИ.

В предыдущем заявлении для TechCrunch OpenAI опровергла, что изменения в модерации контента имеют политическую подоплеку. Вместо этого компания утверждает, что эти изменения отражают "давно укоренившуюся веру в предоставление пользователям большего контроля", и ее технология теперь достаточно развита, чтобы ответственно обрабатывать чувствительные темы.

Независимо от мотивов этих изменений, время кажется удачным, учитывая потенциал регуляторного контроля со стороны администрации Трампа. Другие технологические гиганты, такие как Meta и X, также приняли схожие политики, позволяя обсуждать более спорные темы на своих платформах.

Хотя новый генератор изображений OpenAI пока вызвал лишь вирусные мемы в стиле Studio Ghibli, долгосрочные последствия этих изменений в политике остаются неопределенными. Недавние изменения ChatGPT могут хорошо соответствовать взглядам администрации Трампа, но разрешение ИИ-чатботу обрабатывать чувствительные вопросы может вскоре поставить OpenAI в сложное положение.

Вирусный момент OpenAI в стиле Studio Ghibli подчеркивает проблемы с авторскими правами ИИ

Функция генерации изображений ChatGPT получает обновление