Технологическая коалиция возражает против отхода OpenAI от некоммерческих истоков

Влиятельная коалиция экспертов по искусственному интеллекту, включая бывших сотрудников OpenAI, выразила серьезную обеспокоенность тем, что организация отходит от своих основополагающих некоммерческих принципов.

Опасения по поводу открытого управления

В официальном письме, направленном властям Калифорнии и Делавэра, выражается глубокая обеспокоенность структурными изменениями, которые могут поставить под угрозу первоначальную гуманитарную миссию OpenAI. Разнообразная группа подписантов - исследователи ИИ, юристы, руководители некоммерческих организаций и специалисты по корпоративному управлению - утверждает, что предлагаемый переход к модели корпорации общественной пользы подрывает важнейшие меры защиты, установленные в уставе OpenAI.

Миссионерское происхождение под угрозой

Основополагающей целью OpenAI, изначально созданной с четкими некоммерческими намерениями, остается "разработка искусственного интеллекта на благо человечества" без ущемления частных интересов. Теперь это основополагающее обязательство может быть размыто в результате планируемой корпоративной реструктуризации.

Рассматриваемая в настоящее время трансформация, по сути, передаст полномочия по управлению от первоначальной некоммерческой организации, контролирующей OpenAI, к новой структуре корпорации общественной пользы, базирующейся в штате Делавэр. Критики утверждают, что эта реструктурированная структура может подчинить гуманитарные приоритеты интересам акционеров в разработке преобразующих технологий AGI.

Первоначальная защитная структура

Руководство OpenAI ранее установило несколько ключевых гарантий при внедрении механизма ограниченного дохода в 2019 году для привлечения необходимых инвестиций при сохранении целостности миссии:

• Некоммерческая материнская компания сохраняла окончательный контроль над операциями
• Строгие ограничения на финансовую прибыль для инвесторов
• Независимый надзор со стороны совета директоров без финансовых конфликтов
• Фидуциарные обязательства, четко привязанные к целям общественной пользы
• Сохранение за некоммерческой организацией полномочий по управлению AGI

Основатели организации, среди которых такие известные личности, как Сэм Альтман и Элон Маск, специально разработали эту гибридную структуру, чтобы коммерческое давление не поставило под угрозу этические приоритеты развития ИИ.

Потенциальные компромиссы

Эксперты предупреждают, что реструктурированная модель управления ставит под угрозу множество аспектов первоначальной защитной структуры OpenAI:

• Возможная отмена обязательных требований к общественной пользе
• Отмена ограничений на доходность для инвесторов может отвлечь ресурсы от гуманитарных целей
• Неопределенность в отношении сохранения независимых механизмов надзора
• Передача полномочий по управлению AGI организации, мотивированной на получение прибыли
• Потенциальное ослабление обязательств по безопасности, таких как протоколы сотрудничества.

Хотя OpenAI ссылается на конкурентное давление, вызвавшее необходимость этих изменений, критики утверждают, что сохранение целостности миссии должно преобладать над коммерческими соображениями для организации, созданной как общественно-полезная структура.

Призыв к регулятивному пересмотру

Коалиция официально потребовала вмешательства регулирующих органов, чтобы:

• Приостановить предлагаемую реструктуризацию до ее надлежащего рассмотрения
• обязать прозрачно обосновывать изменения в управлении
• Сохранить существующие положения о контроле над некоммерческими организациями
• Обеспечить постоянный независимый надзор за развитием AGI.

"Такая реструктуризация может фактически передать контроль над потенциально преобразующей технологией от организации, руководствующейся своей миссией, обычным корпоративным интересам", - заключают подписанты, призывая регуляторов тщательно рассмотреть вопрос, прежде чем одобрять фундаментальные изменения в модели управления OpenAI.

События в отрасли

Дискуссия проходит параллельно с продолжающимися судебными спорами между OpenAI и Элоном Маском (Elon Musk) по поводу аналогичных проблем, связанных с сохранением миссии и коммерциализацией разработок ИИ.