Дом
Anthropic, OpenAI и Google ведут секретные переговоры о создании органа по стандартам безопасности ИИ
Согласно отраслевым источникам, до звонка в прошлую субботу генерального директора Anthropic Дарио Амодеи, призывающего компании в сфере искусственного интеллекта сотрудничать в области технических испытаний и аудитов, Anthropic, OpenAI и Google уже начали обсуждения с целью создания органа по установлению стандартов в индустрии ИИ.
Инсайдеры сообщают, что с июля представители этих трех компаний, действующие на уровне ниже генеральных директоров, сформировали рабочую группу, которая регулярно проводит встречи. На этой неделе генеральный директор OpenAI Сэм Алтман заявил на общем собрании сотрудников, что он поддерживает создание независимого института тестирования и аудита ИИ, аргументируя это тем, что ведущие лаборатории должны устанавливать такие стандарты без участия правительства США. Хотя изначально он выступал за поддержку со стороны государства, в настоящее время отсутствует достаточное отраслевое согласие, поскольку некоторые компании возражают против этого шага.
Дебаты о трех моделях регулирования: FAA, FINRA или саморегулирование
В прошлую субботу Амодеи опубликовал статью в блоге под названием «Мы должны замедлить темп развития передовых технологий», призывая к замедлению прогресса в области ИИ и созданию независимого механизма надзора, где ключевым компонентом является саморегулирование отрасли. Он предположил, что, пока правительства разрабатывают нормативные акты по ИИ, компании должны сначала принять добровольные стандарты безопасности, при этом правительство может возглавить или опосредовать отраслевой диалог. Он также призвал ведущие мировые компании предоставить внешним оценщикам, таким как METR, доступ к технологиям, эквивалентному доступу внутренних сотрудников, пообещав, что Anthropic станет первой, кто это сделает. Кроме того, он выступил за ограниченное антимонопольное освобождение для содействия безопасному сотрудничеству.
Демис Хагбис, недавно покинувший пост генерального директора Google DeepMind, охарактеризовал это предложение как шаг в правильном направлении, но отметил, что некоторые детали «все еще требуют уточнения». В июле он предложил создать организацию по саморегулированию ИИ, основанную на примере Управления по регулированию финансовой отрасли США (FINRA). Илон Маск, генеральный директор SpaceX, также выразил поддержку. Согласно предыдущему сообщению The Information, Белый дом распространил проект исполнительного указа, предлагающего создание такого регулирующего органа, но к концу лета не смог обеспечить достаточную правительственную поддержку, что привело к остановке соответствующих усилий. Дэвид Сакс, бывший директор Белого дома по вопросам ИИ, открыто выступил против создания учреждения, подобного FINRA.
Отпор: критики называют это «дизайном картеля»
Предложение столкнулось с серьезной критикой внутри отрасли. Айдень Гомес, генеральный директор Cohere, выразил обеспокоенность тем, что крупные компании в сфере ИИ могут совместно устанавливать правила для ограничения более мелких конкурентов, заявив: «Эта идея звучит точно как дизайн картеля». Сакс поставил под сомнение, является ли замедление развития исключительно альтруистическим шагом, утверждая, что риски ответственности за продукты уже обеспечивают экономические стимулы для предотвращения вреда.
По данным инсайдеров, встречи рабочей группы трех компаний по вопросу создания отраслевого стандартизирующего органа продолжаются, причем последние сессии проходили на прошлой неделе. Позиция Meta остается неясной; ее главный специалист по ИИ Александр Ван опубликовал в X сообщение о том, что «соответствие является основой создания персонального суперинтеллекта для всех людей», не выразив явно поддержки или возражения против более широкого предложения Амодеи.
Связанная статья
OpenAI создает рабочую группу для расследования необычного использования Codex
OpenAI создала специальную группу расследования после жалоб пользователей на аномальное использование квоты Codex. Платные подписчики ChatGPT сообщают о резком снижении еженедельных квот, при этом баланс быстро падает с 96% до нуля даже в периоды мин
Societe Generale делает ставку на ИИ, чтобы сократить расходы до 600 миллионов евро
Bloomberg сообщает, что Société Générale SA прогнозирует, что растущая роль искусственного интеллекта существенно стимулирует инициативы по снижению затрат.Учреждение, базирующееся в Париже, оценивает текущий потенциал сбережений за счет ИИ в диапаз
Как создать бесплатные говорящие аватары на базе ИИ
Мастерская настройка аватара Roblox: Руководство, вдохновленное Карлом ДжейкобсомВведениеУлучшение вашего аватараНавигация в редакторе аватараПросмотр популярных образовНастройка персонажаИнструменты поиска и фильтрацииИспользование функции пои
Рекомендации по связанным специальным темам
Комментарии (0)
Согласно отраслевым источникам, до звонка в прошлую субботу генерального директора Anthropic Дарио Амодеи, призывающего компании в сфере искусственного интеллекта сотрудничать в области технических испытаний и аудитов, Anthropic, OpenAI и Google уже начали обсуждения с целью создания органа по установлению стандартов в индустрии ИИ.
Инсайдеры сообщают, что с июля представители этих трех компаний, действующие на уровне ниже генеральных директоров, сформировали рабочую группу, которая регулярно проводит встречи. На этой неделе генеральный директор OpenAI Сэм Алтман заявил на общем собрании сотрудников, что он поддерживает создание независимого института тестирования и аудита ИИ, аргументируя это тем, что ведущие лаборатории должны устанавливать такие стандарты без участия правительства США. Хотя изначально он выступал за поддержку со стороны государства, в настоящее время отсутствует достаточное отраслевое согласие, поскольку некоторые компании возражают против этого шага.
Дебаты о трех моделях регулирования: FAA, FINRA или саморегулирование
В прошлую субботу Амодеи опубликовал статью в блоге под названием «Мы должны замедлить темп развития передовых технологий», призывая к замедлению прогресса в области ИИ и созданию независимого механизма надзора, где ключевым компонентом является саморегулирование отрасли. Он предположил, что, пока правительства разрабатывают нормативные акты по ИИ, компании должны сначала принять добровольные стандарты безопасности, при этом правительство может возглавить или опосредовать отраслевой диалог. Он также призвал ведущие мировые компании предоставить внешним оценщикам, таким как METR, доступ к технологиям, эквивалентному доступу внутренних сотрудников, пообещав, что Anthropic станет первой, кто это сделает. Кроме того, он выступил за ограниченное антимонопольное освобождение для содействия безопасному сотрудничеству.
Демис Хагбис, недавно покинувший пост генерального директора Google DeepMind, охарактеризовал это предложение как шаг в правильном направлении, но отметил, что некоторые детали «все еще требуют уточнения». В июле он предложил создать организацию по саморегулированию ИИ, основанную на примере Управления по регулированию финансовой отрасли США (FINRA). Илон Маск, генеральный директор SpaceX, также выразил поддержку. Согласно предыдущему сообщению The Information, Белый дом распространил проект исполнительного указа, предлагающего создание такого регулирующего органа, но к концу лета не смог обеспечить достаточную правительственную поддержку, что привело к остановке соответствующих усилий. Дэвид Сакс, бывший директор Белого дома по вопросам ИИ, открыто выступил против создания учреждения, подобного FINRA.
Отпор: критики называют это «дизайном картеля»
Предложение столкнулось с серьезной критикой внутри отрасли. Айдень Гомес, генеральный директор Cohere, выразил обеспокоенность тем, что крупные компании в сфере ИИ могут совместно устанавливать правила для ограничения более мелких конкурентов, заявив: «Эта идея звучит точно как дизайн картеля». Сакс поставил под сомнение, является ли замедление развития исключительно альтруистическим шагом, утверждая, что риски ответственности за продукты уже обеспечивают экономические стимулы для предотвращения вреда.
По данным инсайдеров, встречи рабочей группы трех компаний по вопросу создания отраслевого стандартизирующего органа продолжаются, причем последние сессии проходили на прошлой неделе. Позиция Meta остается неясной; ее главный специалист по ИИ Александр Ван опубликовал в X сообщение о том, что «соответствие является основой создания персонального суперинтеллекта для всех людей», не выразив явно поддержки или возражения против более широкого предложения Амодеи.
OpenAI создает рабочую группу для расследования необычного использования Codex
OpenAI создала специальную группу расследования после жалоб пользователей на аномальное использование квоты Codex. Платные подписчики ChatGPT сообщают о резком снижении еженедельных квот, при этом баланс быстро падает с 96% до нуля даже в периоды мин
Societe Generale делает ставку на ИИ, чтобы сократить расходы до 600 миллионов евро
Bloomberg сообщает, что Société Générale SA прогнозирует, что растущая роль искусственного интеллекта существенно стимулирует инициативы по снижению затрат.Учреждение, базирующееся в Париже, оценивает текущий потенциал сбережений за счет ИИ в диапаз
Как создать бесплатные говорящие аватары на базе ИИ
Мастерская настройка аватара Roblox: Руководство, вдохновленное Карлом ДжейкобсомВведениеУлучшение вашего аватараНавигация в редакторе аватараПросмотр популярных образовНастройка персонажаИнструменты поиска и фильтрацииИспользование функции пои











