Обещанный отчет о безопасности от xAI так и не появился

Предприятие Элона Маска по созданию искусственного интеллекта xAI не уложилось в установленный им самим срок для публикации окончательного варианта системы безопасности ИИ, о чем сообщила организация The Midas Project.
xAI не особенно известна своей приверженностью традиционным стандартам безопасности ИИ. Недавно выяснилось, что чатбот Grok компании генерирует по запросу изображения раздетых женщин. Кроме того, Grok демонстрирует гораздо более вульгарный язык по сравнению с такими аналогами, как Gemini и ChatGPT, используя ненормативную лексику с минимальной сдержанностью.
Тем не менее, во время февральского саммита AI Seoul Summit - глобального съезда лидеров ИИ и заинтересованных сторон - компания xAI обнародовала проект рамочной программы, в которой подробно описывается ее подход к безопасности ИИ. В восьмистраничном документе изложены приоритеты безопасности и философия работы xAI, включая методологию бенчмаркинга и соображения по развертыванию моделей ИИ.
Как отмечает The Midas Project в своем блоге во вторник, проект рамочной программы применим только к неопределенным будущим моделям ИИ, которые "в настоящее время не находятся в разработке". Кроме того, в нем не было указано, как xAI будет определять и реализовывать стратегии снижения рисков - основное требование соглашения, которое компания подписала на саммите AI Seoul Summit.
В проекте документа указывалось, что xAI опубликует пересмотренную политику безопасности "в течение трех месяцев", а крайний срок был установлен на 10 мая. Эта дата прошла без какого-либо подтверждения по официальным каналам связи xAI.
Несмотря на неоднократные предупреждения Маска об опасностях нерегулируемого ИИ, xAI сохраняет тревожные показатели безопасности. В недавнем исследовании SaferAI, проведенном некоммерческой организацией, занимающейся вопросами подотчетности лабораторий ИИ, компания xAI была отнесена к числу худших в отрасли из-за "очень слабых" протоколов управления рисками.
Это не означает, что конкурирующие ИИ-лаборатории работают значительно лучше. В последнее время конкуренты xAI, включая Google и OpenAI, сократили сроки тестирования безопасности и отложили публикацию отчетов о безопасности моделей или вовсе пропустили их. Некоторые эксперты опасаются, что такое явное снижение приоритета мер безопасности совпадает с тем, что системы ИИ становятся более способными и потенциально более опасными, чем когда-либо прежде.
Присоединяйтесь к нам на TechCrunch Sessions: AI
Обеспечьте себе место на главном мероприятии индустрии ИИ с участием докладчиков из OpenAI, Anthropic и Cohere. В течение ограниченного времени вы сможете посетить целый день экспертных презентаций, семинаров и ценных знакомств всего за 292 доллара.
Участвуйте в выставке TechCrunch Sessions: AI
Забронируйте свое присутствие на TC Sessions: AI и продемонстрируйте свои инновации 1 200+ лицам, принимающим решения, без больших затрат. Доступно до 9 мая или пока остаются места для участия.
Связанная статья
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Иск утверждает, что xAI уволил инженера, предупредившего о рисках безопасности Grok
Бывший инженер xAI подал в суд на компанию Илона Маска и её материнскую структуру SpaceX, утверждая, что был уволен за то, что поднимал вопросы безопасности искусственного интеллекта.Девин Ким, покинувший xAI в сентябре 2025 года, подал иск в суд шт
Илон Маск высоко оценил Mythos/Fable и пообещал не прекращать финансирование Anthropic
Может ли компания Anthropic рассчитывать на Илона Маска в вопросе размещения своих моделей? После того как пользователи в X высказали предположение, что Маск может произвольно удалить лабораторию ИИ с
Рекомендации по связанным специальным темам
Комментарии (2)
So Musk promised a safety report and then... nothing? Shocking, I know. 🙄 xAI talks a big game about 'maximally truth-seeking AI' but can't even deliver a basic framework on time. Maybe they're too busy tweeting memes about self-driving cars?

Предприятие Элона Маска по созданию искусственного интеллекта xAI не уложилось в установленный им самим срок для публикации окончательного варианта системы безопасности ИИ, о чем сообщила организация The Midas Project.
xAI не особенно известна своей приверженностью традиционным стандартам безопасности ИИ. Недавно выяснилось, что чатбот Grok компании генерирует по запросу изображения раздетых женщин. Кроме того, Grok демонстрирует гораздо более вульгарный язык по сравнению с такими аналогами, как Gemini и ChatGPT, используя ненормативную лексику с минимальной сдержанностью.
Тем не менее, во время февральского саммита AI Seoul Summit - глобального съезда лидеров ИИ и заинтересованных сторон - компания xAI обнародовала проект рамочной программы, в которой подробно описывается ее подход к безопасности ИИ. В восьмистраничном документе изложены приоритеты безопасности и философия работы xAI, включая методологию бенчмаркинга и соображения по развертыванию моделей ИИ.
Как отмечает The Midas Project в своем блоге во вторник, проект рамочной программы применим только к неопределенным будущим моделям ИИ, которые "в настоящее время не находятся в разработке". Кроме того, в нем не было указано, как xAI будет определять и реализовывать стратегии снижения рисков - основное требование соглашения, которое компания подписала на саммите AI Seoul Summit.
В проекте документа указывалось, что xAI опубликует пересмотренную политику безопасности "в течение трех месяцев", а крайний срок был установлен на 10 мая. Эта дата прошла без какого-либо подтверждения по официальным каналам связи xAI.
Несмотря на неоднократные предупреждения Маска об опасностях нерегулируемого ИИ, xAI сохраняет тревожные показатели безопасности. В недавнем исследовании SaferAI, проведенном некоммерческой организацией, занимающейся вопросами подотчетности лабораторий ИИ, компания xAI была отнесена к числу худших в отрасли из-за "очень слабых" протоколов управления рисками.
Это не означает, что конкурирующие ИИ-лаборатории работают значительно лучше. В последнее время конкуренты xAI, включая Google и OpenAI, сократили сроки тестирования безопасности и отложили публикацию отчетов о безопасности моделей или вовсе пропустили их. Некоторые эксперты опасаются, что такое явное снижение приоритета мер безопасности совпадает с тем, что системы ИИ становятся более способными и потенциально более опасными, чем когда-либо прежде.
Присоединяйтесь к нам на TechCrunch Sessions: AI
Обеспечьте себе место на главном мероприятии индустрии ИИ с участием докладчиков из OpenAI, Anthropic и Cohere. В течение ограниченного времени вы сможете посетить целый день экспертных презентаций, семинаров и ценных знакомств всего за 292 доллара.
Участвуйте в выставке TechCrunch Sessions: AI
Забронируйте свое присутствие на TC Sessions: AI и продемонстрируйте свои инновации 1 200+ лицам, принимающим решения, без больших затрат. Доступно до 9 мая или пока остаются места для участия.
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Иск утверждает, что xAI уволил инженера, предупредившего о рисках безопасности Grok
Бывший инженер xAI подал в суд на компанию Илона Маска и её материнскую структуру SpaceX, утверждая, что был уволен за то, что поднимал вопросы безопасности искусственного интеллекта.Девин Ким, покинувший xAI в сентябре 2025 года, подал иск в суд шт
Илон Маск высоко оценил Mythos/Fable и пообещал не прекращать финансирование Anthropic
Может ли компания Anthropic рассчитывать на Илона Маска в вопросе размещения своих моделей? После того как пользователи в X высказали предположение, что Маск может произвольно удалить лабораторию ИИ с
So Musk promised a safety report and then... nothing? Shocking, I know. 🙄 xAI talks a big game about 'maximally truth-seeking AI' but can't even deliver a basic framework on time. Maybe they're too busy tweeting memes about self-driving cars?





Дом






