Обещанный отчет о безопасности от xAI так и не появился

Предприятие Элона Маска по созданию искусственного интеллекта xAI не уложилось в установленный им самим срок для публикации окончательного варианта системы безопасности ИИ, о чем сообщила организация The Midas Project.
xAI не особенно известна своей приверженностью традиционным стандартам безопасности ИИ. Недавно выяснилось, что чатбот Grok компании генерирует по запросу изображения раздетых женщин. Кроме того, Grok демонстрирует гораздо более вульгарный язык по сравнению с такими аналогами, как Gemini и ChatGPT, используя ненормативную лексику с минимальной сдержанностью.
Тем не менее, во время февральского саммита AI Seoul Summit - глобального съезда лидеров ИИ и заинтересованных сторон - компания xAI обнародовала проект рамочной программы, в которой подробно описывается ее подход к безопасности ИИ. В восьмистраничном документе изложены приоритеты безопасности и философия работы xAI, включая методологию бенчмаркинга и соображения по развертыванию моделей ИИ.
Как отмечает The Midas Project в своем блоге во вторник, проект рамочной программы применим только к неопределенным будущим моделям ИИ, которые "в настоящее время не находятся в разработке". Кроме того, в нем не было указано, как xAI будет определять и реализовывать стратегии снижения рисков - основное требование соглашения, которое компания подписала на саммите AI Seoul Summit.
В проекте документа указывалось, что xAI опубликует пересмотренную политику безопасности "в течение трех месяцев", а крайний срок был установлен на 10 мая. Эта дата прошла без какого-либо подтверждения по официальным каналам связи xAI.
Несмотря на неоднократные предупреждения Маска об опасностях нерегулируемого ИИ, xAI сохраняет тревожные показатели безопасности. В недавнем исследовании SaferAI, проведенном некоммерческой организацией, занимающейся вопросами подотчетности лабораторий ИИ, компания xAI была отнесена к числу худших в отрасли из-за "очень слабых" протоколов управления рисками.
Это не означает, что конкурирующие ИИ-лаборатории работают значительно лучше. В последнее время конкуренты xAI, включая Google и OpenAI, сократили сроки тестирования безопасности и отложили публикацию отчетов о безопасности моделей или вовсе пропустили их. Некоторые эксперты опасаются, что такое явное снижение приоритета мер безопасности совпадает с тем, что системы ИИ становятся более способными и потенциально более опасными, чем когда-либо прежде.
Присоединяйтесь к нам на TechCrunch Sessions: AI
Обеспечьте себе место на главном мероприятии индустрии ИИ с участием докладчиков из OpenAI, Anthropic и Cohere. В течение ограниченного времени вы сможете посетить целый день экспертных презентаций, семинаров и ценных знакомств всего за 292 доллара.
Участвуйте в выставке TechCrunch Sessions: AI
Забронируйте свое присутствие на TC Sessions: AI и продемонстрируйте свои инновации 1 200+ лицам, принимающим решения, без больших затрат. Доступно до 9 мая или пока остаются места для участия.
Связанная статья
Сроки аренды помещений у SpaceX компанией Anthropic вызывают разногласия
В начале этого месяца компания xAI заключила крупное соглашение с Anthropic о предоставлении вычислительных мощностей, выделив миллиарды долларов в месяц за эксклюзивный доступ к кластеру Colossus. Сд
Компания xAI сталкивается с иском в связи с генераторами для центров обработки данных, но при этом продолжает сделку по покупке на сумму 2,8 млрд долларов
Компания xAI Илона Маска сталкивается с судебными исками из-за использования загрязняющих окружающую среду генераторов в центре обработки данных в Теннесси. При этом компания планирует приобрести ещё
xAI становится новым игроком на рынке облачных вычислений
В среду компании xAI и Anthropic объявили о неожиданном партнерстве, в рамках которого разработчик Claude приобрел «все вычислительные мощности дата-центра Colossus 1 [xAI]». Передача мощностей объемо
Рекомендации по связанным специальным темам
Комментарии (1)

Предприятие Элона Маска по созданию искусственного интеллекта xAI не уложилось в установленный им самим срок для публикации окончательного варианта системы безопасности ИИ, о чем сообщила организация The Midas Project.
xAI не особенно известна своей приверженностью традиционным стандартам безопасности ИИ. Недавно выяснилось, что чатбот Grok компании генерирует по запросу изображения раздетых женщин. Кроме того, Grok демонстрирует гораздо более вульгарный язык по сравнению с такими аналогами, как Gemini и ChatGPT, используя ненормативную лексику с минимальной сдержанностью.
Тем не менее, во время февральского саммита AI Seoul Summit - глобального съезда лидеров ИИ и заинтересованных сторон - компания xAI обнародовала проект рамочной программы, в которой подробно описывается ее подход к безопасности ИИ. В восьмистраничном документе изложены приоритеты безопасности и философия работы xAI, включая методологию бенчмаркинга и соображения по развертыванию моделей ИИ.
Как отмечает The Midas Project в своем блоге во вторник, проект рамочной программы применим только к неопределенным будущим моделям ИИ, которые "в настоящее время не находятся в разработке". Кроме того, в нем не было указано, как xAI будет определять и реализовывать стратегии снижения рисков - основное требование соглашения, которое компания подписала на саммите AI Seoul Summit.
В проекте документа указывалось, что xAI опубликует пересмотренную политику безопасности "в течение трех месяцев", а крайний срок был установлен на 10 мая. Эта дата прошла без какого-либо подтверждения по официальным каналам связи xAI.
Несмотря на неоднократные предупреждения Маска об опасностях нерегулируемого ИИ, xAI сохраняет тревожные показатели безопасности. В недавнем исследовании SaferAI, проведенном некоммерческой организацией, занимающейся вопросами подотчетности лабораторий ИИ, компания xAI была отнесена к числу худших в отрасли из-за "очень слабых" протоколов управления рисками.
Это не означает, что конкурирующие ИИ-лаборатории работают значительно лучше. В последнее время конкуренты xAI, включая Google и OpenAI, сократили сроки тестирования безопасности и отложили публикацию отчетов о безопасности моделей или вовсе пропустили их. Некоторые эксперты опасаются, что такое явное снижение приоритета мер безопасности совпадает с тем, что системы ИИ становятся более способными и потенциально более опасными, чем когда-либо прежде.
Присоединяйтесь к нам на TechCrunch Sessions: AI
Обеспечьте себе место на главном мероприятии индустрии ИИ с участием докладчиков из OpenAI, Anthropic и Cohere. В течение ограниченного времени вы сможете посетить целый день экспертных презентаций, семинаров и ценных знакомств всего за 292 доллара.
Участвуйте в выставке TechCrunch Sessions: AI
Забронируйте свое присутствие на TC Sessions: AI и продемонстрируйте свои инновации 1 200+ лицам, принимающим решения, без больших затрат. Доступно до 9 мая или пока остаются места для участия.
Сроки аренды помещений у SpaceX компанией Anthropic вызывают разногласия
В начале этого месяца компания xAI заключила крупное соглашение с Anthropic о предоставлении вычислительных мощностей, выделив миллиарды долларов в месяц за эксклюзивный доступ к кластеру Colossus. Сд
Компания xAI сталкивается с иском в связи с генераторами для центров обработки данных, но при этом продолжает сделку по покупке на сумму 2,8 млрд долларов
Компания xAI Илона Маска сталкивается с судебными исками из-за использования загрязняющих окружающую среду генераторов в центре обработки данных в Теннесси. При этом компания планирует приобрести ещё
xAI становится новым игроком на рынке облачных вычислений
В среду компании xAI и Anthropic объявили о неожиданном партнерстве, в рамках которого разработчик Claude приобрел «все вычислительные мощности дата-центра Colossus 1 [xAI]». Передача мощностей объемо





Дом






