В Индии впервые зафиксирована активность неконтролируемого ИИ-агента

В четверг индийский орган по кибербезопасности сообщил, что ИИ-агенты различных поставщиков получили доступ к личной информации и конфиденциальным материалам индийских организаций в ходе исследований и тестирования.
Индийская группа реагирования на компьютерные чрезвычайные ситуации (CERT-In) заявила, что получила «несколько добровольных сообщений от поставщиков моделей искусственного интеллекта», чьи модели в ходе исследований и оценочных тестов в открытом интернете «проникли в действующие системы индийских организаций».
Агенты получили доступ благодаря учетным данным и настройкам подключения, оставленным незащищенными в конфигурациях приложений, публичных репозиториях кода и чрезмерно разрешительных ролях в облачных средах, при этом их действия «выходили за рамки полномочий, предусмотренных поставленными задачами».
Это делает Индию новым пунктом назначения в том, что стало глобальным турне злонамеренных агентов ИИ. В июле агенты OpenAI сбежали из тестовой среды и взломали французскую компанию Hugging Face, положив начало лету активности злонамеренных агентов ИИ. В прошлом месяце OpenAI принесла извинения Австралии после того, как её агенты получили доступ к четырём правительственным веб-сайтам, включая портал статистики Medicare.
В случае с Hugging Face агенты OpenAI действовали по той же схеме, но затем обнаружили и использовали уязвимости программного обеспечения для запуска кода на серверах компании. CERT-In не сообщил о подобных взломах в Индии, где агенты, по-видимому, просто воспользовались оставленным без присмотра доступом.
Однако индийские случаи выглядят более серьезными в одном отношении: в том, что видели агенты. В Австралии OpenAI заявила, что не обнаружила доказательств того, что её агенты получали доступ к медицинским или криминальным досье отдельных лиц, даже после того, как они записали файлы в статистическую систему Medicare, тогда как в Индии агенты читали личные данные и конфиденциальные деловые документы. В отличие от предыдущих инцидентов, о каждом из которых сообщала отдельная лаборатория, в индийских случаях были задействованы агенты от нескольких провайдеров.
CERT-In не назвала провайдеров или пострадавшие организации, а также не сообщила, изменяли ли агенты какие-либо системы. TechCrunch обратился в CERT-In за дополнительной информацией.
На данный момент наиболее близким аналогом, по-видимому, является июльское заявление компании Anthropic о том, что во время тестирования агент Claude проник в системы трёх компаний, используя простые методы, такие как слабые пароли.
В Индии, как и в случаях с Anthropic, пострадавшие организации самостоятельно не обнаружили вторжений. Эти раскрытия заставили правительства полагаться на то, что компании, занимающиеся ИИ и ставшие причиной этих нарушений, добровольно раскроют информацию о деятельности несанкционированных ИИ-агентов.
Связанная статья
Amazon использует ИИ и возобновляемые источники энергии для расширения своих центров обработки данных
Amazon использует искусственный интеллект, атомную энергетику и электромобили для расширения инфраструктуры при одновременном снижении углеродной интенсивности. Источник: AmazonВ отчете Amazon об усто
Anthropic корректирует цены на Claude для Индии — своего крупнейшего рынка после США
Компания Anthropic приступила к корректировке цен на сервис Claude для Индии — своего крупнейшего рынка за пределами США — на фоне того, как глобальные ИИ-компании все чаще адаптируют свои предложения
Видео-ИИ компании Avataar решает задачи, связанные с масштабами индийского рынка, обеспечивая высокую скорость, экономию средств и учет культурных нюансов
Темпы разработки моделей искусственного интеллекта в Индии остаются низкими по сравнению с США, Европой и Китаем. Лишь несколько стартапов выпускают модели, и большинство из них представляют собой кру
Рекомендации по связанным специальным темам
Комментарии (0)

В четверг индийский орган по кибербезопасности сообщил, что ИИ-агенты различных поставщиков получили доступ к личной информации и конфиденциальным материалам индийских организаций в ходе исследований и тестирования.
Индийская группа реагирования на компьютерные чрезвычайные ситуации (CERT-In) заявила, что получила «несколько добровольных сообщений от поставщиков моделей искусственного интеллекта», чьи модели в ходе исследований и оценочных тестов в открытом интернете «проникли в действующие системы индийских организаций».
Агенты получили доступ благодаря учетным данным и настройкам подключения, оставленным незащищенными в конфигурациях приложений, публичных репозиториях кода и чрезмерно разрешительных ролях в облачных средах, при этом их действия «выходили за рамки полномочий, предусмотренных поставленными задачами».
Это делает Индию новым пунктом назначения в том, что стало глобальным турне злонамеренных агентов ИИ. В июле агенты OpenAI сбежали из тестовой среды и взломали французскую компанию Hugging Face, положив начало лету активности злонамеренных агентов ИИ. В прошлом месяце OpenAI принесла извинения Австралии после того, как её агенты получили доступ к четырём правительственным веб-сайтам, включая портал статистики Medicare.
В случае с Hugging Face агенты OpenAI действовали по той же схеме, но затем обнаружили и использовали уязвимости программного обеспечения для запуска кода на серверах компании. CERT-In не сообщил о подобных взломах в Индии, где агенты, по-видимому, просто воспользовались оставленным без присмотра доступом.
Однако индийские случаи выглядят более серьезными в одном отношении: в том, что видели агенты. В Австралии OpenAI заявила, что не обнаружила доказательств того, что её агенты получали доступ к медицинским или криминальным досье отдельных лиц, даже после того, как они записали файлы в статистическую систему Medicare, тогда как в Индии агенты читали личные данные и конфиденциальные деловые документы. В отличие от предыдущих инцидентов, о каждом из которых сообщала отдельная лаборатория, в индийских случаях были задействованы агенты от нескольких провайдеров.
CERT-In не назвала провайдеров или пострадавшие организации, а также не сообщила, изменяли ли агенты какие-либо системы. TechCrunch обратился в CERT-In за дополнительной информацией.
На данный момент наиболее близким аналогом, по-видимому, является июльское заявление компании Anthropic о том, что во время тестирования агент Claude проник в системы трёх компаний, используя простые методы, такие как слабые пароли.
В Индии, как и в случаях с Anthropic, пострадавшие организации самостоятельно не обнаружили вторжений. Эти раскрытия заставили правительства полагаться на то, что компании, занимающиеся ИИ и ставшие причиной этих нарушений, добровольно раскроют информацию о деятельности несанкционированных ИИ-агентов.
Amazon использует ИИ и возобновляемые источники энергии для расширения своих центров обработки данных
Amazon использует искусственный интеллект, атомную энергетику и электромобили для расширения инфраструктуры при одновременном снижении углеродной интенсивности. Источник: AmazonВ отчете Amazon об усто
Anthropic корректирует цены на Claude для Индии — своего крупнейшего рынка после США
Компания Anthropic приступила к корректировке цен на сервис Claude для Индии — своего крупнейшего рынка за пределами США — на фоне того, как глобальные ИИ-компании все чаще адаптируют свои предложения
Видео-ИИ компании Avataar решает задачи, связанные с масштабами индийского рынка, обеспечивая высокую скорость, экономию средств и учет культурных нюансов
Темпы разработки моделей искусственного интеллекта в Индии остаются низкими по сравнению с США, Европой и Китаем. Лишь несколько стартапов выпускают модели, и большинство из них представляют собой кру





Дом






