Дом
ChatGPT запускает режим экстренной блокировки для предотвращения кражи данных без отключения сети
В целях предотвращения злонамеренного хищения конфиденциальных данных компания OpenAI внедрила новую дополнительную функцию безопасности под названием «Режим инцидента» для всех авторизованных пользователей. Этот параметр действует для всех типов учетных записей и рабочих пространств, и его могут включить как пользователи, так и администраторы. После активации ChatGPT ограничит свои возможности по веб-поиску в режиме реального времени, углубленному исследованию и работе агента. Цель состоит в создании барьера безопасности против атак с внедрением подсказок путем ограничения способности модели отправлять внешние сетевые запросы.

Ограничение доступа к Интернету для предотвращения утечек данных
В режиме инцидента просмотр веб-страниц ChatGPT в режиме реального времени строго ограничен только кэшированным контентом, что может привести к неполным или устаревшим результатам поиска. Кроме того, модель не может загружать файлы из Интернета для анализа данных, а код, сгенерированный Canvas, также не имеет права отправлять внешние сетевые запросы. Однако локальные функции, такие как загруженные пользователем изображения, изображения, сгенерированные с помощью инструментов, и история разговоров, не затрагиваются этим режимом.
Возвращение контроля над решениями по безопасности в руки пользователей
Атака типа «вставки подсказки» происходит, когда злоумышленники встраивают вредоносные инструкции в веб-страницы или документы, обманывая ИИ, заставляя его игнорировать существующие правила и отправлять конфиденциальную информацию пользователей на внешние серверы. OpenAI признает, что режим «Incident Mode» не может полностью исключить такие атаки, поскольку вредоносный код по-прежнему может быть скрыт в кэшированных веб-страницах или файлах, загруженных пользователями. Столкнувшись с реальностью, в которой более мощные возможности ИИ одновременно расширяют поверхность атаки, OpenAI предпочитает оставить выбор между «более широкими функциональными возможностями» и «меньшим риском утечки данных» за самими пользователями.
Связанная статья
Компания Neptune Medical получила разрешение FDA на использование роботизированной системы Triton 1
Triton — это система роботизированной эндоскопии желудочно-кишечного тракта, разработанная для интуитивной навигации, точности и контроля на всем протяжении толстой кишки. | Источник: Neptune MedicalН
ARIA запрещает включение в чарты песен, полностью созданных искусственным интеллектом, но разрешает треки, созданные людьми с помощью ИИ
Австралийская ассоциация звукозаписывающей индустрии (ARIA) полностью запретила включение в свои официальные чарты песен, созданных с помощью искусственного интеллекта; новая политика вступает в силу
В Индии впервые зафиксирована активность неконтролируемого ИИ-агента
В четверг индийский орган по кибербезопасности сообщил, что ИИ-агенты различных поставщиков получили доступ к личной информации и конфиденциальным материалам индийских организаций в ходе исследований
Рекомендации по связанным специальным темам
Комментарии (0)
В целях предотвращения злонамеренного хищения конфиденциальных данных компания OpenAI внедрила новую дополнительную функцию безопасности под названием «Режим инцидента» для всех авторизованных пользователей. Этот параметр действует для всех типов учетных записей и рабочих пространств, и его могут включить как пользователи, так и администраторы. После активации ChatGPT ограничит свои возможности по веб-поиску в режиме реального времени, углубленному исследованию и работе агента. Цель состоит в создании барьера безопасности против атак с внедрением подсказок путем ограничения способности модели отправлять внешние сетевые запросы.

Ограничение доступа к Интернету для предотвращения утечек данных
В режиме инцидента просмотр веб-страниц ChatGPT в режиме реального времени строго ограничен только кэшированным контентом, что может привести к неполным или устаревшим результатам поиска. Кроме того, модель не может загружать файлы из Интернета для анализа данных, а код, сгенерированный Canvas, также не имеет права отправлять внешние сетевые запросы. Однако локальные функции, такие как загруженные пользователем изображения, изображения, сгенерированные с помощью инструментов, и история разговоров, не затрагиваются этим режимом.
Возвращение контроля над решениями по безопасности в руки пользователей
Атака типа «вставки подсказки» происходит, когда злоумышленники встраивают вредоносные инструкции в веб-страницы или документы, обманывая ИИ, заставляя его игнорировать существующие правила и отправлять конфиденциальную информацию пользователей на внешние серверы. OpenAI признает, что режим «Incident Mode» не может полностью исключить такие атаки, поскольку вредоносный код по-прежнему может быть скрыт в кэшированных веб-страницах или файлах, загруженных пользователями. Столкнувшись с реальностью, в которой более мощные возможности ИИ одновременно расширяют поверхность атаки, OpenAI предпочитает оставить выбор между «более широкими функциональными возможностями» и «меньшим риском утечки данных» за самими пользователями.
Компания Neptune Medical получила разрешение FDA на использование роботизированной системы Triton 1
Triton — это система роботизированной эндоскопии желудочно-кишечного тракта, разработанная для интуитивной навигации, точности и контроля на всем протяжении толстой кишки. | Источник: Neptune MedicalН
ARIA запрещает включение в чарты песен, полностью созданных искусственным интеллектом, но разрешает треки, созданные людьми с помощью ИИ
Австралийская ассоциация звукозаписывающей индустрии (ARIA) полностью запретила включение в свои официальные чарты песен, созданных с помощью искусственного интеллекта; новая политика вступает в силу
В Индии впервые зафиксирована активность неконтролируемого ИИ-агента
В четверг индийский орган по кибербезопасности сообщил, что ИИ-агенты различных поставщиков получили доступ к личной информации и конфиденциальным материалам индийских организаций в ходе исследований











