Maison
ChatGPT lance un mode de blocage d'urgence pour empêcher le vol de données sans avoir à couper le réseau
Afin de prévenir le vol malveillant de données sensibles, OpenAI a mis en place une nouvelle fonctionnalité de sécurité facultative appelée « Mode Incident » pour tous les utilisateurs connectés. Ce paramètre s'applique à tous les types de comptes et d'espaces de travail, et peut être activé aussi bien par les utilisateurs que par les administrateurs. Une fois activé, ChatGPT limitera ses capacités de recherche Web en temps réel, de recherche approfondie et d’agent. L’objectif est de mettre en place une barrière de sécurité contre les attaques par injection de prompt en limitant la capacité du modèle à effectuer des requêtes sur des réseaux externes.

Limiter l’accès au Web pour prévenir les fuites de données
En mode Incident, la navigation Web en temps réel de ChatGPT est strictement limitée au contenu mis en cache, ce qui peut entraîner des résultats de recherche incomplets ou obsolètes. De plus, le modèle ne peut pas télécharger de fichiers depuis Internet à des fins d’analyse de données, et le code généré par Canvas n’est pas non plus autorisé à effectuer des requêtes réseau externes. Toutefois, les fonctionnalités locales telles que les images téléchargées par les utilisateurs, les images générées à l’aide d’outils et l’historique des conversations ne sont pas affectées par ce mode.
Redonner le contrôle des décisions de sécurité aux utilisateurs
Une attaque par injection de prompt se produit lorsque des attaquants intègrent des instructions malveillantes dans des pages web ou des documents, incitant ainsi l’IA à ignorer ses règles existantes et à envoyer les informations sensibles des utilisateurs vers des serveurs externes. OpenAI reconnaît que le mode « Incident » ne peut pas éliminer complètement de telles attaques, car du code malveillant pourrait toujours être dissimulé dans des pages web mises en cache ou dans des fichiers téléchargés par les utilisateurs. Face à la réalité selon laquelle des capacités d’IA plus puissantes élargissent également la surface d’attaque, OpenAI choisit de laisser aux utilisateurs eux-mêmes le soin de trouver le juste équilibre entre « des fonctionnalités plus performantes » et « un risque moindre de fuite de données ».
Article connexe
Neptune Medical obtient l'autorisation de la FDA pour son système robotique Triton 1
Triton est un système d'endoscopie robotisée gastro-intestinale conçu pour offrir une navigation intuitive, une grande précision et un contrôle optimal sur l'ensemble du côlon. | Source : Ne
L'ARIA interdit les chansons entièrement créées par l'IA dans les classements, tout en autorisant les titres créés par des humains et ceux réalisés avec l'aide de l'IA
L'Association australienne de l'industrie du disque (ARIA) a interdit les chansons entièrement générées par l'IA de ses classements officiels ; cette nouvelle mesure entrera en vigueur lundi prochain.
L'Inde signale pour la toute première fois l'activité d'un agent d'IA rebelle
L'autorité indienne chargée de la cybersécurité a indiqué jeudi que des agents d'intelligence artificielle provenant de divers fournisseurs avaient accédé à des informations personnelles et
Recommandations de sujets spéciaux liés
commentaires (0)
Afin de prévenir le vol malveillant de données sensibles, OpenAI a mis en place une nouvelle fonctionnalité de sécurité facultative appelée « Mode Incident » pour tous les utilisateurs connectés. Ce paramètre s'applique à tous les types de comptes et d'espaces de travail, et peut être activé aussi bien par les utilisateurs que par les administrateurs. Une fois activé, ChatGPT limitera ses capacités de recherche Web en temps réel, de recherche approfondie et d’agent. L’objectif est de mettre en place une barrière de sécurité contre les attaques par injection de prompt en limitant la capacité du modèle à effectuer des requêtes sur des réseaux externes.

Limiter l’accès au Web pour prévenir les fuites de données
En mode Incident, la navigation Web en temps réel de ChatGPT est strictement limitée au contenu mis en cache, ce qui peut entraîner des résultats de recherche incomplets ou obsolètes. De plus, le modèle ne peut pas télécharger de fichiers depuis Internet à des fins d’analyse de données, et le code généré par Canvas n’est pas non plus autorisé à effectuer des requêtes réseau externes. Toutefois, les fonctionnalités locales telles que les images téléchargées par les utilisateurs, les images générées à l’aide d’outils et l’historique des conversations ne sont pas affectées par ce mode.
Redonner le contrôle des décisions de sécurité aux utilisateurs
Une attaque par injection de prompt se produit lorsque des attaquants intègrent des instructions malveillantes dans des pages web ou des documents, incitant ainsi l’IA à ignorer ses règles existantes et à envoyer les informations sensibles des utilisateurs vers des serveurs externes. OpenAI reconnaît que le mode « Incident » ne peut pas éliminer complètement de telles attaques, car du code malveillant pourrait toujours être dissimulé dans des pages web mises en cache ou dans des fichiers téléchargés par les utilisateurs. Face à la réalité selon laquelle des capacités d’IA plus puissantes élargissent également la surface d’attaque, OpenAI choisit de laisser aux utilisateurs eux-mêmes le soin de trouver le juste équilibre entre « des fonctionnalités plus performantes » et « un risque moindre de fuite de données ».
Neptune Medical obtient l'autorisation de la FDA pour son système robotique Triton 1
Triton est un système d'endoscopie robotisée gastro-intestinale conçu pour offrir une navigation intuitive, une grande précision et un contrôle optimal sur l'ensemble du côlon. | Source : Ne
L'ARIA interdit les chansons entièrement créées par l'IA dans les classements, tout en autorisant les titres créés par des humains et ceux réalisés avec l'aide de l'IA
L'Association australienne de l'industrie du disque (ARIA) a interdit les chansons entièrement générées par l'IA de ses classements officiels ; cette nouvelle mesure entrera en vigueur lundi prochain.
L'Inde signale pour la toute première fois l'activité d'un agent d'IA rebelle
L'autorité indienne chargée de la cybersécurité a indiqué jeudi que des agents d'intelligence artificielle provenant de divers fournisseurs avaient accédé à des informations personnelles et











