ChatGPT、ネットワークを停止せずにデータ盗難を防ぐ「緊急ブロックモード」を導入
機密データの悪意ある盗難を防止するため、OpenAIはログイン中のすべてのユーザー向けに、「インシデントモード」と呼ばれる新しいオプションのセキュリティ機能を導入しました。この設定は、さまざまなアカウントタイプやワークスペースに適用され、ユーザーと管理者の双方が有効化を選択できます。 有効化されると、ChatGPTはリアルタイムのウェブ検索、詳細な調査、およびエージェント機能を制限します。これは、モデルが外部ネットワークへのリクエストを行う能力を制限することで、プロンプトインジェクション攻撃に対するセキュリティの障壁を構築することを目的としています。

データ漏洩を防ぐためのWebアクセス制限
インシデントモードでは、ChatGPTのリアルタイムWeb閲覧はキャッシュされたコンテンツのみに厳格に制限されるため、検索結果が不完全になったり、古くなったりする可能性があります。 さらに、モデルはデータ分析のためにインターネットからファイルをダウンロードできず、Canvasによって生成されたコードによる外部ネットワークへのリクエストも禁止されます。ただし、ユーザーがアップロードした画像、ツールで生成された画像、会話履歴などのローカル機能については、このモードの影響を受けません。
セキュリティに関する決定権をユーザーに委ねる
プロンプトインジェクション攻撃とは、攻撃者がウェブページや文書に悪意のある指示を埋め込み、AIを騙して既存のルールを無視させ、ユーザーの機密情報を外部サーバーに送信させる攻撃です。OpenAIは、悪意のあるコードがキャッシュされたウェブページやユーザーがアップロードしたファイルに隠されている可能性があるため、インシデントモードではこのような攻撃を完全に排除できないことを認めています。 AIの機能強化に伴い攻撃対象領域も拡大するという現実を踏まえ、OpenAIは「機能の強化」と「データ漏洩リスクの低減」というトレードオフの判断を、ユーザー自身に委ねることを選択しました。
関連記事
ネプチューン・メディカル、ロボットシステム「トリトン1」のFDA承認を取得
Tritonは、大腸全域にわたる直感的なナビゲーション、精度、および制御を実現するよう設計された、消化管用ロボット内視鏡システムです。 | 出典:Neptune Medicalネプチューン・メディカル社は今週、同社の「トリトン1システム」がFDAの認可を取得したと発表した。同社によると、このロボットは軟性内視鏡用に開発され、大腸全域にわたる診断および治療処置の両方をサポートするという。ネプチューン
ARIAは、純粋なAI楽曲のチャート掲載を禁止する一方、人間が制作した楽曲やAIを活用した楽曲の掲載は認めている
オーストラリアレコード産業協会(ARIA)は、AIによって完全に生成された楽曲を公式チャートから除外することを決定し、この新方針は来週の月曜日から施行される。 この決定は、AIによるボーカルとドラムビートを用いてマドンナの「ライク・ア・プレイヤー」を模倣した楽曲が、オーストラリアのトップ20に16週間ランクインし、最高2位を記録したことを受けたもので、音楽における生成AIの役割をめぐる議論を巻き起
インドで史上初の不正AIエージェントの活動が報告される
インドのサイバーセキュリティ当局は木曜日、さまざまなプロバイダーのAIエージェントが、調査およびテストの段階でインドの組織の個人情報や機密資料にアクセスしていたと報告した。インドコンピュータ緊急対応チーム(CERT-In)は、「AIモデルプロバイダーから複数の自主的な報告を受けた」と述べ、それらのモデルがオープンインターネット上での研究・評価実行中に「インドの組織の稼働中のシステムに到達していた」
関連特集おすすめ
コメント (0)
0/500
機密データの悪意ある盗難を防止するため、OpenAIはログイン中のすべてのユーザー向けに、「インシデントモード」と呼ばれる新しいオプションのセキュリティ機能を導入しました。この設定は、さまざまなアカウントタイプやワークスペースに適用され、ユーザーと管理者の双方が有効化を選択できます。 有効化されると、ChatGPTはリアルタイムのウェブ検索、詳細な調査、およびエージェント機能を制限します。これは、モデルが外部ネットワークへのリクエストを行う能力を制限することで、プロンプトインジェクション攻撃に対するセキュリティの障壁を構築することを目的としています。

データ漏洩を防ぐためのWebアクセス制限
インシデントモードでは、ChatGPTのリアルタイムWeb閲覧はキャッシュされたコンテンツのみに厳格に制限されるため、検索結果が不完全になったり、古くなったりする可能性があります。 さらに、モデルはデータ分析のためにインターネットからファイルをダウンロードできず、Canvasによって生成されたコードによる外部ネットワークへのリクエストも禁止されます。ただし、ユーザーがアップロードした画像、ツールで生成された画像、会話履歴などのローカル機能については、このモードの影響を受けません。
セキュリティに関する決定権をユーザーに委ねる
プロンプトインジェクション攻撃とは、攻撃者がウェブページや文書に悪意のある指示を埋め込み、AIを騙して既存のルールを無視させ、ユーザーの機密情報を外部サーバーに送信させる攻撃です。OpenAIは、悪意のあるコードがキャッシュされたウェブページやユーザーがアップロードしたファイルに隠されている可能性があるため、インシデントモードではこのような攻撃を完全に排除できないことを認めています。 AIの機能強化に伴い攻撃対象領域も拡大するという現実を踏まえ、OpenAIは「機能の強化」と「データ漏洩リスクの低減」というトレードオフの判断を、ユーザー自身に委ねることを選択しました。
ネプチューン・メディカル、ロボットシステム「トリトン1」のFDA承認を取得
Tritonは、大腸全域にわたる直感的なナビゲーション、精度、および制御を実現するよう設計された、消化管用ロボット内視鏡システムです。 | 出典:Neptune Medicalネプチューン・メディカル社は今週、同社の「トリトン1システム」がFDAの認可を取得したと発表した。同社によると、このロボットは軟性内視鏡用に開発され、大腸全域にわたる診断および治療処置の両方をサポートするという。ネプチューン
ARIAは、純粋なAI楽曲のチャート掲載を禁止する一方、人間が制作した楽曲やAIを活用した楽曲の掲載は認めている
オーストラリアレコード産業協会(ARIA)は、AIによって完全に生成された楽曲を公式チャートから除外することを決定し、この新方針は来週の月曜日から施行される。 この決定は、AIによるボーカルとドラムビートを用いてマドンナの「ライク・ア・プレイヤー」を模倣した楽曲が、オーストラリアのトップ20に16週間ランクインし、最高2位を記録したことを受けたもので、音楽における生成AIの役割をめぐる議論を巻き起
インドで史上初の不正AIエージェントの活動が報告される
インドのサイバーセキュリティ当局は木曜日、さまざまなプロバイダーのAIエージェントが、調査およびテストの段階でインドの組織の個人情報や機密資料にアクセスしていたと報告した。インドコンピュータ緊急対応チーム(CERT-In)は、「AIモデルプロバイダーから複数の自主的な報告を受けた」と述べ、それらのモデルがオープンインターネット上での研究・評価実行中に「インドの組織の稼働中のシステムに到達していた」





家






