Metaが高度なLlamaツールでAIセキュリティを強化
Metaは、新たなLlamaセキュリティツールをリリースし、AI開発を強化し、新たな脅威から保護します。
これらのアップグレードされたLlama AIモデルのセキュリティツールは、Metaの新しいリソースと組み合わされ、サイバーセキュリティチームがAIを防御に活用することを支援し、すべてのAIステークホルダーの安全性を高めることを目指します。
Llamaモデルを使用する開発者は、MetaのLlama Protectionsページ、Hugging Face、GitHubで直接利用可能な強化されたツールにアクセスできます。
Llama Guard 4は、テキストと画像の両方で安全性を確保するマルチモーダル機能を導入し、ますます視覚的になるAIアプリケーションに不可欠です。これは、現在限定プレビュー中のMetaの新しいLlama APIに統合されています。
新たな追加であるLlamaFirewallは、AIシステムのセキュリティハブとして機能し、安全モデルを調整し、プロンプトインジェクション攻撃、安全でないコード生成、または悪意のあるAIプラグインの動作などのリスクに対抗するためにMetaの保護ツールと統合します。
Metaはまた、Llama Prompt Guardを改良しました。更新されたPrompt Guard 2(86M)モデルは、ジェイルブレイクの試みやプロンプトインジェクションの検出に優れています。さらに、コンパクトなPrompt Guard 2 22Mは、遅延と計算コストを最大75%削減し、コストを意識する開発者向けに強力な検出を維持します。
開発者を超えて、Metaはサイバー攻撃に対抗するためのAI駆動ツールでサイバーセキュリティ専門家をサポートし、高度な防御に対する需要の増加に応えます。
CyberSec Eval 4ベンチマークスイートが刷新され、組織にAIのセキュリティタスクでのパフォーマンスを評価するツールを提供します。これには2つの新しい追加が含まれます:
- CyberSOC Eval:CrowdStrikeと共同開発されたこのフレームワークは、実際のセキュリティオペレーションセンター環境でのAIの有効性を評価し、脅威の検出と対応に焦点を当てます。近日公開予定です。
- AutoPatchBench:これは、Llamaおよび他のAIモデルのコードの脆弱性を特定し、悪用前にパッチを適用する能力をテストします。
MetaのLlama Defenders Programは、パートナーや開発者にカスタマイズされたAIセキュリティソリューションを提供し、オープンソースと早期アクセスツールを組み合わせて多様な課題に対応します。
Metaは、内部のAutomated Sensitive Doc Classification Toolを公開し、RAGセットアップなどのAIシステムでの不正な漏洩や誤使用を防ぐために機密文書にラベルを付けます。
AI生成オーディオ詐欺に対抗するため、MetaはZenDesk、Bell Canada、AT&TなどのパートナーとLlama Generated Audio DetectorおよびLlama Audio Watermark Detectorを共有し、フィッシングや詐欺の試みで詐欺的なAIボイスを特定します。
Metaはまた、WhatsAppのPrivate Processingをプレビューし、メッセージ内容にアクセスせずにAIがメッセージを要約したり、返信を下書きしたりできるようにし、ユーザーのプライバシーを優先します。
Metaは脅威モデルを公開し、セキュリティ研究者が発売前にアーキテクチャを精査することを奨励し、強固なプライバシー対策へのコミットメントを示します。
Metaからのこの包括的なAIセキュリティアップデートセットは、AIエコシステムを強化し、技術コミュニティに安全な開発と効果的な防御のためのツールを提供します。
関連情報:MicrosoftがAI駆動の詐欺試行で40億ドルを発見
アムステルダム、カリフォルニア、ロンドンで開催されるAI & Big Data Expoで、AIとビッグデータについてさらに学び、Intelligent Automation Conference、BlockX、Digital Transformation Week、Cyber Security & Cloud Expoなどのイベントと共催されます。
TechForgeによる今後のエンタープライズテクノロジーイベントやウェビナーはこちらでご覧ください。
関連記事
ワーナーミュージックがAI帰属分析スタートアップのSureel AIを買収
ワーナー・ミュージック・グループ(WMG)は水曜日、人工知能(AI)の帰属情報スタートアップであるSureel AIを買収すると発表した。Sureelの独自技術は、楽曲に対して「AI DNA」を生成し、構成要素に分解して、AIモデルがこれらの要素をどのように利用するかを追跡する。今回の買収を通じて、WMGは、アーティストやソングライターの作品がAI生成コンテンツで利用されたり、AIモデルの学習に使用されたりする状況を監視する能力を強化する目的である。「SureelをWMGに統合することで、保
Amazonは、Alexa for Shoppingを導入しつつ、Rufusを後回しにしている
Amazonは、RufusショッピングチャットボットとAlexa+をアプリ、ウェブサイト、Echo Showデバイス全体で統合した「Alexa for Shopping」をリリースした。このアシスタントは商品の問い合わせに応じ、アイテムの比較、価格追跡、ショッピングリマインダーをサポートする。また、スケジュールされたショッピングアクションや対象となる自動購入も処理する。同社によると、「Alexa for Shopping」はRufusの商品専門知識とAlexa+のパーソナライズされたアシスタ
マイクロソフト、Azure、AI技術がカリフォルニアの山火事リスク対策に貢献
マイクロソフトはAIを活用した山火事検知技術に投資しており、CVP兼チーフデータサイエンティストのフアン・ラビスタ・フェレス氏が、環境被害を軽減するための戦略について語っている。NASAによると、気候変動は地球上のすべての人々に影響を及ぼしており、気温の上昇、降雨パターンの変化、海面上昇といった形で現れている。NASAは、地球がかつてない速度で温暖化しており、その主な要因は人間の活動であるという明
関連特集おすすめ
コメント (2)
0/500
Ces outils semblent prometteurs, mais j'espère que les gros acteurs comme Meta vont vraiment s'intéresser à la sécurité dès la conception, pas seulement en réaction aux problèmes. La course à l'IA crée un terrain dangereux si la robustesse est sacrifiée pour la vitesse de déploiement. 🤔 On verra à l'usage.
A Meta está realmente investindo pesado em segurança de IA! Essas novas ferramentas do Llama parecem promissoras para desenvolvedores. Espero que essas atualizações ajudem a prevenir vazamentos de dados e viés algorítmico, problemas que têm sido frequentes. Será que outras grandes empresas, como Google e OpenAI, vão seguir o exemplo e lançar recursos semelhantes? 🤔 É uma corrida interessante para ver quem protege melhor os usuários.
Metaは、新たなLlamaセキュリティツールをリリースし、AI開発を強化し、新たな脅威から保護します。
これらのアップグレードされたLlama AIモデルのセキュリティツールは、Metaの新しいリソースと組み合わされ、サイバーセキュリティチームがAIを防御に活用することを支援し、すべてのAIステークホルダーの安全性を高めることを目指します。
Llamaモデルを使用する開発者は、MetaのLlama Protectionsページ、Hugging Face、GitHubで直接利用可能な強化されたツールにアクセスできます。
Llama Guard 4は、テキストと画像の両方で安全性を確保するマルチモーダル機能を導入し、ますます視覚的になるAIアプリケーションに不可欠です。これは、現在限定プレビュー中のMetaの新しいLlama APIに統合されています。
新たな追加であるLlamaFirewallは、AIシステムのセキュリティハブとして機能し、安全モデルを調整し、プロンプトインジェクション攻撃、安全でないコード生成、または悪意のあるAIプラグインの動作などのリスクに対抗するためにMetaの保護ツールと統合します。
Metaはまた、Llama Prompt Guardを改良しました。更新されたPrompt Guard 2(86M)モデルは、ジェイルブレイクの試みやプロンプトインジェクションの検出に優れています。さらに、コンパクトなPrompt Guard 2 22Mは、遅延と計算コストを最大75%削減し、コストを意識する開発者向けに強力な検出を維持します。
開発者を超えて、Metaはサイバー攻撃に対抗するためのAI駆動ツールでサイバーセキュリティ専門家をサポートし、高度な防御に対する需要の増加に応えます。
CyberSec Eval 4ベンチマークスイートが刷新され、組織にAIのセキュリティタスクでのパフォーマンスを評価するツールを提供します。これには2つの新しい追加が含まれます:
- CyberSOC Eval:CrowdStrikeと共同開発されたこのフレームワークは、実際のセキュリティオペレーションセンター環境でのAIの有効性を評価し、脅威の検出と対応に焦点を当てます。近日公開予定です。
- AutoPatchBench:これは、Llamaおよび他のAIモデルのコードの脆弱性を特定し、悪用前にパッチを適用する能力をテストします。
MetaのLlama Defenders Programは、パートナーや開発者にカスタマイズされたAIセキュリティソリューションを提供し、オープンソースと早期アクセスツールを組み合わせて多様な課題に対応します。
Metaは、内部のAutomated Sensitive Doc Classification Toolを公開し、RAGセットアップなどのAIシステムでの不正な漏洩や誤使用を防ぐために機密文書にラベルを付けます。
AI生成オーディオ詐欺に対抗するため、MetaはZenDesk、Bell Canada、AT&TなどのパートナーとLlama Generated Audio DetectorおよびLlama Audio Watermark Detectorを共有し、フィッシングや詐欺の試みで詐欺的なAIボイスを特定します。
Metaはまた、WhatsAppのPrivate Processingをプレビューし、メッセージ内容にアクセスせずにAIがメッセージを要約したり、返信を下書きしたりできるようにし、ユーザーのプライバシーを優先します。
Metaは脅威モデルを公開し、セキュリティ研究者が発売前にアーキテクチャを精査することを奨励し、強固なプライバシー対策へのコミットメントを示します。
Metaからのこの包括的なAIセキュリティアップデートセットは、AIエコシステムを強化し、技術コミュニティに安全な開発と効果的な防御のためのツールを提供します。
関連情報:MicrosoftがAI駆動の詐欺試行で40億ドルを発見
アムステルダム、カリフォルニア、ロンドンで開催されるAI & Big Data Expoで、AIとビッグデータについてさらに学び、Intelligent Automation Conference、BlockX、Digital Transformation Week、Cyber Security & Cloud Expoなどのイベントと共催されます。
TechForgeによる今後のエンタープライズテクノロジーイベントやウェビナーはこちらでご覧ください。
ワーナーミュージックがAI帰属分析スタートアップのSureel AIを買収
ワーナー・ミュージック・グループ(WMG)は水曜日、人工知能(AI)の帰属情報スタートアップであるSureel AIを買収すると発表した。Sureelの独自技術は、楽曲に対して「AI DNA」を生成し、構成要素に分解して、AIモデルがこれらの要素をどのように利用するかを追跡する。今回の買収を通じて、WMGは、アーティストやソングライターの作品がAI生成コンテンツで利用されたり、AIモデルの学習に使用されたりする状況を監視する能力を強化する目的である。「SureelをWMGに統合することで、保
マイクロソフト、Azure、AI技術がカリフォルニアの山火事リスク対策に貢献
マイクロソフトはAIを活用した山火事検知技術に投資しており、CVP兼チーフデータサイエンティストのフアン・ラビスタ・フェレス氏が、環境被害を軽減するための戦略について語っている。NASAによると、気候変動は地球上のすべての人々に影響を及ぼしており、気温の上昇、降雨パターンの変化、海面上昇といった形で現れている。NASAは、地球がかつてない速度で温暖化しており、その主な要因は人間の活動であるという明
Ces outils semblent prometteurs, mais j'espère que les gros acteurs comme Meta vont vraiment s'intéresser à la sécurité dès la conception, pas seulement en réaction aux problèmes. La course à l'IA crée un terrain dangereux si la robustesse est sacrifiée pour la vitesse de déploiement. 🤔 On verra à l'usage.
A Meta está realmente investindo pesado em segurança de IA! Essas novas ferramentas do Llama parecem promissoras para desenvolvedores. Espero que essas atualizações ajudem a prevenir vazamentos de dados e viés algorítmico, problemas que têm sido frequentes. Será que outras grandes empresas, como Google e OpenAI, vão seguir o exemplo e lançar recursos semelhantes? 🤔 É uma corrida interessante para ver quem protege melhor os usuários.





家






