Node.js、AIによる偽の報告を受け、セキュリティ報奨金の支払いを停止
AIによって生成される偽の脆弱性報告という問題の深刻化を受け、人気オープンソースプロジェクト「Node.js」の中核チームは、HackerOneプラットフォームを通じた報告者への報奨金の支払いを一時停止することを決定した。
バグ報奨金プラットフォームであるHackerOneは、近年、多くのユーザーがAIツールを使用して脆弱性をスキャンし、大量に報告していることを指摘しています。この傾向により、オープンソースコミュニティのバランスが崩れています。現在、脆弱性(または脆弱性の疑い)が発見されるペースは、開発者がそれらを修正できる速度をはるかに上回っているのです。 さらに懸念されるのは、これらの報告が低品質であったり、誤検知を含んでいたり、あるいは完全に捏造されたものであることが多いという点だ。

この問題に対処するため、HackerOne上の「Internet Bug Bounty Program」(IBB)は新規報告の受付を停止し、Node.jsの報奨金システムを支えていた外部資金を事実上断ち切った。
ボランティアによって運営されるコミュニティ主導のプロジェクトであるNode.jsには、報奨金を支払うための独自の予算がありません。セキュリティ企業のSocketは、Node.jsがすでにプロセスの調整を開始していたと指摘しています:
レビューの負担:すべての報告に対して開発者が検証に多大な時間を費やす必要があり、AIによって生成された質の低いコンテンツは、ボランティアのメンテナーの時間を大幅に浪費している。
閾値の引き上げ:AIによる報告の氾濫に対抗するため、プロジェクトは以前、報告の基準を大幅に引き上げたが、依然として自動化ツールの影響に耐えきれていない。
プロセスは従来通り——報奨金の支払いのみ一時停止
Node.jsは、報奨金の支払いが一時停止されているものの、セキュリティへの取り組みが「縮小」されたわけではないと強調しています:
報告プロセス:研究者は引き続きHackerOneを通じて脆弱性を報告できます。
処理の優先度:チームは、プロジェクトの安全性を維持するため、通常の対応時間とパッチリリースワークフローを維持します。
このような状況にあるのはNode.jsだけではない。 今年初め、有名なネットワークツールであるcURLも、AIによって生成された報告が殺到したため、報奨金プログラムを停止せざるを得ませんでした。これは、生成AIの時代において従来のオープンソースのインセンティブメカニズムが直面している体系的な課題を浮き彫りにしています。つまり、真に価値のある専門的なフィードバックをどのように選別するかという問題は、オープンソースコミュニティにとって喫緊の課題となっているのです。
関連記事
AIモデルルーティングが勢いを増す中、StripeがOpenRouterを買収へ
Stripeは、開発者が単一のインターフェースを通じて数百のモデルにアクセスできるAIモデルルーティングプラットフォーム「OpenRouter」の買収に合意した。この買収により、StripeのAI活用やトークンベースの課金に関する既存の取り組みに、モデルの選択およびルーティング機能が追加されることになる。Stripeによると、OpenRouterは80社以上のプロバイダーが提供する400以上のモデ
OpenAIの元研究員バレット・ゾフ氏が、Geminiの開発を支援するためGoogleに復帰
以前、Thinking Machines LabのCEOであるミリアム・ムララティ氏との意見の相違により、突然同社を退社してOpenAIに加わったバレット・ゾフ氏が、再び転職した。Alphabet傘下のGoogleは、ゾフ氏が研究担当副社長として復帰し、強化学習とポストトレーニングに関する専門知識をGeminiチームにもたらすことを発表した。「回転ドア」式研究者のサイクルゾフ氏のキャリアは、AI人
Recursive Intelligenceが4か月で40億ドルの評価額に基づき3億3500万ドルを調達した経緯
スタートアップ「Ricursive Intelligence」の共同創業者たちは、まるで共同創業者になる運命にあったかのようだった。CEOのアンナ・ゴールディ氏とCTOのアザリア・ミルホセイニ氏は、AIコミュニティでは非常に有名であり、ゴールディ氏はTechCrunchに対し、「ザッカーバーグから、とんでもないオファーが書かれた奇妙なメールを受け取ったAIエンジニアたち」の一人だったと、笑いながら
関連特集おすすめ
コメント (0)
0/500
AIによって生成される偽の脆弱性報告という問題の深刻化を受け、人気オープンソースプロジェクト「Node.js」の中核チームは、HackerOneプラットフォームを通じた報告者への報奨金の支払いを一時停止することを決定した。
バグ報奨金プラットフォームであるHackerOneは、近年、多くのユーザーがAIツールを使用して脆弱性をスキャンし、大量に報告していることを指摘しています。この傾向により、オープンソースコミュニティのバランスが崩れています。現在、脆弱性(または脆弱性の疑い)が発見されるペースは、開発者がそれらを修正できる速度をはるかに上回っているのです。 さらに懸念されるのは、これらの報告が低品質であったり、誤検知を含んでいたり、あるいは完全に捏造されたものであることが多いという点だ。

この問題に対処するため、HackerOne上の「Internet Bug Bounty Program」(IBB)は新規報告の受付を停止し、Node.jsの報奨金システムを支えていた外部資金を事実上断ち切った。
ボランティアによって運営されるコミュニティ主導のプロジェクトであるNode.jsには、報奨金を支払うための独自の予算がありません。セキュリティ企業のSocketは、Node.jsがすでにプロセスの調整を開始していたと指摘しています:
レビューの負担:すべての報告に対して開発者が検証に多大な時間を費やす必要があり、AIによって生成された質の低いコンテンツは、ボランティアのメンテナーの時間を大幅に浪費している。
閾値の引き上げ:AIによる報告の氾濫に対抗するため、プロジェクトは以前、報告の基準を大幅に引き上げたが、依然として自動化ツールの影響に耐えきれていない。
プロセスは従来通り——報奨金の支払いのみ一時停止
Node.jsは、報奨金の支払いが一時停止されているものの、セキュリティへの取り組みが「縮小」されたわけではないと強調しています:
報告プロセス:研究者は引き続きHackerOneを通じて脆弱性を報告できます。
処理の優先度:チームは、プロジェクトの安全性を維持するため、通常の対応時間とパッチリリースワークフローを維持します。
このような状況にあるのはNode.jsだけではない。 今年初め、有名なネットワークツールであるcURLも、AIによって生成された報告が殺到したため、報奨金プログラムを停止せざるを得ませんでした。これは、生成AIの時代において従来のオープンソースのインセンティブメカニズムが直面している体系的な課題を浮き彫りにしています。つまり、真に価値のある専門的なフィードバックをどのように選別するかという問題は、オープンソースコミュニティにとって喫緊の課題となっているのです。
AIモデルルーティングが勢いを増す中、StripeがOpenRouterを買収へ
Stripeは、開発者が単一のインターフェースを通じて数百のモデルにアクセスできるAIモデルルーティングプラットフォーム「OpenRouter」の買収に合意した。この買収により、StripeのAI活用やトークンベースの課金に関する既存の取り組みに、モデルの選択およびルーティング機能が追加されることになる。Stripeによると、OpenRouterは80社以上のプロバイダーが提供する400以上のモデ
OpenAIの元研究員バレット・ゾフ氏が、Geminiの開発を支援するためGoogleに復帰
以前、Thinking Machines LabのCEOであるミリアム・ムララティ氏との意見の相違により、突然同社を退社してOpenAIに加わったバレット・ゾフ氏が、再び転職した。Alphabet傘下のGoogleは、ゾフ氏が研究担当副社長として復帰し、強化学習とポストトレーニングに関する専門知識をGeminiチームにもたらすことを発表した。「回転ドア」式研究者のサイクルゾフ氏のキャリアは、AI人
Recursive Intelligenceが4か月で40億ドルの評価額に基づき3億3500万ドルを調達した経緯
スタートアップ「Ricursive Intelligence」の共同創業者たちは、まるで共同創業者になる運命にあったかのようだった。CEOのアンナ・ゴールディ氏とCTOのアザリア・ミルホセイニ氏は、AIコミュニティでは非常に有名であり、ゴールディ氏はTechCrunchに対し、「ザッカーバーグから、とんでもないオファーが書かれた奇妙なメールを受け取ったAIエンジニアたち」の一人だったと、笑いながら





家






