curlコマンド開発者、生成AIを用いた意味のないセキュリティレポートに苦言

• 

  Open source project curl is sick of users submitting “AI slop” vulnerabilities - Ars Technica

無価値なレポートはサイバー攻撃と変わらない

URLデータ転送ライブラリ「cURL」を開発したDaniel Stenberg氏はLinkedinへの投稿で「もうたくさんだ。我慢ならない。この狂気を断固として阻止する」と述べ、生成AIを用いた無価値なセキュリティレポートの報告者を非難した(参考：「#hackerone #curl | Daniel Stenberg | 220件のコメント」)。

生成AI登場以来、脆弱性の発見からレポートの作成まで、すべてをAIに任せて検証もせずに報告する事例が多発している。Stenberg氏によると少なくともcURLに対するAI利用のセキュリティレポートで有効だったものは1件もないという。

同氏は次のように述べ、本人にそのつもりがなくても結果はサイバー攻撃と変わりないと指摘している。

「私たちは事実上、分散型サービス拒否攻撃(DDoS: Distributed Denial of Service attack)を受けている。できることなら、この時間の無駄遣いに料金を請求したい」

最近報告された無価値なレポートとして、同氏は「curl | Report #3125832 - HTTP/3 Stream Dependency Cycle Exploit | HackerOne」を挙げている。このレポートでは「GitHub - aiortc/aioquic: QUIC and HTTP/3 implementation in Python」にパッチを当てることで、cURLの脆弱性を確認できると説明している。

しかしながら、パッチは不完全で適用できず、cURLのスタッフは正しい再現方法の説明を求めている。これに対し報告者はパッチを作り直したと説明するものの肝心のパッチを提出せず、誰も質問していない循環依存について解説している。

cURLの別のスタッフがAIスロップ(AIが生成した無価値なコンテンツ)をやめ、正当な議論をするよう求めたところ、報告者はレポートを一方的に閉じている。

対抗策が必要

この惨状を回避するためとして、Daniel Stenberg氏は次の対策を実施すると宣言している。

• HackerOneでcURLのセキュリティレポートを提出するすべての報告者は、「問題の発見や提出レポートの作成にAIを使用したか?」との質問に答えなければならない。AIを使用した者は、(自身の)知能を証明する追加の質問を立て続けに受け取ることになるだろう
• 無価値なAIレポートを報告した者は、ただちに追放(BAN)する

HackerOneの共同創設者で最高技術責任者(CTO: Chief Technical Officer)および最高情報セキュリティ責任者(CISO: Chief Information Security Officer)を務めるAlex Rice氏は次のように述べている。

「幻覚のような脆弱性、曖昧または不正確な技術的コンテンツ、努力を怠ったノイズを含むレポートはスパムとして扱われ、強制執行の対象となります」

同氏はAIスロップに対して強い姿勢を示しているが、同時にAIによるイノベーションを推進しているとも述べている。AIを活用した研究の質および効率の向上を支援しており、特に英語を得意としていない研究者のレポートの質の向上にAIは役立っているという。

難しい生成AIの活用

現在の生成AIは完璧ではない。特に高度な技術力や知識を要求される質問には誤った回答を生成することがある。問題はその使い方で、誤りの検証をAI使用者ではなく受け取り手に押し付ける行為が非難されている。

生成AIは生まれてまだ間もなく、適切な利用方法やマナーは時間をかけて確立していくものとみられている。生成AIの利用者には潜在的なリスクについて理解し、適切な利用に努めることが望まれている。