三井物産セキュアディレクション（MBSD）とChillStackは2月3日、LLM(大規模言語モデル)を活用したアプリケーションを安全に開発・提供するためのハンズオントレーニング「《実践》LLMセキュリティハンズオン」を提供開始したことを発表した。同トレーニングにより、急速に多様化するサイバー攻撃に対応するため、LLMアプリケーションの設計・開発に必要な知識とスキルを習得できる。

トレーニングは10:00～18:00の時間で2日間行われ、価格は1人につき36万円～。定員は12人。(最低開講人数は5人)

提供の背景

近年、LLM技術が急速に普及しており、日々の業務の効率化やクリエイティブな活動の支援などさまざまな場面で活用されている。

その一方で、プロンプトインジェクションやJailbreakなどのLLMおよびLLMアプリケーションを標的にしたサイバー攻撃手法も数多く生まれており、「LLMを安全に扱う技術」の確立が急務となっている。

しかし、LLMに対する攻撃手法は既存システムに対する攻撃手法とは根本的に原理が異なるものが多く、従来のセキュリティ技術のみで対策することは非常に困難とされている。

これらの課題を解決するため、両社はLLM特有の攻撃手法と防御手法を実践形式で学ぶことができる同トレーニングの提供を開始した。

「《実践》LLMセキュリティハンズオン」の特徴

同トレーニングは「LLMセキュリティ入門」「LLMセキュリティ実践ハンズオン」という2つのパートで構成されている。

Part1. LLMセキュリティ入門

座学でLLMセキュリティの入門・基礎を学ぶ。

まずLLMはどのような原理で動作しているか、どのような活用事例があるかなどを紹介。その後、具体的なセキュリティ・リスクを複数の観点から整理し、実例を用いながら学ぶことができる。

Part2. LLMセキュリティ実践ハンズオン

Pythonによるコーディングや実践的な攻撃・対策ツールなどを活用し、ハンズオン形式でトレーニングを行う。

同パートで「プロンプトインジェクション」「プロンプト・リーキング(システム・プロンプトの窃取手法)」「LLMと連携するシステムに対する攻撃(P2SQL InjectionやLLM4Shellなど)」といったセキュリティ・リスクなどを題材に、同トレーニング独自の検証環境に対して実際に攻撃を行うほか、防御機構の開発方法も学ぶことが可能。

取り上げるセキュリティ・リスクはカスタマイズ可能となっている。