本サイトは、快適にご利用いただくためにクッキー（Cookie）を使用しております。
Cookieの使用に同意いただける場合は「同意する」ボタンを押してください。
なお本サイトのCookie使用については、「個人情報保護方針」をご覧ください。
AIシステムにはAI特有のセキュリティリスクが存在しており、AIを組み込んだアプリケーションでは更に攻撃の幅が広がります。AIシステムに対するセキュリティ診断は、擬似的な攻撃や評価を行いAI特有のリスクを洗い出して調査するサービスです。
サービス内容
AIシステムに対するセキュリティ診断は、モデル自体やAIを組み込んだシステムなどAIの特性に応じて、擬似的な攻撃や評価を行い、AI上のセキュリティリスクを調査するサービスです。
AIのセキュリティリスクは、AI特有のものも多く、従来のシステムやアプリケーションへの対策だけでは防ぎきれません。
特に生成系AI（GPT/Geminiなどの文章生成AIやDALL・E/Stable Diffusionどの画像生成AI）を組み込んだAIシステムが増加していますが、AIを組み込んだアプリケーションでは更に攻撃の幅が広がり、新しい攻撃手法研究や被害事例が日々公開されているため、従来の診断だけではなく、AIに特化した診断が必要となります。
弊社は2015年頃から、他社に先駆けてAIセキュリティに注目し調査/研究を行っており、豊富なナレッジと多くの情報発信を行ってきております。
代表的な診断項目
| 診断項目 | 代表的な攻撃手法の例 |
|---|---|
| 01. 学習データ汚染 |
|
| 02. モデル汚染 |
|
| 03. 回避攻撃 |
|
| 04. 学習データ窃取 |
|
| 05. モデル窃取 |
|
| 06. 防御機構回避 |
|
| 07. Prompt Template窃取 |
|
| 08. P2SQL Injection |
|
※診断項目は対象のモデルやAIシステムの内容を加味し内容を決定します。
サービスの特徴
自社開発、SaaS利用など幅広い利用方法をカバー
AIシステムは、企業の利用方法などにより様々な使われ方が存在しており、ツールベースの評価では対応することができません。
- 自社でモデルを作成するケース
- GPT/Geminiなど外部の大規模言語モデル（LLM）を組み込むケース
- Langchainなど連携用のライブラリを組み合わせ内部のリソースを参照させるケースなど
弊社の診断サービスでは豊富なナレッジを有しているため、現状のシステムを考慮した確認手法やセキュリティリスクの洗い出し、評価を実施することが可能です。
豊富なナレッジ、最新の攻撃/防御手法をカバー
AIに対する攻撃手法/防御手法の研究は盛んに行われており、日々新しい攻撃手法/防御手法が提案されています。弊社はこれまで多くの情報発信を行っており、豊富なナレッジを有しております。
新しい攻撃手法やそれに対する防御手法の提示など、豊富なナレッジで評価や対策をご支援いたします。
本サービスに関するお問い合わせはこちら
