AI・LLMセキュリティ診断

01

// NEW ATTACK SURFACE

生成AIがもたらす新しいリスク

生成AIを組み込んだシステムでは、自然言語による指示そのものが攻撃の入口になります。従来のWebアプリケーション診断だけでは確認できない、AI特有のリスクへの対策が必要です。

プロンプトインジェクションによる指示の乗っ取り
機密情報・個人情報の漏えい
AIエージェントの過剰な権限による意図しない操作

>> PROMPT INJECTION

02

// OWASP LLM TOP 10

基準に沿って体系的に検査する

OWASP Top 10 for LLM Applicationsを参照し、生成AIアプリケーションに特有のリスクを体系的に検査します。

test(app, OWASP_LLM_TOP_10);
// 生成AI特有のリスクを網羅的に確認する

プロンプトインジェクション
機密情報の漏えい
出力の不適切な処理
過剰な権限（Excessive Agency）
システムプロンプトの漏えい

>> SYSTEMATIC TESTING

03

// RAG & DATA

RAG・社内データ連携の検査

社内文書を参照するRAGでは、本来は閲覧権限のない文書の内容が回答に含まれてしまうリスクがあります。文書の権限設定が回答に正しく反映されているかを検査します。

文書ごとの閲覧権限の反映状況
参照文書に埋め込まれた不正な指示（間接的プロンプトインジェクション）
学習・参照データの取扱い

>> PERMISSION-AWARE RETRIEVAL

04

// AGENT PERMISSIONS

エージェントの権限と操作範囲

外部のツールやシステムを操作するAIエージェントは、誤った指示や悪意のある入力によって、意図しない操作を実行するおそれがあります。権限の範囲と承認の仕組みを検査します。

ツール・APIに付与された権限の確認
重要な操作に対する承認フローの有無
実行ログの記録と追跡性

>> LEAST PRIVILEGE

05

// REMEDIATION

対策の実装まで

検出したリスクに対しては、ガードレールの導入、プロンプト設計の見直し、権限の分離など、AIアプリケーションの開発経験を活かした具体的な対策を実装します。

入出力のガードレールの導入
システムプロンプト・権限設計の見直し
対策後の再診断

>> DEFENSE IN DEPTH

// ADDITIONAL SPECS

06 / 診断の範囲

AIの部分だけでなく、システム全体を対象にできます。

チャットボット・社内AIアシスタント
RAG・社内ナレッジ検索
AIエージェント・外部ツール連携
周辺のWebアプリケーション・API

07 / 報告

対策の実施につながる報告を行います。

検出したリスクと再現手順
深刻度と対応の優先順位
具体的な対策方針

08 / 適したケース

AIの公開や適用範囲の拡大の前に確認します。

社内AIやチャットボットを公開・導入する前
RAGに機密文書を登録する前
AIエージェントに業務システムの操作を任せる前

09 / DAIMUが提供する価値

AIを開発する側の視点で診断します。

AIアプリケーション開発の実務経験に基づく検査
実装しやすい対策の提示
対策の実装まで一貫対応

10 / AI開発・運用への反映

診断で得た知見を、開発と運用にも反映します。

設計段階からのセキュリティの組み込み
運用時のガードレールと監視
Webアプリケーション全体の脆弱性診断