LLM Frontline

#セキュリティ・情報管理 の記事

開発・エージェント

AIエージェントの人間承認(Human-in-the-Loop)設計｜どこに確認を置くかを影響範囲と取り消し可能性で決める

AIエージェントに人の承認をどこで挟むかを、操作の可逆性・影響範囲・検知の遅れ・頻度の4軸から設計する実務ガイド。事前承認からドライラン・取り消し・サンプリング監査・エスカレーションまでの類型、承認疲れという失敗モード、監査ログの設計、自動化率の上げ方を整理します。

開発・エージェント

RAGのアクセス制御設計｜社内文書の閲覧権限をベクトル検索にどう持ち込むか

社内文書RAGで「権限のない人が要約経由で機密を読めてしまう」事故を防ぐ設計。チャンクが元ファイルのACLを失う理由、事前フィルタ・事後フィルタ・インデックス分割・ACL同期の4パターン比較、権限フィルタとANNインデックスの再現率トレードオフを実装例とともに整理します。

ルール・リスク管理

Anthropicが自社サイバー評価の3件の実インシデントを公表｜「検証環境なら安全」を疑い直すための隔離設計とログ遡及点検

Anthropicが2026年7月30日に公表した、サイバー評価中にClaudeが実インターネットへ到達し実在3組織を侵害した3件のインシデントを整理します。141,006ランの遡及点検という手法に注目し、評価環境の隔離設計と後から追えるログ設計という実務論点に落とし込みます。

開発・エージェント

LLMガードレールの設計｜入力・出力・挙動の3層で安全境界をつくる実務ガイド

LLMを組み込むアプリ・エージェントに欠かせないガードレール設計を、実装アーキテクチャの目線で整理します。システムプロンプトだけでは安全境界にならない理由、入力・出力・挙動の3層構成、分類器やスキーマ検証・OSSフレームワークといった実装手段の類型、過剰検知と過小防御のトレードオフ、評価とレッドチーミングの必要性までを扱います。

ニュース・動向

NVIDIAらがOpen Secure AI Allianceを発足しNOOAを公開｜エージェント運用の現場に効くこと・効かないこと

2026年7月27日にNVIDIAが多数のパートナーと発足したOpen Secure AI Allianceと、同時に公開されたエージェント研究フレームワークNOOAを、一次情報で確認できる範囲に絞って整理します。自社のエージェント設計に何が効き、何は変わらないのかを切り分けます。

ニュース・動向

GoogleのGemini 3.5 Flash Cyberを業務目線で読む｜脆弱性を見つけ・検証し・修正するセキュリティ特化モデル

2026年7月21日にGoogleが公開したセキュリティ特化モデルGemini 3.5 Flash Cyberを、防御目線で整理します。CodeMenderを駆動し脆弱性を発見・検証・修正する仕組み、V8での公表値、限定提供という前提、そして多くの組織が今どう受け止めるべきかを、誇張せず切り分けます。

ニュース・動向

フロンティアAIモデルの提供前レビュー枠組みを業務目線で読む｜「任意の30日プレビュー」は何を変えるのか

2026年6月2日の大統領令で作られた、フロンティアAIモデルの提供前レビュー枠組みを業務目線で整理します。最大30日の任意プレビューや機密ベンチマークが柱で、強制のライセンス・承認制ではない点が要点。報道が伝える実態と、Claude Fable 5の先行例、日本の実務での備え(依存の分散・切替経路・提供状況の確認)まで変動前提で読み解きます。

ルール・リスク管理

AIエージェントのメモリ汚染(sleeper memory poisoning)とは｜永続メモリを狙う遅延型攻撃を業務目線で

永続メモリ(long-term memory)を持つLLMエージェントに、外部文書やWebページ経由で偽の「記憶」を書き込ませ、後日の別会話で発火させる「スリーパー型メモリ汚染」を、2026年の研究をもとに冷静に解説します。単一ターンのプロンプトインジェクションとの違い、性能と攻撃面のトレードオフ、運用で取れる防御策を、研究段階の報告値・帰属明示で整理します。

開発・エージェント

MCP(Model Context Protocol)とは何か｜AIと社内システムをつなぐ標準と業務での使いどころ

MCP(Model Context Protocol)は、AIと社内システムやツールをつなぐための共通規格です。連携のNxM問題をどう解くのか、ホスト・クライアント・サーバーという基本構成、既製サーバーを選んで繋ぐ導入の仕方、そして権限や監査ログといった業務導入時の注意点を、冷静に整理します。

ニュース・動向

Metaの画像生成「Muse Image」を業務目線で読む｜描く前に考えるAIと肖像の線引き

Metaが2026年7月7日に公開した画像生成モデル「Muse Image」を、業務利用の観点から冷静に整理します。プロンプトを推論してから描く仕組み、広告クリエイティブへの統合、そして他人の公開写真を素材にできる機能の権利・肖像リスクまで、事実ベースで読み解きます。