LLM Frontline
開発・エージェント
RAGの回答に出典を付ける設計｜「それらしい引用」を防ぐチャンクID・引用範囲・原文照合の作り方
社内RAGで「回答の根拠を示して」と求められたときの実装設計。出典の粒度、チャンクID・構造化出力・各社の組み込み引用機能の比較、捏造IDや主張を支えない引用といった壊れ方、原文照合と含意判定、evalへの組み込みを整理します。
#ハルシネーション対策 の記事
ルール・リスク管理
生成AIのインシデント対応の備え方｜誤回答・情報漏えい・エージェント暴走を「検知して止めて戻す」手順を平時に決める
生成AIの事故は予防策だけでは防ぎきれません。AISIのAIインシデントレスポンス・アプローチブックが示す観測性と制御性の2軸を土台に、報告窓口・証跡・停止手段・初動手順・事後対応を平時に決めておく方法を整理します。
ルール・リスク管理
ハルシネーション対策の実務｜検証フローの作り方と運用のコツ
LLMがもっともらしい誤情報を生成するハルシネーションへの実務的な対策を解説します。発生をゼロにできない前提での検証フローの設計、用途別のチェックの深さ、プロンプトと仕組みでの抑制策をまとめます。