LLM Frontline
開発・エージェント

開発・エージェントの記事

API連携・RAG・AIエージェント・コード生成など、LLMを組み込む開発の設計判断と落とし穴を扱います。

開発・エージェント

LLMで問い合わせ・文書を分類する設計｜ラベル定義・出力の制約・「わからない」の扱いと人手確認の線引き

問い合わせの振り分けや文書のタグ付けなど、LLMで「分類」する仕組みの設計を整理します。LLMを選ぶ条件、ラベル定義と判定不能の置き方、enumでの出力制約、階層分類と動的few-shot、ラベル別の評価、確信度と人手確認、ラベル改定の運用まで。

開発・エージェント

AGENTS.md・CLAUDE.mdに何を書くか｜コーディングエージェントの指示ファイルは「コードから読めないこと」だけを短く

コーディングエージェント向けの指示ファイル(AGENTS.md・CLAUDE.md)に何を書けば効き、何を書くと逆効果かを、主要ツールの公式ドキュメントと実証研究2本をもとに整理します。長さと分割、hooksや権限での強制、複数ツール併用時の運用も扱います。

開発・エージェント

LLMのモデルルーティングとカスケード設計｜全部を最上位モデルに投げないための振り分け基準と、判定ミスの被害を小さくする作り方

リクエストごとに使うモデルを変える設計には、入力を見て振り分けるルーティングと、小さいモデルから試して落ちたら上へ回すカスケードがあります。判定ミスの非対称性、評価セットで閾値を決める手順、キャッシュや遅延への副作用を整理します。

開発・エージェント

LLMを組み込んだシステムを設計する前に読むソフトウェアアーキテクチャ書籍ガイド｜トレードオフ・分散データ・境界設計を段階順に固める4冊

LLM呼び出しやRAG、エージェントを既存システムに入れると、詰まるのはモデル選びよりアーキテクチャの判断です。部品の置き場所、データの所有者と整合性、境界の切り方を固める日本語書籍4冊を、効く判断と向かない読者つきで段階順に整理します。

開発・エージェント

AIエージェントに権限を渡す前に読む認証・認可の書籍ガイド｜暗号の基礎からOAuth・ゼロトラストまで段階順に選ぶ4冊

エージェントに社内システムを触らせる作業は、トークンとスコープの設計です。暗号と認証の基礎、Webアプリの認可不備、OAuth、ゼロトラストを学べる日本語書籍4冊を、扱う範囲と古くなっている箇所つきで段階順に整理します。

開発・エージェント

音声AIエージェントの中身を学ぶ書籍ガイド｜音声認識・音声合成・音声対話を段階順に固める4冊

議事録の文字起こしや音声対話エージェントで起きる誤認識・読み上げの不自然さ・割り込みでの破綻は、音声認識・音声合成・対話制御のどこで起きているかを切り分けないと直せません。その土台を日本語書籍4冊と補足の1冊で段階順に学ぶためのガイドです。

開発・エージェント

RAGのインデックス更新・鮮度管理｜「作ったら終わり」にしないための変更検知と削除反映の設計

初回一括インデックスの後に始まる継続運用の設計をまとめます。更新日時・ハッシュ・変更追跡による差分検知、安定したチャンクID、いちばん漏れやすい削除の反映、更新中の検索一貫性、埋め込みモデル移行、鮮度の可観測性までを公式ドキュメントで確認しました。

開発・エージェント

LLMの大量処理を同期APIでやらない｜バッチ推論・非同期処理の判断基準と失敗設計

数万件のLLM処理を同期APIでループさせると、遅い・高い・途中で壊れるの三重苦になります。同期・バッチAPI・自前ジョブキューを締切/件数/失敗許容度/コストの4軸で選び分ける基準と、冪等性・入力IDでの突合・部分失敗の再投入・品質検査の組み込みまでを整理します。

開発・エージェント

LLMの会話履歴をどう設計するか｜全量・直近N・要約・検索の7方式と壊れやすい境界

マルチターンのLLMアプリで、何を残し・何を捨て・何を要約し・何を検索で取り直すかを設計する実務記事です。7方式の比較、要約で制約が消える・キャッシュのプレフィックスが崩れるといった壊れやすい境界、評価と監視の作り方を一次情報で整理します。

開発・エージェント

LLMで合成データ(synthetic data)を作る｜評価セットと学習データを、実データが無いところから立ち上げる

実データが少ない、機密で使えない、レアケースが集まらない。そんなときにLLMでデータそのものを作る実務を整理します。シード拡張・条件付き生成・失敗例の逆生成といった作り方の型、重複と多様性の担保、自己選好や分布シフト、規約と個人情報の落とし穴までまとめました。

開発・エージェント

需要予測・時系列予測を学ぶ書籍ガイド｜LLMでは当たらない領域を業務・実装・構造・検証の4段階で固める4冊

チャットに売上CSVを貼って「来月を予測して」と頼んでも、当たったかどうかを判定できません。時系列基盤モデルが実用段階に入った今こそ要る、前処理・バックテスト・評価指標の土台。実在の日本語書籍4冊を、扱う範囲つきで段階順に整理します。

開発・エージェント

LLMアプリの「遅い」を設計で潰す｜TTFT・生成速度・総所要時間を分けて考えるレイテンシ設計

LLMアプリの体感速度をどう設計判断に落とすかを整理します。TTFT(最初のトークンまでの時間)・出力トークンの生成速度・総所要時間の切り分け、入力と出力のどちらがどの指標に効くか、推論トークンの扱い、効く順に並べた打ち手、逆効果になる打ち手、p50/p95での計測とSLOの決め方までを公式ドキュメントを確認しながらまとめます。

開発・エージェント

AIが書いたコードを検収する仕組みをつくる書籍ガイド｜テスト技法・単体テスト・TDD・自動化の4冊

エージェントに書かせる量が増えると、人間が全コードを読んで検収する運用は成り立たなくなります。唯一スケールする検収手段である自動テストを学び直すため、テスト技法・単体テストの設計・テスト駆動開発・自動化の運用という4段階に対応する実在の日本語書籍4冊を、扱う範囲と扱っていない範囲つきで整理します。

開発・エージェント

プロンプトのバージョン管理と本番運用｜コードに置くか、レジストリに置くかの判断

本番で動いているプロンプトをどう管理し、どう安全に差し替えるかを実務の判断として整理します。2026年にOpenAIが再利用可能なpromptオブジェクトを非推奨化しAnthropicが旧Workbenchを終了した流れ、コード管理とレジストリ管理の分岐点、ラベルとロールバック、プロンプト変更で必ず壊れる評価とキャッシュ、モデル更新への備えまでを一次情報で確認しました。

開発・エージェント

AIにコードを書かせる時代のGit/GitHub書籍ガイド｜差分を読む・分ける・戻す・自動で検査する4冊

コーディングエージェントに書かせる量が増えるほど、人間側のボトルネックはバージョン管理と自動チェックの運用に移ります。差分を読む・ブランチを分ける・壊れたら戻す・自動で検査するという4段階に対応する実在の日本語書籍4冊を、扱う範囲と扱っていない範囲つきで整理します。

開発・エージェント

マルチエージェント構成をいつ選ぶか｜単一エージェントで足りる線引きと、分割するときの設計判断

エージェントを複数に分けるべきかを実務の判断基準として整理します。既定は「分けない」であること、分けてよい条件と分けてはいけない条件、コンテキストの受け渡しと出力契約、コストの見積り、段階的な移行順序までを一次情報で裏取りしてまとめます。

開発・エージェント

AIエージェントの人間承認(Human-in-the-Loop)設計｜どこに確認を置くかを影響範囲と取り消し可能性で決める

AIエージェントに人の承認をどこで挟むかを、操作の可逆性・影響範囲・検知の遅れ・頻度の4軸から設計する実務ガイド。事前承認からドライラン・取り消し・サンプリング監査・エスカレーションまでの類型、承認疲れという失敗モード、監査ログの設計、自動化率の上げ方を整理します。

開発・エージェント

生成AI・LLMアプリを動かすためのDocker/コンテナ書籍ガイド｜環境再現・GPU・デプロイで詰まる人へ4冊を段階順に

LLMアプリやRAG基盤、ローカルLLM、MCPサーバーを自分で動かす段でつまずくのは、モデルではなく環境再現・依存関係・GPU・デプロイです。コンテナの土台を段階順に固めるための実在の日本語書籍4冊を、扱う範囲と扱っていない範囲つきで整理します。

開発・エージェント

RAGのアクセス制御設計｜社内文書の閲覧権限をベクトル検索にどう持ち込むか

社内文書RAGで「権限のない人が要約経由で機密を読めてしまう」事故を防ぐ設計。チャンクが元ファイルのACLを失う理由、事前フィルタ・事後フィルタ・インデックス分割・ACL同期の4パターン比較、権限フィルタとANNインデックスの再現率トレードオフを実装例とともに整理します。

開発・エージェント

マルチモーダルLLMの土台になるコンピュータビジョン書籍ガイド｜画像認識の基礎からVision Transformerまで4冊

帳票のOCR、図面の判定、UIスクリーンショットの操作にVLMを使う場面が増えました。VLM任せで精度が出ない・評価できないときに効くのが画像認識の基礎です。前処理・タスクの種類・評価指標・CNNとViTの違いを、実在の日本語書籍4冊で段階順に学ぶためのガイドです。

開発・エージェント

AIに社内データを触らせる前に読むDB設計・SQLの本｜RAGとText-to-SQLの土台を作る4冊

RAGのソースが正規化されていない、列名が意味不明でText-to-SQLが当たらない、集計定義が人によって違う。LLM実務でよく起きるこの3つの詰まりは、モデル側ではなくデータ側の問題です。DB設計・SQL・データ基盤の実在書籍4冊を、扱う範囲と扱わない範囲まで含めて整理します。

開発・エージェント

LLM APIのレート制限とリトライ設計｜429・タイムアウト・二重実行を本番で捌く

本番でLLM APIを叩き続けるための流量制御を整理します。RPM/TPMなど制限がかかる軸と単位、429・5xx・タイムアウトの切り分け、指数バックオフとジッタ、retry-afterの尊重とデッドライン設計、ストリーミングの3層タイムアウト、冪等性による二重実行対策、バッチAPIとキューでの平準化、監視指標と縮退運転までをまとめます。

開発・エージェント

長文ドキュメントのLLM要約設計パターン｜stuff・map-reduce・refine・抽出ハイブリッドの使い分け

議事録・報告書・仕様書・長い会話ログをLLMで要約するときの設計パターンを整理します。一括投入(stuff)/map-reduce/refine(逐次改良)/抽出+生成ハイブリッドの仕組みと向き不向き、精度が落ちる境目、数値や否定表現が化ける典型パターンと対策、忠実性と網羅性の評価のしかたまでを実務目線でまとめます。

開発・エージェント

AIが書いたコードを読み・直す力を鍛える書籍ガイド｜可読性から設計・レビュー運用まで4冊

生成AIがコードを量産できるようになったぶん、詰まる場所は「読む・直す・レビューする」側に移りました。可読性、整頓、設計、レビューとチーム運用という4段階で、AI生成コードの実務に効く実在の日本語書籍を4冊、扱っていない範囲つきで紹介します。

開発・エージェント

RAGのドキュメントパース｜PDFからテキストを取り出す前処理で精度は決まる

RAGの前段にあるドキュメントパース(文書からのテキスト抽出・構造化)の実務を整理します。多段組み・表・スキャンPDFという難所、テキストレイヤ抽出/レイアウト解析/VLM/クラウドサービスという4類型の選び方、Markdownへの正規化、メタデータ設計、評価の回し方までを扱います。

開発・エージェント

LLMガードレールの設計｜入力・出力・挙動の3層で安全境界をつくる実務ガイド

LLMを組み込むアプリ・エージェントに欠かせないガードレール設計を、実装アーキテクチャの目線で整理します。システムプロンプトだけでは安全境界にならない理由、入力・出力・挙動の3層構成、分類器やスキーマ検証・OSSフレームワークといった実装手段の類型、過剰検知と過小防御のトレードオフ、評価とレッドチーミングの必要性までを扱います。

開発・エージェント

検索技術(情報検索)を学ぶ書籍ガイド｜RAGの土台を作り直すための4冊を段階順に選ぶ

RAGの精度が上がらない原因の多くは、生成ではなく検索側にあります。キーワード検索・トークナイズ・ランキング・評価指標・クエリ解析といった情報検索の基礎を、実在の日本語書籍4冊で段階順に学ぶためのガイドです。各書が扱う範囲と、扱っていない範囲も併せて整理します。

開発・エージェント

LLMアプリのオブザーバビリティ｜トレーシングとログ設計で「なぜこの出力になったか」を後から追えるようにする

LLMアプリ・AIエージェントの観測をどう設計するかを実務目線で整理します。通常のWebアプリのログとの違い、最低限とるべきシグナル、OpenTelemetryのGenAI semantic conventions(現在Development段階)の使い方、入出力本文を残すかどうかの判断、コスト可視化とアラート設計、評価(eval)との接続、既存APMとLLM専用ツールの選び分けをまとめます。

開発・エージェント

ベクトルデータベースの選び方｜pgvector・Qdrant・Milvus・Weaviate・Chromaを用途と規模と運用体制で決める

RAGを作るときのベクトルDB選定を、製品比較ではなく判断軸から整理します。そもそもベクトルDBが要るのかの見極め、データ規模・更新頻度・メタデータフィルタ・ハイブリッド検索・運用体制・移行のしやすさという6つの軸、HNSW/IVF/全件走査の性格の違い、pgvectorが第一候補になりやすい理由と限界、そして小さく始めて必要になったら移行する現実的な進め方までをまとめます。

開発・エージェント

LLM-as-a-Judge(LLMによる評価)とは｜出力の良し悪しをLLMに採点させる仕組みとバイアスへの備え

LLM-as-a-Judgeは、LLMの出力の良し悪しを別のLLMに採点・比較させる評価手法です。単一採点と対比較の方式、人手評価をスケールさせる使いどころ、位置・冗長性・自己選好といったバイアスと、順序入れ替えやルーブリックなどの実務的な対策を冷静に整理します。

開発・エージェント

Agentic RAG(エージェンティックRAG)とは｜1回検索で終わる従来RAGを、計画・再検索・自己反省で賢くする

retrieve->generateを1回で終える従来RAGの限界(多段質問・曖昧クエリ・取りこぼし)を出発点に、Agentic RAGを定義します。クエリ理解と計画、ルーティング、多段推論・分解、検索のオーケストレーション、自己反省という中核パターンを整理し、精度と引き換えに増えるレイテンシ・コスト・評価の難しさまで、向く場面と向かない場面を切り分けて実務目線でまとめます。

開発・エージェント

知識蒸留(distillation)とは｜大きな教師モデルの知識を小さな生徒モデルへ移す仕組み

知識蒸留は大きな教師モデルの振る舞いを小さな生徒モデルに真似させて学習させる技術です。原典のsoft targetとtemperature、量子化やMoEとの違い、現代LLMでのデータ蒸留、教師の質が上限になる勘所、商用APIの出力を学習に使う際の規約上の注意まで、優劣を断定せず整理します。

開発・エージェント

ハイブリッド検索とは｜キーワード検索(BM25)とベクトル検索を組み合わせてRAGの取りこぼしを減らす

ベクトル検索は言い換えや意味に強い一方で型番・固有名詞・略語の完全一致に弱く、BM25などのキーワード検索はその逆です。両方で候補を集めてRRF(Reciprocal Rank Fusion)などで統合するハイブリッド検索の仕組み、スコア統合の難しさとRRFがスケール非依存な理由、retrieve->fuse->rerankの三段構成、向く場面と運用コストを実務目線で整理します。

開発・エージェント

機械学習のための数学を学ぶ書籍ガイド｜全体像・線形代数・最適化・確率統計を段階順に固める4冊

機械学習やディープラーニングの土台になる数学を、全体像をやさしく掴む入門、線形代数、微分積分と最適化、確率統計という4段階で学べる実在書籍を紹介します。自分がつまずいている段階に合う1冊から読み進められるよう整理しました。

開発・エージェント

MoE(Mixture of Experts)とは｜総パラメータと活性パラメータの違いを実務目線で

近年の大規模モデルが広く採用するスパースMoE(混合エキスパート)を、dense(密)モデルとの違いから解説します。FFNをexpertに分割しrouterがtop-k routingで一部だけ動かす仕組み、総パラメータと活性パラメータの区別、VRAMは総規模・計算は活性規模というねじれ、学習と推論の注意点、モデル選定での読み方までまとめます。

開発・エージェント

リランキング(Reranker)でRAGの検索精度を上げる｜retrieve->rerankの二段構成

ベクトル検索で粗く多めに拾い、Cross-Encoder型リランカーで関連度を再スコアリングして上位を絞る二段構成(retrieve->rerank)を実務目線で整理します。bi-encoderとの違い、使いどころ、コストとレイテンシのトレードオフ、Hit Rate/MRR/nDCGでの評価、向かない場面までまとめます。

開発・エージェント

temperatureとtop-pとは何か｜LLMの出力のばらつきを制御する生成パラメータを実務目線で

temperatureとtop-pは、LLMが次のトークンを選ぶときのばらつきを調整する生成パラメータです。確率分布からのサンプリングという前提、各社で異なる範囲・既定値、用途別の目安、そして「temperature 0でも完全再現ではない」「賢さは上がらない」という誤解までを実務目線で整理します。

開発・エージェント

ディープラーニングの基礎を理論から学ぶ書籍ガイド｜生成AIの土台を固める4冊

生成AI・LLMの土台となるディープラーニングと機械学習の基礎を、理論から学ぶための書籍を目的別に4冊紹介します。仕組みをやさしく掴む段階から、手を動かして実装する段階、機械学習の定番、さらに理論へ踏み込む段階まで、学ぶ順序に沿って整理しました。

開発・エージェント

トークンとは/コンテキストウィンドウとは｜LLMの入出力を測る単位と上限の仕組み

LLMが文章を扱う単位である「トークン」と、入力と出力の合計を縛る「コンテキストウィンドウ」の仕組みを、実務目線で解説します。サブワードによるトークナイズ、日本語と英語でのトークン数の違い、上限超過時の挙動、トークン単位の課金、そして「上限が大きいほど良いとは限らない」理由と、長文の前処理・見積り・コスト試算といった勘所までを整理します。

開発・エージェント

ファインチューニングとRAGの使い分け｜LLMをカスタマイズする2つの道の選び方

LLMを自社用途に寄せる方法には、プロンプト、RAG、ファインチューニングの階層があります。RAGとファインチューニングはそれぞれ何を得意とし、どこで選ぶべきか。知識の更新性、出力の安定性、コストとトラフィックの観点から使い分けの原則を整理し、実務で有効なハイブリッド構成と落とし穴まで、公式ドキュメントを確認しながら冷静にまとめます。

開発・エージェント

構造化出力(Structured Outputs)とは何か｜LLMの返答をプログラムで安全に扱うための仕組み

構造化出力(Structured Outputs)は、LLMの返答をあらかじめ決めたJSONスキーマに沿わせる仕組みです。JSONモードとの違い、なぜスキーマ準拠まで保証したいのか、OpenAI・Anthropic・Googleの対応の考え方、スキーマ設計や検証・リトライといった実装の勘所、そして「構造が正しくても中身が正しいとは限らない」という落とし穴までを、LLMアプリ開発の実務目線で整理します。

開発・エージェント

MCP(Model Context Protocol)とは何か｜AIと社内システムをつなぐ標準と業務での使いどころ

MCP(Model Context Protocol)は、AIと社内システムやツールをつなぐための共通規格です。連携のNxM問題をどう解くのか、ホスト・クライアント・サーバーという基本構成、既製サーバーを選んで繋ぐ導入の仕方、そして権限や監査ログといった業務導入時の注意点を、冷静に整理します。

開発・エージェント

LLMアプリの評価(eval)の作り方｜「動いた気がする」で止めないための実務手順

LLMアプリの品質を測る評価(eval)の作り方を、実務目線で整理します。実運用に似せた評価データの用意、タスク型に応じた指標設計、自動評価と人手レビューの併用、LLM-as-a-judgeの使いどころと落とし穴、失敗トレースをテストへ戻す継続的な評価まで、小さく始める手順にまとめました。