LLM Frontline
開発・エージェント

開発・エージェントの記事

API連携・RAG・AIエージェント・コード生成など、LLMを組み込む開発の設計判断と落とし穴を扱います。

開発・エージェント

AIにコードを書かせる時代のGit/GitHub書籍ガイド｜差分を読む・分ける・戻す・自動で検査する4冊

コーディングエージェントに書かせる量が増えるほど、人間側のボトルネックはバージョン管理と自動チェックの運用に移ります。差分を読む・ブランチを分ける・壊れたら戻す・自動で検査するという4段階に対応する実在の日本語書籍4冊を、扱う範囲と扱っていない範囲つきで整理します。

開発・エージェント

マルチエージェント構成をいつ選ぶか｜単一エージェントで足りる線引きと、分割するときの設計判断

エージェントを複数に分けるべきかを実務の判断基準として整理します。既定は「分けない」であること、分けてよい条件と分けてはいけない条件、コンテキストの受け渡しと出力契約、コストの見積り、段階的な移行順序までを一次情報で裏取りしてまとめます。

開発・エージェント

AIエージェントの人間承認(Human-in-the-Loop)設計｜どこに確認を置くかを影響範囲と取り消し可能性で決める

AIエージェントに人の承認をどこで挟むかを、操作の可逆性・影響範囲・検知の遅れ・頻度の4軸から設計する実務ガイド。事前承認からドライラン・取り消し・サンプリング監査・エスカレーションまでの類型、承認疲れという失敗モード、監査ログの設計、自動化率の上げ方を整理します。

開発・エージェント

生成AI・LLMアプリを動かすためのDocker/コンテナ書籍ガイド｜環境再現・GPU・デプロイで詰まる人へ4冊を段階順に

LLMアプリやRAG基盤、ローカルLLM、MCPサーバーを自分で動かす段でつまずくのは、モデルではなく環境再現・依存関係・GPU・デプロイです。コンテナの土台を段階順に固めるための実在の日本語書籍4冊を、扱う範囲と扱っていない範囲つきで整理します。

開発・エージェント

RAGのアクセス制御設計｜社内文書の閲覧権限をベクトル検索にどう持ち込むか

社内文書RAGで「権限のない人が要約経由で機密を読めてしまう」事故を防ぐ設計。チャンクが元ファイルのACLを失う理由、事前フィルタ・事後フィルタ・インデックス分割・ACL同期の4パターン比較、権限フィルタとANNインデックスの再現率トレードオフを実装例とともに整理します。

開発・エージェント

マルチモーダルLLMの土台になるコンピュータビジョン書籍ガイド｜画像認識の基礎からVision Transformerまで4冊

帳票のOCR、図面の判定、UIスクリーンショットの操作にVLMを使う場面が増えました。VLM任せで精度が出ない・評価できないときに効くのが画像認識の基礎です。前処理・タスクの種類・評価指標・CNNとViTの違いを、実在の日本語書籍4冊で段階順に学ぶためのガイドです。

開発・エージェント

AIに社内データを触らせる前に読むDB設計・SQLの本｜RAGとText-to-SQLの土台を作る4冊

RAGのソースが正規化されていない、列名が意味不明でText-to-SQLが当たらない、集計定義が人によって違う。LLM実務でよく起きるこの3つの詰まりは、モデル側ではなくデータ側の問題です。DB設計・SQL・データ基盤の実在書籍4冊を、扱う範囲と扱わない範囲まで含めて整理します。

開発・エージェント

LLM APIのレート制限とリトライ設計｜429・タイムアウト・二重実行を本番で捌く

本番でLLM APIを叩き続けるための流量制御を整理します。RPM/TPMなど制限がかかる軸と単位、429・5xx・タイムアウトの切り分け、指数バックオフとジッタ、retry-afterの尊重とデッドライン設計、ストリーミングの3層タイムアウト、冪等性による二重実行対策、バッチAPIとキューでの平準化、監視指標と縮退運転までをまとめます。

開発・エージェント

長文ドキュメントのLLM要約設計パターン｜stuff・map-reduce・refine・抽出ハイブリッドの使い分け

議事録・報告書・仕様書・長い会話ログをLLMで要約するときの設計パターンを整理します。一括投入(stuff)/map-reduce/refine(逐次改良)/抽出+生成ハイブリッドの仕組みと向き不向き、精度が落ちる境目、数値や否定表現が化ける典型パターンと対策、忠実性と網羅性の評価のしかたまでを実務目線でまとめます。

開発・エージェント

AIが書いたコードを読み・直す力を鍛える書籍ガイド｜可読性から設計・レビュー運用まで4冊

生成AIがコードを量産できるようになったぶん、詰まる場所は「読む・直す・レビューする」側に移りました。可読性、整頓、設計、レビューとチーム運用という4段階で、AI生成コードの実務に効く実在の日本語書籍を4冊、扱っていない範囲つきで紹介します。

開発・エージェント

RAGのドキュメントパース｜PDFからテキストを取り出す前処理で精度は決まる

RAGの前段にあるドキュメントパース(文書からのテキスト抽出・構造化)の実務を整理します。多段組み・表・スキャンPDFという難所、テキストレイヤ抽出/レイアウト解析/VLM/クラウドサービスという4類型の選び方、Markdownへの正規化、メタデータ設計、評価の回し方までを扱います。

開発・エージェント

LLMガードレールの設計｜入力・出力・挙動の3層で安全境界をつくる実務ガイド

LLMを組み込むアプリ・エージェントに欠かせないガードレール設計を、実装アーキテクチャの目線で整理します。システムプロンプトだけでは安全境界にならない理由、入力・出力・挙動の3層構成、分類器やスキーマ検証・OSSフレームワークといった実装手段の類型、過剰検知と過小防御のトレードオフ、評価とレッドチーミングの必要性までを扱います。

開発・エージェント

検索技術(情報検索)を学ぶ書籍ガイド｜RAGの土台を作り直すための4冊を段階順に選ぶ

RAGの精度が上がらない原因の多くは、生成ではなく検索側にあります。キーワード検索・トークナイズ・ランキング・評価指標・クエリ解析といった情報検索の基礎を、実在の日本語書籍4冊で段階順に学ぶためのガイドです。各書が扱う範囲と、扱っていない範囲も併せて整理します。

開発・エージェント

LLMアプリのオブザーバビリティ｜トレーシングとログ設計で「なぜこの出力になったか」を後から追えるようにする

LLMアプリ・AIエージェントの観測をどう設計するかを実務目線で整理します。通常のWebアプリのログとの違い、最低限とるべきシグナル、OpenTelemetryのGenAI semantic conventions(現在Development段階)の使い方、入出力本文を残すかどうかの判断、コスト可視化とアラート設計、評価(eval)との接続、既存APMとLLM専用ツールの選び分けをまとめます。

開発・エージェント

ベクトルデータベースの選び方｜pgvector・Qdrant・Milvus・Weaviate・Chromaを用途と規模と運用体制で決める

RAGを作るときのベクトルDB選定を、製品比較ではなく判断軸から整理します。そもそもベクトルDBが要るのかの見極め、データ規模・更新頻度・メタデータフィルタ・ハイブリッド検索・運用体制・移行のしやすさという6つの軸、HNSW/IVF/全件走査の性格の違い、pgvectorが第一候補になりやすい理由と限界、そして小さく始めて必要になったら移行する現実的な進め方までをまとめます。

開発・エージェント

LLM-as-a-Judge(LLMによる評価)とは｜出力の良し悪しをLLMに採点させる仕組みとバイアスへの備え

LLM-as-a-Judgeは、LLMの出力の良し悪しを別のLLMに採点・比較させる評価手法です。単一採点と対比較の方式、人手評価をスケールさせる使いどころ、位置・冗長性・自己選好といったバイアスと、順序入れ替えやルーブリックなどの実務的な対策を冷静に整理します。

開発・エージェント

Agentic RAG(エージェンティックRAG)とは｜1回検索で終わる従来RAGを、計画・再検索・自己反省で賢くする

retrieve->generateを1回で終える従来RAGの限界(多段質問・曖昧クエリ・取りこぼし)を出発点に、Agentic RAGを定義します。クエリ理解と計画、ルーティング、多段推論・分解、検索のオーケストレーション、自己反省という中核パターンを整理し、精度と引き換えに増えるレイテンシ・コスト・評価の難しさまで、向く場面と向かない場面を切り分けて実務目線でまとめます。

開発・エージェント

知識蒸留(distillation)とは｜大きな教師モデルの知識を小さな生徒モデルへ移す仕組み

知識蒸留は大きな教師モデルの振る舞いを小さな生徒モデルに真似させて学習させる技術です。原典のsoft targetとtemperature、量子化やMoEとの違い、現代LLMでのデータ蒸留、教師の質が上限になる勘所、商用APIの出力を学習に使う際の規約上の注意まで、優劣を断定せず整理します。

開発・エージェント

ハイブリッド検索とは｜キーワード検索(BM25)とベクトル検索を組み合わせてRAGの取りこぼしを減らす

ベクトル検索は言い換えや意味に強い一方で型番・固有名詞・略語の完全一致に弱く、BM25などのキーワード検索はその逆です。両方で候補を集めてRRF(Reciprocal Rank Fusion)などで統合するハイブリッド検索の仕組み、スコア統合の難しさとRRFがスケール非依存な理由、retrieve->fuse->rerankの三段構成、向く場面と運用コストを実務目線で整理します。

開発・エージェント

機械学習のための数学を学ぶ書籍ガイド｜全体像・線形代数・最適化・確率統計を段階順に固める4冊

機械学習やディープラーニングの土台になる数学を、全体像をやさしく掴む入門、線形代数、微分積分と最適化、確率統計という4段階で学べる実在書籍を紹介します。自分がつまずいている段階に合う1冊から読み進められるよう整理しました。

開発・エージェント

MoE(Mixture of Experts)とは｜総パラメータと活性パラメータの違いを実務目線で

近年の大規模モデルが広く採用するスパースMoE(混合エキスパート)を、dense(密)モデルとの違いから解説します。FFNをexpertに分割しrouterがtop-k routingで一部だけ動かす仕組み、総パラメータと活性パラメータの区別、VRAMは総規模・計算は活性規模というねじれ、学習と推論の注意点、モデル選定での読み方までまとめます。

開発・エージェント

リランキング(Reranker)でRAGの検索精度を上げる｜retrieve->rerankの二段構成

ベクトル検索で粗く多めに拾い、Cross-Encoder型リランカーで関連度を再スコアリングして上位を絞る二段構成(retrieve->rerank)を実務目線で整理します。bi-encoderとの違い、使いどころ、コストとレイテンシのトレードオフ、Hit Rate/MRR/nDCGでの評価、向かない場面までまとめます。

開発・エージェント

temperatureとtop-pとは何か｜LLMの出力のばらつきを制御する生成パラメータを実務目線で

temperatureとtop-pは、LLMが次のトークンを選ぶときのばらつきを調整する生成パラメータです。確率分布からのサンプリングという前提、各社で異なる範囲・既定値、用途別の目安、そして「temperature 0でも完全再現ではない」「賢さは上がらない」という誤解までを実務目線で整理します。

開発・エージェント

ディープラーニングの基礎を理論から学ぶ書籍ガイド｜生成AIの土台を固める4冊

生成AI・LLMの土台となるディープラーニングと機械学習の基礎を、理論から学ぶための書籍を目的別に4冊紹介します。仕組みをやさしく掴む段階から、手を動かして実装する段階、機械学習の定番、さらに理論へ踏み込む段階まで、学ぶ順序に沿って整理しました。

開発・エージェント

トークンとは/コンテキストウィンドウとは｜LLMの入出力を測る単位と上限の仕組み

LLMが文章を扱う単位である「トークン」と、入力と出力の合計を縛る「コンテキストウィンドウ」の仕組みを、実務目線で解説します。サブワードによるトークナイズ、日本語と英語でのトークン数の違い、上限超過時の挙動、トークン単位の課金、そして「上限が大きいほど良いとは限らない」理由と、長文の前処理・見積り・コスト試算といった勘所までを整理します。

開発・エージェント

ファインチューニングとRAGの使い分け｜LLMをカスタマイズする2つの道の選び方

LLMを自社用途に寄せる方法には、プロンプト、RAG、ファインチューニングの階層があります。RAGとファインチューニングはそれぞれ何を得意とし、どこで選ぶべきか。知識の更新性、出力の安定性、コストとトラフィックの観点から使い分けの原則を整理し、実務で有効なハイブリッド構成と落とし穴まで、公式ドキュメントを確認しながら冷静にまとめます。

開発・エージェント

構造化出力(Structured Outputs)とは何か｜LLMの返答をプログラムで安全に扱うための仕組み

構造化出力(Structured Outputs)は、LLMの返答をあらかじめ決めたJSONスキーマに沿わせる仕組みです。JSONモードとの違い、なぜスキーマ準拠まで保証したいのか、OpenAI・Anthropic・Googleの対応の考え方、スキーマ設計や検証・リトライといった実装の勘所、そして「構造が正しくても中身が正しいとは限らない」という落とし穴までを、LLMアプリ開発の実務目線で整理します。

開発・エージェント

MCP(Model Context Protocol)とは何か｜AIと社内システムをつなぐ標準と業務での使いどころ

MCP(Model Context Protocol)は、AIと社内システムやツールをつなぐための共通規格です。連携のNxM問題をどう解くのか、ホスト・クライアント・サーバーという基本構成、既製サーバーを選んで繋ぐ導入の仕方、そして権限や監査ログといった業務導入時の注意点を、冷静に整理します。

開発・エージェント

LLMアプリの評価(eval)の作り方｜「動いた気がする」で止めないための実務手順

LLMアプリの品質を測る評価(eval)の作り方を、実務目線で整理します。実運用に似せた評価データの用意、タスク型に応じた指標設計、自動評価と人手レビューの併用、LLM-as-a-judgeの使いどころと落とし穴、失敗トレースをテストへ戻す継続的な評価まで、小さく始める手順にまとめました。