LLM Frontline

記事一覧(3ページ目)

開発・エージェント

LLMの大量処理を同期APIでやらない|バッチ推論・非同期処理の判断基準と失敗設計

数万件のLLM処理を同期APIでループさせると、遅い・高い・途中で壊れるの三重苦になります。同期・バッチAPI・自前ジョブキューを締切/件数/失敗許容度/コストの4軸で選び分ける基準と、冪等性・入力IDでの突合・部分失敗の再投入・品質検査の組み込みまでを整理します。

開発・エージェント

LLMの会話履歴をどう設計するか|全量・直近N・要約・検索の7方式と壊れやすい境界

マルチターンのLLMアプリで、何を残し・何を捨て・何を要約し・何を検索で取り直すかを設計する実務記事です。7方式の比較、要約で制約が消える・キャッシュのプレフィックスが崩れるといった壊れやすい境界、評価と監視の作り方を一次情報で整理します。

ニュース・動向

AnthropicがModel Hardware Standardのresearch previewを公開|MCPとの違いと、一般企業がいま学べる設計原則

Anthropicが2026年8月27日にresearch previewとして公開したModel Hardware Standard(MHS)を、Anthropicの公式発表とMCP公式ドキュメントを根拠に整理します。read/writeのプリミティブ、装置の特性と安全上限を持つドライバ、MCP/CLI/コードAPIの3経路、MCPとの役割の違い、そして実験室や製造ラインを持たない企業がそれでも学べる設計原則までを扱います。

業務活用

生成AIの効果を誰も答えられない問題を解く書籍ガイド|効果検証・A/Bテスト・因果推論の4冊

生成AIを導入したが業務指標が動いたのか答えられない。この詰まりはモデルの評価(eval)では埋まらず、実験計画と因果推論の道具が要ります。効果検証・A/Bテスト・因果推論の実在する日本語書籍4冊を、扱う範囲と扱っていない範囲つきで段階順に整理します。

開発・エージェント

LLMで合成データ(synthetic data)を作る|評価セットと学習データを、実データが無いところから立ち上げる

実データが少ない、機密で使えない、レアケースが集まらない。そんなときにLLMでデータそのものを作る実務を整理します。シード拡張・条件付き生成・失敗例の逆生成といった作り方の型、重複と多様性の担保、自己選好や分布シフト、規約と個人情報の落とし穴までまとめました。