LLM Frontline
開発・エージェント
生成AI・LLMアプリを動かすためのDocker/コンテナ書籍ガイド｜環境再現・GPU・デプロイで詰まる人へ4冊を段階順に
LLMアプリやRAG基盤、ローカルLLM、MCPサーバーを自分で動かす段でつまずくのは、モデルではなく環境再現・依存関係・GPU・デプロイです。コンテナの土台を段階順に固めるための実在の日本語書籍4冊を、扱う範囲と扱っていない範囲つきで整理します。
#ローカルLLM の記事
ニュース・動向
Qwen3.8-Maxを業務目線で読む｜2.4兆パラメータMoEの仕様・価格・オープンウェイト予告の現在地
Alibaba(Qwen)が2026年8月3日に公開したQwen3.8-Maxを、業務利用の観点で整理します。公式ドキュメントで確認できる仕様と価格、8月6日時点でのオープンウェイト公開状況、リージョンとデータの所在、自社で試すときの判断手順を、優劣を断定せずまとめます。
モデル比較・選び方
ローカルLLMのモデル保存先を選ぶ｜内蔵NVMe増設と外付けSSDの違い
ローカルLLMを動かしていると、モデルファイルの容量で内蔵ストレージがすぐに圧迫されます。内蔵M.2 NVMeの増設と外付けポータブルSSD、どちらを選ぶべきかを、モデルファイルのサイズ感・読み込み速度(PCIe世代・USBインターフェース)・容量計画・外付け運用の注意点から整理しました。
開発・エージェント
量子化(quantization)とは｜LLMを軽く・速く・安く動かすモデル圧縮の仕組み
量子化はモデルの重みや活性の数値精度を下げてメモリと計算を節約する技術です。FP16からINT8/INT4への圧縮の狙い、GGUF・GPTQ・AWQ・NF4といった方式、PTQとQATの違い、VRAM見積りと実務での選び方を、優劣を断定せず実証的に整理します。
ニュース・動向
Thinking MachinesのInklingとは｜Muratiのラボ初のオープンウェイトLLMを業務目線で読み解く
元OpenAI CTOのMira Muratiが率いるThinking Machines Labが2026年7月15日に公開した初のオープンウェイトモデル「Inkling」を、業務利用者の視点で整理します。約975BのマルチモーダルMoE、Tinkerでの微調整前提という設計思想、クローズド旗艦との棲み分けを変動前提で冷静にまとめます。
ニュース・動向
Kimi K3とは何か｜2.8兆パラメータのオープンウェイトLLMを業務目線で読み解く
Moonshot AIが2026年7月16日に静かに公開したKimi K3を、業務利用者の視点で整理します。2.8兆パラメータのスパースMoE構成、報じられている価格やベンチマーク、7月27日予定の重み公開を待つべきかを、変動前提で冷静にまとめます。
モデル比較・選び方
ローカルLLMの実行環境を比較｜Ollama・LM Studio・llama.cpp・vLLMの選び方
ローカルLLMを動かすための実行環境(ランタイム)を、業務目線で比較します。Ollama・LM Studio・llama.cpp・vLLMそれぞれの役割と向き不向き、UIツールとの組み合わせ、用途別の選び方、ハードウェアの前提までを、優劣を断定せず整理します。
ニュース・動向
国産LLMの現在地を業務目線で読む｜楽天・リコー・ガバメントAIの動向整理
日本語特化・国内開発のLLMが相次いで登場しています。楽天のRakuten AI 3.0、リコーの日本語LLM、デジタル庁ガバメントAIの国産LLM選定を題材に、業務で「国産LLMをどう評価し選ぶか」を、日本語性能・ライセンス・提供形態・透明性・サポートの5軸で冷静に整理します。
モデル比較・選び方
ローカルLLMを動かすPC・GPUの選び方｜VRAMから逆算する構成と予算
ローカルLLMを自分の環境で動かすためのPC・GPU選びを、実務目線で整理します。最重要はコア速度ではなくVRAM容量であること、4bit量子化でメモリを圧縮できること、モデルサイズ別のVRAM目安、Mac(統合メモリ)という選択肢まで、動かしたいモデルから逆算して構成と予算を組む考え方をまとめました。
ニュース・動向
NVIDIAとHugging Faceが「LeRobot」を強化｜オープンなロボット基盤モデルGR00T N1.7
NVIDIAとHugging Faceが2026年7月に発表した、オープンソースのロボット学習基盤「LeRobot」への大型統合を整理します。オープンで商用利用可能なVLAモデル「Isaac GR00T N1.7」、データ収集フレームIsaac Teleop、そしてソフトウェア中心のLLMエンジニアがフィジカルAIをどう捉えるべきかを、事実ベースで読み解きます。
モデル比較・選び方
オープンウェイトLLMの新勢力｜GLM-5.2・Kimi K2.7・MiniMax M3を業務目線で
2026年6月に相次いで公開されたオープンウェイトの大規模言語モデル(GLM-5.2・Kimi K2.7・MiniMax M3)を、業務利用の観点から整理します。ベンチマーク順位に飛びつかず、ライセンス・自ホスト・データの扱い・自社検証という評価軸で、オープンモデルをどう選ぶかを冷静に読み解きます。