カテゴリー
タグ
bun rust anthropic claude-code coding-agent typescript ci-cd astro web-development codex openai agent-skills image-generation ai llm benchmark open-source google css glm claude review nano-banana cost-analysis ai-agent prompt-engineering transformer python evaluation qwen ollama antigravity gpt-5 rag production
Category: AI
2026
13 posts
小さな言語モデルをゼロから学習する — nanoGPT 級を MPS で回し、PPL・速度・メモリを自分で測る
サンプリングは賭けだ — 1 回の正解 vs N 回の多数決、self-consistency で精度を買う代償を実測する
KVキャッシュは記憶のコスト — 文脈が伸びるほど decode が重くなる理由を実測する
Attention は過去を読み直している — Q/K/V と O(T²) の壁を最小実装で覗く
LLM はトークンを1つずつ予測している — 自己回帰ループを手元で覗く
RAG を作る前に読む地図 — 用語が「どこで牙を剥くか」を先に押さえる
本番運用 — Logging Safety / Drift / Cost / Rollback で RAG を運用する
評価 (クライマックス) — RAGAs 4 指標で Part 1-3 の改善を客観評価する
Generation を引用付きで書く — Anthropic Citations API と cross-encoder reranker
Retrieval を真面目に — chunking と hybrid search で recall を数値改善する
素朴な RAG の限界 — 100 行で動くけど「使える」とは言えない理由
プロンプトは「手順書」から「契約書」へ:GPT-3.5からGPT-5.5までの公式ガイド変遷と移行実践
ハーネスエンジニアリング入門:AIコーディングエージェントを「確実に動かす」設計思想
