カテゴリー
タグ
bun rust anthropic claude-code coding-agent typescript ci-cd astro web-development codex openai agent-skills image-generation ai llm benchmark open-source google css glm claude review nano-banana cost-analysis ai-agent prompt-engineering transformer python evaluation qwen ollama antigravity gpt-5 rag production
Tag: #python
2026
9 posts
小さな言語モデルをゼロから学習する — nanoGPT 級を MPS で回し、PPL・速度・メモリを自分で測る
サンプリングは賭けだ — 1 回の正解 vs N 回の多数決、self-consistency で精度を買う代償を実測する
KVキャッシュは記憶のコスト — 文脈が伸びるほど decode が重くなる理由を実測する
Attention は過去を読み直している — Q/K/V と O(T²) の壁を最小実装で覗く
LLM はトークンを1つずつ予測している — 自己回帰ループを手元で覗く
本番運用 — Logging Safety / Drift / Cost / Rollback で RAG を運用する
評価 (クライマックス) — RAGAs 4 指標で Part 1-3 の改善を客観評価する
Retrieval を真面目に — chunking と hybrid search で recall を数値改善する
素朴な RAG の限界 — 100 行で動くけど「使える」とは言えない理由
