Category: AI

2026

13 posts
  1. 小さな言語モデルをゼロから学習する — nanoGPT 級を MPS で回し、PPL・速度・メモリを自分で測る

    #llm #transformer #python #open-source
  2. サンプリングは賭けだ — 1 回の正解 vs N 回の多数決、self-consistency で精度を買う代償を実測する

    #llm #transformer #python #evaluation
  3. KVキャッシュは記憶のコスト — 文脈が伸びるほど decode が重くなる理由を実測する

    #llm #transformer #python #open-source
  4. Attention は過去を読み直している — Q/K/V と O(T²) の壁を最小実装で覗く

    #llm #transformer #python #open-source
  5. LLM はトークンを1つずつ予測している — 自己回帰ループを手元で覗く

    #llm #transformer #python #open-source
  6. RAG を作る前に読む地図 — 用語が「どこで牙を剥くか」を先に押さえる

    #rag #llm #ollama
  7. 本番運用 — Logging Safety / Drift / Cost / Rollback で RAG を運用する

    #rag #llm #production #python
  8. 評価 (クライマックス) — RAGAs 4 指標で Part 1-3 の改善を客観評価する

    #rag #llm #evaluation #ollama #python
  9. Generation を引用付きで書く — Anthropic Citations API と cross-encoder reranker

    #rag #llm #anthropic #ollama
  10. Retrieval を真面目に — chunking と hybrid search で recall を数値改善する

    #rag #llm #ollama #python
  11. 素朴な RAG の限界 — 100 行で動くけど「使える」とは言えない理由

    #rag #llm #ollama #python
  12. プロンプトは「手順書」から「契約書」へ:GPT-3.5からGPT-5.5までの公式ガイド変遷と移行実践

    #ai #llm #prompt-engineering #gpt-5
  13. ハーネスエンジニアリング入門:AIコーディングエージェントを「確実に動かす」設計思想

    #ai-agent #coding-agent #prompt-engineering