LLM 並不是在「思考」:從 token 預測的機制,理解幻覺、提示工程與提示外洩攻擊
從 token 預測出發,解說 temperature 與 top_p 控制的是什麼、幻覺為何是結構性的、提示工程為何有效、系統提示外洩攻擊的原理,以及 Extended Thinking 的定位。
從 token 預測出發,解說 temperature 與 top_p 控制的是什麼、幻覺為何是結構性的、提示工程為何有效、系統提示外洩攻擊的原理,以及 Extended Thinking 的定位。
從如何處理脈絡到 LLM 的完成:RNN 的結構性極限、Attention 的誕生、Transformer、GPT-3 的規模革命、RLHF 對齊,以及效率化的時代。
LLM 是一連串無關問題的副產品:圖靈的可計算性、夏農的資訊理論、感知器、反向傳播、GPU,以及 Word2Vec。
知識庫檢索能不能用 Fine-tuning 取代 RAG:Fine-tuning 真正學到的是什麼、純 IR 或長脈絡勝出的時機,以及各自的成本。
AIMock 在單一連接埠上模擬整個 AI 技術堆疊(LLM、向量資料庫、MCP、A2A)。這樣一來,AI 代理的測試套件能夠在三秒內執行完畢,而且每次的輸出都相同。
我用 AI 代理重新設計了這個部落格的 logo 與程式碼字型。過程中遇到了壞掉的 SVG 字形、用正規表達式算錯的邊界框和猜錯的漢字,最後整理成了 /logo skill。
gpt-image-1 與 DALL-E 3 的架構差異:自迴歸的 token 生成與反覆去雜訊、離散與連續的壁壘、DiT,以及 2026 年三方並立的市場。
為什麼 AI 代理之間的通訊不能只靠 MCP?本文從三點說明:AI 代理能夠拒絕請求、能夠用 Agent Card 公開自己的能力、能夠回報任務狀態,而這三點都不在 MCP 的核心協定裡。最後再解析為什麼 A2A v1.0 提供了 gRPC,MCP 卻仍守著 HTTP。