先實測再導入 TypeSafe 的 Jev — 它能幫文章選擇標籤,卻判斷不了譯文自不自然
TypeSafe 的 Jev 為這個部落格挑選標籤時能夠達到 AUC 0.97,給出的機率也和實際情況相符;判斷譯文自不自然時卻只有 0.57 到 0.63,因此我現在只讓它為草稿建議標籤。
TypeSafe 的 Jev 為這個部落格挑選標籤時能夠達到 AUC 0.97,給出的機率也和實際情況相符;判斷譯文自不自然時卻只有 0.57 到 0.63,因此我現在只讓它為草稿建議標籤。
Amazon Bedrock 上 Claude Sonnet 5 以後的模型不支援 strict tool use。少了它之後,我靠著一行提示詞規則,並且以 tool_result 回傳錯誤後重試,讓模型的 JSON 輸出維持了正確的格式。
text-to-SQL AI 代理違反了「不可手動加總」的規則。GROUP BY ROLLUP 與純量子查詢不是修規則,而是直接消除了這個步驟。
從 token 預測出發,解說 temperature 與 top_p 控制的是什麼、幻覺為何是結構性的、提示工程為何有效、系統提示外洩攻擊的原理,以及 Extended Thinking 的定位。
從如何處理脈絡到 LLM 的完成:RNN 的結構性極限、Attention 的誕生、Transformer、GPT-3 的規模革命、RLHF 對齊,以及效率化的時代。
LLM 是一連串無關問題的副產品:圖靈的可計算性、夏農的資訊理論、感知器、反向傳播、GPU,以及 Word2Vec。
知識庫檢索能不能用 Fine-tuning 取代 RAG:Fine-tuning 真正學到的是什麼、純 IR 或長脈絡勝出的時機,以及各自的成本。
AIMock 在單一連接埠上模擬整個 AI 技術堆疊(LLM、向量資料庫、MCP、A2A)。這樣一來,AI 代理的測試套件能夠在三秒內執行完畢,而且每次的輸出都相同。