生成式 AI 應用

學習路徑

1. 01
   生成式 AI 應用的組成

   模型、提示詞、API、資料與工具怎麼組成一個應用

   Interaction 15 minute(s)
2. 02
   Token 與費用

   模型看到的不是字：斷詞、上下文長度與費用估算

   Interaction實作 20 minute(s)
3. 03
   注意力機制的直覺

   用 numpy 算一次：每個字該看句子裡的哪些字

   Interaction實作 25 minute(s)
4. 04
   溫度與抽樣

   真實的候選機率、temperature 與 top_p

   Interaction實作 20 minute(s)
5. 05
   提示詞的結構

   任務、脈絡、格式與限制，改一項看回答怎麼變

   Interaction實作 25 minute(s)
6. 06
   Few-shot 與逐步推理

   給範例、拆步驟，以及它們什麼時候沒有幫助

   Interaction實作 20 minute(s)
7. 07
   Chat API

   messages、角色與回應物件；對話記憶由程式維護

   Interaction實作 25 minute(s)
8. 08
   串流與錯誤處理

   逐字顯示、被截斷的回答、逾時與重試

   Interaction實作 25 minute(s)
9. 09
   結構化輸出

   JSON 模式、Schema 與驗證，讓程式接得住模型的回答

   Interaction實作 25 minute(s)
10. 10
    Embedding 與語意相似度

    文字變成向量，用餘弦相似度比較意思

    Interaction實作 25 minute(s)
11. 11
    向量搜尋

    用 numpy 寫暴力搜尋、top-k，並和關鍵字搜尋比較

    Interaction實作 25 minute(s)
12. 12
    文件切塊

    切多大、要不要重疊，切壞了檢索就找不到

    Interaction實作 25 minute(s)
13. 13
    從頭寫 RAG

    檢索、組提示詞、回答與引用，不用任何框架

    Interaction實作 30 minute(s)
14. 14
    評估 RAG

    recall@k、查無資料時怎麼辦、引用對不對得上

    Interaction實作 25 minute(s)
15. 15
    工具呼叫

    tool_calls 的來回流程、參數驗證與錯誤回傳

    Interaction實作 30 minute(s)
16. 16
    Agent 迴圈

    自己寫一個 Agent：看結果、決定下一步、知道何時停

    Interaction實作 30 minute(s)
17. 17
    MCP 與權限

    工具怎麼接上去，以及該給 Agent 多少權限

    Interaction實作 25 minute(s)
18. 18
    提示詞注入與資料外洩

    藏在資料裡的指令，以及防線該放在哪裡

    Interaction實作 30 minute(s)
19. 19
    對照 LangChain

    自己寫過的流程，用框架怎麼寫、差在哪裡

    Interaction實作 20 minute(s)
20. 20
    用測試集評估應用

    不靠感覺：測試集、評分規則與改版前後比較

    Interaction實作 25 minute(s)
21. 21
    專題：課程問答助手

    把檢索、工具、拒答與評估接成一個完整的應用

    Interaction實作 40 minute(s)