大型語言模型建置與開發應用班

課程介紹

LLM Logo

本課程旨在培養學員建構、部署、微調及應用大型語言模型(LLM)的實務能力。課程將以主流框架(LangChain, LangGraph)為主軸，利用提示工程(Prompting)、檢索增強生成(RAG)、多智慧代理人(Multi-Agents)等核心技術，手把手打造以LLM(如GPT)核心為基礎的應用程式，進一步將搭配建構地端開源模型(如Gemma3, DeepSeek-r1…等)，瞭解模型微調的不同理論與方法，建構本地端應用程式。
預期成效：

  1. 在本地端環境成功安裝、設定並運行 LLM (使用 Ollama 與 Gemma 3)。
  2. 掌握有效的提示工程技巧 (Few-shot, CoT, ReAct)。
  3. 熟練使用 LangChain 框架的核心組件 (Models, Prompts, Parsers, Chains)。
  4. 設計並實作 RAG 系統，整合外部知識庫以提升 LLM 回應的準確性與時效性。
  5. 理解並建構 LangChain Agents，使其能運用工具完成複雜任務。
  • 有Python程式基礎或上過Python實作班 較合適。
  • 對開發生成式AI、大型語言模型應用程式有興趣者。
  • LLM 基礎與提示工程
    • LLM 運作原理概觀 (Tokens, Temperature)。
    • 基礎 Prompting 技巧
    • Few-shots Prompting
    • Prompt Engineering 的概念與最佳實踐
    • 思考鏈 (Chain of Thought, CoT)
    • ReAct Prompting
  • RAG 檢索增強生成
    • Embeddings 概念簡介
    • Vector Stores 介紹
    • 本地 Vector Store 選擇：FAISS
    • 建立索引與儲存 Embeddings
    • 相似度搜尋 (similarity_search)
    • 檢索（retrieval）與 re-ranking
  • LangChain 核心與地端 LLM
    • LangChain 中的 LLMs vs Chat Models
    • 整合 Ollama，使用地端LLM
    • 微調 vs Prompting vs RAG
    • Full Fine-tuning vs. 參數高效微調 (PEFT) 原理 (LoRA, QLoRA)
    • PromptTemplate 的設計與使用
    • 探索 LangChain Hub 上的 Prompt 範例
    • PydanticOutputParser 強制輸出格式
    • 基礎鏈 (LLMChain)
    • LangChain 表達式語言 (LCEL) 基礎。
  • Agentic Design（代理人設計）與Multi-Agents（多代理人）
    • Agent 核心：LLM 推理引擎 + Tools
    • ReAct 框架在 Agent 中的應用
    • Tool added and tool calling
    • LangGraph and Agent Router
    • Agent 與記憶

請洽陳先生 03-422-7151#66602 或來信 ncu_erp5@mgt.ncu.edu.tw

相關課程