LLM Application Course

Course Introduction

LLM Logo

本課程旨在培養學員建構、部署、微調及應用大型語言模型(LLM)的實務能力。課程將以主流框架(LangChain, LangGraph)為主軸，利用提示工程(Prompting)、檢索增強生成(RAG)、多智慧代理人(Multi-Agents)等核心技術，手把手打造以LLM(如GPT)核心為基礎的應用程式，進一步將搭配建構地端開源模型(如Gemma3, DeepSeek-r1…等)，瞭解模型微調的不同理論與方法，建構本地端應用程式。
預期成效：

  1. 在本地端環境成功安裝、設定並運行 LLM (使用 Ollama 與 Gemma 3)。
  2. 掌握有效的提示工程技巧 (Few-shot, CoT, ReAct)。
  3. 熟練使用 LangChain 框架的核心組件 (Models, Prompts, Parsers, Chains)。
  4. 設計並實作 RAG 系統，整合外部知識庫以提升 LLM 回應的準確性與時效性。
  5. 理解並建構 LangChain Agents，使其能運用工具完成複雜任務。
  • 有Python程式基礎或上過Python Practical Course 較合適。
  • 對開發生成式AI、大型語言模型應用程式有興趣者。
  • LLM 基礎與提示工程
    • LLM 運作原理概觀 (Tokens, Temperature)。
    • 基礎 Prompting 技巧
    • Few-shots Prompting
    • Prompt Engineering 的概念與最佳實踐
    • 思考鏈 (Chain of Thought, CoT)
    • ReAct Prompting
  • RAG 檢索增強生成
    • Embeddings 概念簡介
    • Vector Stores 介紹
    • 本地 Vector Store 選擇：FAISS
    • 建立索引與儲存 Embeddings
    • 相似度搜尋 (similarity_search)
    • 檢索（retrieval）與 re-ranking
  • LangChain 核心與地端 LLM
    • LangChain 中的 LLMs vs Chat Models
    • 整合 Ollama，使用地端LLM
    • 微調 vs Prompting vs RAG
    • Full Fine-tuning vs. 參數高效微調 (PEFT) 原理 (LoRA, QLoRA)
    • PromptTemplate 的設計與使用
    • 探索 LangChain Hub 上的 Prompt 範例
    • PydanticOutputParser 強制輸出格式
    • 基礎鏈 (LLMChain)
    • LangChain 表達式語言 (LCEL) 基礎。
  • Agentic Design（代理人設計）與Multi-Agents（多代理人）
    • Agent 核心：LLM 推理引擎 + Tools
    • ReAct 框架在 Agent 中的應用
    • Tool added and tool calling
    • LangGraph and Agent Router
    • Agent 與記憶

賴昭榮（Steve Lai）
在洶湧的 AI 浪潮中，隨著 ChatGPT 普及，相關的學習需求大幅增加，從程式語言、機器學習、自然語言處理到大型語言模型等相關技術。Steve 擁有深厚的教學經驗，透過平易近人並重視成果的教學方式，在線上、線下，與你一起在 AI 時代搶得先機、掌握關鍵 應用方式與場景!

  • 現職：麥錫森智能科技股份有限公司 創辦人兼執行長
  • 學歷：
    • 國立台灣大學資訊工程學系 博士
    • 國立中央大學資訊工程學系 碩士
    • 東吳大學 商用數學系
  • 經歷：中央研究院 資訊科技與創新中心 研究助理
  • 教學經驗：
    • Udemy LangChain 課程
      • LangChain LLM 應用程式開發中文版，全球課程總人數超過 10 萬人，獲得平均評價 4.6 顆星（超過兩萬五千人）
    • 台灣金融研訓院
      • AI與大型語言模型課程
        • 一次搞懂生成式AI技術與金融應用
        • ChatGPT洞悉金融資料分析
        • ChatGPT的數據分析和預測
      • 程式語言與APP開發
      • 2022、2023菁英講座
    • 長庚大學資訊工程學習暑期實習業界講師
      • 2022工學院校外實習成果競賽第二名
    • Hahow線上課程
      • iOS實用開發
      • Python輕鬆入門
      • 打造Python股票分析機器人
  • 三天課程(共18小時)。
  • 共兩梯次：
    • 第一梯次：2025/08/23、08/30、09/06 (六) 9:30-16:30 (中午休息1小時)。(招生中)
    • 第二梯次：2025/11/08、11/15、11/22 (六) 9:30-16:30 (中午休息1小時)。
  • 收費金額：NT$25,000元 (學生優惠價：NT$18,000元)。
  • 早鳥(08/12前)及3人(含)以上折扣 NT$5,000元！

請洽陳先生 03-422-7151#66602 或來信 ncu_erp5@mgt.ncu.edu.tw

  • 【停車費用】學員開車入校提供半價優惠券，請洽中心專員索取。
  • 【交通資訊】請參考地理與交通.
  • 線上進行課程報名，近日將有課程專員回覆郵件確認報名資訊。
  • 若確定開班，將以郵件通知繳費。
  • 課前3日前以郵件進行課前通知。
  • 需出席5/6時數，方可取得參訓證明。
  • 中心得保留修訂課程及未達最低開課人數時取消課程之權利。
  • 退費說明：
    • 實際開課日前第30日以前要求退費者，可全額退還。
    • 實際開課日前第29日至前第1日，退還費用總額百分之九十。
    • 實際開課日後但未逾全期(或總課程時數)三分之一者，應退還費用總額百分之五十。
    • 實際開課日後已逾全期(或總課程時數)三分之一者，得全數不予退還。
    • 因故未能開班上課，則全額退還已繳費用。