NVIDIA DLI 認證- 為大型語言模型注入新的知識（Adding New Knowledge to LLMs）

本課程為 NVIDIA DLI 校園大使（Campus Ambassador）合作課程，適用對象為：

• 具正式學籍之學生（大學部、碩士班、博士班、在職專班、EMBA）。
• 希望取得 NVIDIA DLI 官方結業認證者。

【Part A：AI 與 Python Recap 基礎模組】

• A-1 課程導論與 DLI 認證介紹
  • 課程結構與評量方式說明
  • NVIDIA DLI 認證類型、取得方式與應用情境
  • 校園大使方案與雲端平台免費使用說明
• A-2 生成式 AI 與 LLM 觀念總整理
  • 從傳統 ML / DL 到 Transformer 與 LLM 的演進
  • Token、Embedding、Attention 的直覺說明
  • LLM 在校園與企業應用案例（客服、知識庫、文件摘要等）
• A-3 Python 核心語法與常用套件 Recap
  • 從循序程式到全物件導向程式設計
  • list, tuple, dict 資料型別
  • Numpy, Keras, PyTorch 介紹
  • 使用 requests 呼叫 API 的基本概念
• A-4 Hugging Face 與 LLM 實作暖身
  • Hugging Face 生態系（Models / Datasets / Spaces）介紹
  • 使用 pipeline 完成情緒分析、分類、問答或摘要
  • 說明後續 DLI 模組使用之雲端環境與操作流程

【Part B：NVIDIA DLI 認證模組】

• B-1 Orientation
  • 了解工作坊目標、實驗環境與 JupyterLab 工作流程。
  • 認識 Meridian Response，作為貫穿整個處理流程的實際案例研究。
  • 審視工作坊中使用的核心工具：NVIDIA NeMo AutoModel、NeMo Data Designer、NeMo Curator、NeMo RL、vLLM、LoRA/PEFT 以及 Jupyter 筆記本。
• B-2 Evaluation First
  • 在生成資料或訓練之前，先設計好評估工具。
  • 針對 Meridian 的分類任務，評估基礎 8B 模型的表現。
  • 執行內文學習上限測試（In-context learning ceiling test），了解提示工程能將模型提升到什麼程度。
  • 比較本地模型與較大型 API 模型的行為，並決定應依據哪些證據來指導後續訓練。
• B-3 Synthetic Data Generation and Curation
  • 利用評估結果找出模型所缺少的訓練訊號。
  • 選擇並使用教師模型來生成合成資料。
  • 使用 NVIDIA NeMo Data Designer 建構具針對性的紀錄。

    使用 NVIDIA NeMo Curator 檢查、過濾、去除重複並策展紀錄。

• B-4 Supervised Fine-Tuning
  • 學習監督式訓練如何透過範例教導模型掌握任務行為。
  • 理解為什麼 LoRA 對於高效的領域調適非常有用。
  • 使用 NVIDIA NeMo AutoModel 設定並執行一輪（Epoch）的 SFT 適配器訓練作業。
  • 使用 vLLM 部署訓練好的適配器，並評估它是否能改善保留測試集的表現。
• B-5 Direct Preference Optimization
  • 找出 SFT 之後仍然存在的回應品質落差。
  • 設計風格評分標準（Style rubric）並建構「偏好（Chosen）／不偏好（Rejected）」的偏好配對。
  • 在訓練前評估偏好配對的品質。
  • 使用 NVIDIA NeMo RL 執行並檢視 DPO 工作流程，接著評估偏好優化如何改變模型。
• B-6 Capstone
  • 將相同的客製化流程應用於全新的客服分流領域：Atlas Support。
  • 建構並評估基準任務評估。
  • 為新任務生成合成資料並訓練 SFT 適配器。
  • 使用評量關卡（Assessment gates）來確認每個階段皆已完成且具備證據支持。
• B-7 Take Home
  • 審視模型客製化的決策手冊（Decision playbook）。
  • 下載參考筆記本、原始素材與課後收穫資產。
  • 將工作坊的工作流程連結至未來領域專屬的客製化專案。

• 2 天，12 小時。
  
  • Part A：AI 與 Python Recap 基礎模組（5 小時）。
  • Part B：NVIDIA DLI 認證模組（7 小時）。
• 共 3 梯次：
  • 第 1 梯次：2026/01/24、01/31（週六）09:00 – 16:00（午休 1 小時）。
  • 第 2 梯次：2026/04/11、04/18（週六）09:00 – 16:00（午休 1 小時）。
  • 第 3 梯次：2026/08/15、08/22（週六）09:00 – 16:00（午休 1 小時）。
  • 第 99 梯次：2999/01/01（週六）09:00 – 16:00（午休 1 小時）。

• 收費金額：新台幣10,000元。
• 早鳥（08/04前）折扣 新台幣2,000元！

有正式學籍的學生於課程期間可免費使用 NVIDIA DLI 雲端平台進行實作，無需額外支付雲端使用費。

• 【交通方式】請參考地理與交通。
• 【停車費用】汽車：
  基本費率
  半價；機車：無收費。