企業級生成式AI與大型語言模型應用班

課程介紹

Generative AI Logo

完成本課程後，學員預期能夠：

  • 系統性理解 Transformer 與 LLM 的核心架構。
  • 使用 Hugging Face Transformers 建立任務導向之 NLP / LLM Pipeline。
  • 認識 Seq2Seq / Decoder、多模態 LLM 及其在企業應用場景中的可能性。
  • 初步掌握 LLM 推論與部署策略，可評估在企業環境中的導入方式。
  • 使用 Orchestration / Agentics 工具整合 LLM 與既有系統與資料源。
  • 完成 DLI 認證所需之最終實作任務並取得官方結業證書。

本課程為 Instructor-Led 企業專班，適合已具 AI / ML / Python / LLM 相關基礎之技術人員，包括：

  • 研發工程師、資料科學家、機器學習工程師
  • 具備基礎 Python 與深度學習經驗的 IT / 系統工程師
  • 希望快速掌握 LLM 實作並取得 NVIDIA DLI 認證之團隊成員
  • Course Introduction（30 分鐘）
    • Workshop 主題與學習目標
    • HuggingFace 與 Transformers 套件介紹
    • LLM 如何提升企業應用（ERP、CRM、客服、知識管理等）
  • Transformers and LLMs（60 分鐘）
    • 從深度學習基本原理出發介紹 Transformer 架構
    • Tokenizer、Embedding、Self-Attention 的運作方式
    • LLM 的輸入、處理與輸出流程
  • Task-Specific Pipelines（30 分鐘）
    • Encoder 模型在情緒分析、分類、子集合篩選、零樣本預測中的應用
    • 建立任務導向之 Pipeline 以快速驗證企業場景
  • Seq2Seq with Decoders（60 分鐘）
    • GPT 類 Decoder 模型與自回歸文本生成
    • Encoder-Decoder 架構在機器翻譯、摘要與 few-shot 任務上的應用
  • Lunch Break（60 分鐘）
  • Multimodal Architectures（60 分鐘）
    • 多模態架構：整合文字、圖片、音訊
    • CLIP、多模態問答、Diffusion 文字生圖等應用概念
  • Scaling Text Generation（60 分鐘）
    • LLM 推論效能與資源消耗問題
    • On-premise、雲端與混合架構的部署策略概觀
  • Orchestration and Agentics（60 分鐘）
    • LangChain 與 agentic workflows 介紹
    • 工具呼叫（tool-calling）與企業資料／系統整合示例
  • Final Assessment & Review（45 + 15 分鐘）
    • 建立一個整合文本生成、多模態與 agentic orchestration 的 LLM 應用
    • 課程重點回顧與 Q&A，完成 DLI 評量與問卷，取得 DLI 證書

一天課程(共7小時)。

本課程需依實際人數支付 NVIDIA 雲端 GPU / DLI 平台使用費（建議 20 人以上成班），費用將併入整體企業訓練報價。

請洽陳先生 03-422-7151#66602 或來信 ncu_erp5@mgt.ncu.edu.tw
相關課程