U2910 教學大綱表

教學大綱表 (114學年度第1學期)

請遵守智慧財產權，勿使用非法影印教科書，避免觸法。

課程名稱 Course Title	(中文) (清大)自然語言處理 (英文) Natural Language Processing			開課單位 Departments	機械與材料工程學系
				課程代碼 Course No.	U2910
授課教師 Instructor	黃得原清大高宏宇
學分數 Credit	3.0	必/選修 core required/optional	選修	開課年級 Level	大二
先修科目或先備能力(Course Pre-requisites)：
課程概述與目標(Course Overview and Goals)：本課程旨在介紹自然語言處理（NLP）和大型語言模型（LLM）的基礎知識和前瞻技術，適合對自然語言技術感興趣的學生。隨著生成式人工智慧技術的快速發展，NLP在各個領域中的應用日益廣泛。本課程將提供學生NLP理論基礎，並結合實際應用，幫助學生掌握最新的NLP與LLM技術。
教科書(Textbook)

課程大綱 Syllabus			學生學習目標 Learning Objectives	單元學習活動 Learning Activities	學習成效評量 Evaluation	備註 Notes
序 No.	單元主題 Unit topic	內容綱要 Content summary	學生學習目標 Learning Objectives	單元學習活動 Learning Activities	學習成效評量 Evaluation	備註 Notes
1	自然語言處理概論與文字資料處理	介紹自然語言處理的基本概念與應用情境，說明 NLP 在搜尋、翻譯、語音助理與聊天機器人等系統中的角色。並介紹文字資料處理的基本方法，包括分詞、詞性標註與命名實體識別等技術，以及文字資料的向量化表示方法。	1. 說明自然語言處理的基本概念與應用領域。 2. 理解文字資料處理與語言特徵表示的基本方法。	上機實習講授
2	機器學習與深度學習基礎	說明機器學習在自然語言處理中的應用，介紹基本的機器學習模型與文字分類任務，並說明神經網路與深度學習的基本概念。課程亦介紹 Python 與常用資料處理工具（如 Numpy、Pandas、Scikit-learn、PyTorch），作為 NLP 實作的基礎環境。	1. 理解機器學習與深度學習在 NLP 中的角色。 2. 能說明基本神經網路模型在文字分析中的應用。	上機實習講授
3	序列模型與語言表示方法	介紹序列資料的處理方式，說明 RNN 與 LSTM 等神經網路模型在語言資料處理中的應用。並探討詞嵌入（Word Embedding）與語意向量表示方法，例如 Word2Vec，說明如何將語言資訊轉換為向量空間中的語意關係。	1. 說明序列模型在語言資料分析中的基本原理。 2. 理解詞嵌入與語意向量表示的概念。	講授
4	生成式人工智慧與 Transformer 架構	介紹生成式人工智慧的基本概念與技術發展，並說明 Seq2Seq 模型與 Transformer 架構的核心原理，包括 Self-Attention 機制與語言生成模型的設計概念。	1. 說明生成式 AI 的基本概念。 2. 理解 Transformer 架構與注意力機制的運作方式。	講授
5	大型語言模型與訓練方法	說明大型語言模型（Large Language Models）的發展與應用，介紹 BERT、GPT、T5 等預訓練模型，以及 In-context Learning 的概念。並介紹參數高效微調技術（PEFT / LoRA），說明其在降低訓練成本與提升模型效能方面的作用。	1. 說明大型語言模型的基本架構與應用。 2. 理解預訓練模型與模型微調技術的概念。	講授
6	NLP 應用實作與挑戰	透過案例分析與專題實作，說明 NLP 技術在實際應用中的系統設計流程，例如文本分析與語言生成系統。並討論大型語言模型在實務應用中所面臨的挑戰，包括資料需求、模型偏差與計算資源限制。	1. 分析 NLP 系統的基本架構與應用流程。 2. 評估大型語言模型在實務應用中的限制與挑戰。	上機實習討論講授

教學要點概述：
1.自編教材 Handout by Instructor：
■ 1-1.簡報 Slides
□ 1-2.影音教材 Videos
□ 1-3.教具 Teaching Aids
□ 1-4.教科書 Textbook
□ 1-5.其他 Other
□ 2.自編評量工具/量表 Educational Assessment
□ 3.教科書作者提供 Textbook

成績考核 Performance Evaluation：作業：75% 專題：25%

教學資源(Teaching Resources)：
□ 教材電子檔(Soft Copy of the Handout or the Textbook)
□ 課程網站(Website)