這一兩年只要打開科技新聞,AI Agent(AI 代理)、MCP、RAG、Multi-Agent、Token……這些名詞就像下雨一樣噴出來,很多讀者跟阿正老師反映:「每個字分開都看得懂,合在一起就完全不知道在講什麼!」更麻煩的是,網路上的解釋文章常常是工程師寫給工程師看的,一般人讀完只覺得更暈。
其實這些名詞一點都不神秘。阿正老師發現,只要用一個大家都熟悉的東西來比喻——一間公司——所有概念馬上就通了:你是董事長,AI Agent 是總經理,MCP 是對外服務窗口,RAG 是公司資料室,Memory 是檔案櫃,Sub Agent 是各部門主管……整個 AI 世界就是一間公司的組織圖。
這篇文章阿正老師就用這個「公司比喻」,搭配一系列精心製作的圖解,把 2026 年最重要的 23 個 AI 名詞一次講清楚。不管你是想跟上時代的一般讀者、要教 AI 課程的老師,還是剛入門的學生,看完這篇就能建立完整的觀念地圖。
文章目錄
- AI Agent 不是聊天機器人,而是一位專案經理
- 一張組織圖看懂 AI Agent 公司
- Memory:桌上的便利貼與公司的檔案櫃
- RAG:需要時才去翻的公司資料室
- Skill 與 Tool:員工專長與辦公工具
- MCP:公司的對外服務窗口
- Multi-Agent 與 A2A:公司有很多部門,AI 也可以
- Guardrails 與 Human in the Loop:公司制度與董事長簽核
- AI Agent 的完整工作流程:十個步驟走一遍
- Context 與 Token:影響 AI 表現(與帳單)的關鍵
- Context Compression:讓 AI 更快更省的秘書術
- 23 個名詞總對照表與學習路徑
- 阿正老師的總結
一、AI Agent 不是聊天機器人,而是一位專案經理
先從最根本的問題開始:AI Agent 跟 ChatGPT 這種聊天機器人到底差在哪?用公司來比喻就很清楚了——ChatGPT 像是一位知識豐富的員工:你問什麼,他答什麼,答完就結束,不會主動多做一步。而 AI Agent 則像是一位專案經理(或總經理):你只要交代目標,他會自己規劃步驟、拆解工作、主動使用工具、指派人手,一路做到任務完成才回來跟你報告。
舉個例子:你對聊天機器人說「日本哪裡好玩?」它會給你一篇介紹文;但你對 AI Agent 說「幫我規劃一週日本旅遊,預算 3 萬元以內」,它會自己去查機票、比飯店、排行程、算預算,最後交給你一份完整的行程表。前者是「回答問題」,後者是「完成任務」——這就是本質上的差別。
這裡順便帶出兩個基本名詞:你交辦的那件事,在 AI 世界裡叫做 Task(工作項目);而 AI Agent 被設定的角色定位——例如「你是一位嚴謹的財務顧問」或「你是幽默的英文家教」——則叫做 Persona(員工角色),就像每位員工在公司裡都有自己的職稱與人設一樣。
二、一張組織圖看懂 AI Agent 公司
在逐一介紹名詞之前,先看這張「AI Agent 公司組織圖」,把整間公司的架構一次記在腦海裡。這張圖同時涵蓋了三個主題:左邊是完整組織圖、中間是 RAG 與 Memory 的差異、右邊是 MCP Server 的運作方式,後面幾章會分別深入說明。
組織圖的最上層是董事長/CEO——也就是你(User,使用者)。你不需要懂技術細節,只要下達目標。接著是總經理/專案經理——AI Agent 本人,他手上有四樣法寶:
- Planning(專案規劃):把大目標拆成一步步可執行的計畫,就像專案經理開工前先列出時程表。
- Reasoning(經驗判斷):根據經驗與邏輯,判斷下一步該做什麼、哪條路比較好走。
- Tool(辦公工具):計算機、瀏覽器、程式執行環境……就像員工桌上的電腦與辦公軟體。
- Memory(公司檔案):記住之前發生過的事,下一章會詳細介紹。
總經理底下還有各部門的 Sub Agent(各部門主管):行銷部、研發部(Coding Agent)、資料分析部、設計部、客服部……各自負責專門的工作。而整間公司做事的標準流程,就是 Workflow(SOP,標準作業流程);每件工作進行到哪個階段——待辦、進行中、已完成——則是 State(工作狀態),就像專案管理看板上的一張張卡片。
組織圖的最下方還有兩個把關機制:Guardrails(公司制度)與 Human in the Loop(董事長簽核),這兩位「風控長」我們留到第八章再詳談。
三、Memory:桌上的便利貼與公司的檔案櫃
員工要把事情做好,「記憶力」很重要。AI Agent 的 Memory(記憶)跟人一樣,可以分成短期和長期兩種:
短期記憶就像桌上的便利貼:這次對話裡你說過的話、給過的檔案,AI 都記在便利貼上,隨手就能看到;但對話一結束,便利貼就被丟進垃圾桶,下次開新對話就全忘光了。
長期記憶則像公司的檔案櫃:客戶資料、歷史專案、對話記錄、工作筆記、偏好設定……重要的資訊會被歸檔保存,跨越每一次對話。所以當你用過 ChatGPT 或 Claude 的「記憶」功能,發現 AI 記得你上次說過「我住台中」「我喜歡簡潔的回答」,就是長期記憶在運作——AI 不需要每次都重新認識你。
四、RAG:需要時才去翻的公司資料室
有了記憶,為什麼還需要 RAG?想像一個情境:董事長問總經理「三年前那個案子的合約細節是什麼?」再厲害的總經理也不可能把公司所有文件背在腦子裡,他會怎麼做?走去公司資料室,找出相關文件,整理重點,再回來報告。這就是 RAG(Retrieval-Augmented Generation,檢索增強生成)的運作方式:
AI 找不到答案 → 去公司資料室(內部文件、知識庫、歷史資料、產品手冊、研究報告)→ 搜尋出相關文件 → 整理重點 → 回答使用者。整個過程的核心精神是:不記住資料,而是需要時去找資料。
那 RAG 跟上一章的 Memory 差在哪?很多人會搞混,其實一句話就分清楚了(可以對照第二章圖片的中間欄):
| 比較 | RAG(資料室) | Memory(檔案櫃/記憶) |
|---|---|---|
| 運作方式 | 需要時才去搜尋,不會全部記住 | 長期記住重要資訊,隨時可用 |
| 適合內容 | 大量文件、資料庫、知識庫 | 使用者偏好、客戶資料、歷史專案脈絡 |
| 帶來的好處 | 回答有憑有據,能引用最新文件 | 讓 AI 更懂你,對話更有連貫性 |
五、Skill 與 Tool:員工專長與辦公工具
公司裡每位員工都有自己的專長:有人精通 Excel、有人簡報做得漂亮、有人會寫 Python、有人外語流利。AI Agent 的 Skill(員工專長)就是這個概念——AI 不一定天生什麼都會,但可以依照任務需要,呼叫不同的專長模組:試算表處理、簡報製作、翻譯、寫程式、搜尋資料、繪圖……需要哪項就召喚哪項。
那 Skill 跟 Tool 又差在哪?用公司比喻很好分:Tool 是辦公工具——計算機、瀏覽器、印表機,是「硬體能力」;Skill 則是使用工具完成特定工作的「know-how」——同樣一台電腦,會做財報的員工跟會剪影片的員工,發揮出來的價值完全不同。實務上,像 Anthropic 的 Claude 就有「Agent Skills」機制,把特定工作的最佳流程打包成技能包讓 AI 依需求載入,正是這個概念的具體實作。
六、MCP:公司的對外服務窗口
公司不可能什麼都自己做,總要跟外面的世界打交道:銀行、供應商、物流、政府機關……但你不會讓每位員工都自己拿著公司大小章到處亂跑,而是設一個對外服務窗口,統一處理所有對外業務。這個窗口,就是 MCP(Model Context Protocol,模型上下文協定)。
AI Agent 不直接存取外部系統,而是透過 MCP Server 這個窗口去連接 Google Drive(檔案存取)、GitHub(程式碼管理)、Email(寄信收信)、Calendar(行事曆)、Database(資料庫查詢)、ERP/CRM(企業系統)等各種外部服務。MCP Server 這個窗口做的事情,跟公司的總務兼法務很像:
- 統一介接入口:所有對外請求走同一個門,不會各自為政。
- 安全驗證與權限管理:確認「這件事你有沒有權限做」,沒授權的門進不去。
- 請求轉換與資料格式轉換:把 AI 的需求翻譯成外部系統聽得懂的語言,再把結果翻譯回來。
- 回傳結果:整理好的資料交回給 AI Agent 繼續作業。
在 MCP 出現之前,開發者要讓 AI 使用某個服務,得針對每個 AI 平台、每個服務逐一撰寫串接程式,累得半死。MCP 就像專為 AI 設計的通用轉接頭:服務商只要架好一個 MCP Server,任何支援 MCP 的 AI——Claude、Gemini、ChatGPT——都能直接看懂這個服務提供哪些功能、該怎麼呼叫。目前 MCP 已由 Anthropic 捐給 Linux Foundation 旗下的開放組織治理,成為 AI 連接工具的業界標準,社群上的 MCP Server 數量已達上萬個。
七、Multi-Agent 與 A2A:公司有很多部門,AI 也可以
一位總經理再厲害,也不可能一個人包辦研發、設計、行銷、客服所有工作。公司的解法是設立部門、分工合作;AI 的解法也一樣,這就是 Multi-Agent(多代理系統)。
在 Multi-Agent 架構中,AI Agent(總經理/專案經理)負責規劃、協調、整合、監督與最終決策,底下則有各部門的 Sub Agent 分頭做事:研究部負責搜尋與蒐集資訊、設計部產生圖片與設計版面、程式部撰寫程式與部署上線、資料分析部做數據分析與圖表視覺化、行銷部撰寫文案與企劃活動、客服部回答問題與維護客戶關係。這位居中調度所有部門的總指揮,專有名詞叫做 Orchestrator(協調者/總指揮)——就像交響樂團的指揮,自己不拉小提琴,但決定誰在什麼時候演奏。
以「製作一份旅遊行程規劃網站」為例,完整的部門接力是這樣跑的:研究部蒐集旅遊景點資料 → 設計部設計版面與繪圖 → 程式部開發網站功能 → 資料分析部分析旅遊趨勢與數據 → 行銷部撰寫文案並推廣 → 客服部回答使用者問題 → 網站完成交付使用。每個部門各司其職,共同完成董事長交辦的任務。
那麼問題來了:部門跟部門之間要怎麼溝通?這就需要 A2A(Agent2Agent Protocol,代理對代理協定)——注意,這不是 AI 跟工具說話(那是 MCP 的工作),而是 AI 跟 AI 說話的標準協定。透過 A2A,不同的 Agent 之間可以進行任務指派、資料交換、狀態回報與結果整合,即使這些 Agent 來自不同公司、不同平台,也能像兩間公司之間用標準公文往來一樣順暢合作。
八、Guardrails 與 Human in the Loop:公司制度與董事長簽核
AI Agent 能自主行動固然強大,但「太自主」也讓人擔心:萬一它做出不該做的事怎麼辦?公司的答案是「制度」和「簽核」,AI 世界也有一模一樣的機制。
Guardrails(護欄/公司制度):權限管理、安全規則、政策限制、合規檢查——就像公司規定採購超過多少錢要走招標流程、員工不能存取跟職務無關的資料。Guardrails 事先劃好紅線,讓 AI 在安全範圍內自由發揮,越界的行為直接被制度擋下。
Human in the Loop(人類參與迴圈/董事長簽核):再完善的制度也有模糊地帶,所以重要決策必須回到人類手上——重要決策簽核、人類審核、最終確認。就像公司再怎麼授權,重大合約還是要董事長親自蓋章。實務上你會看到 AI 工具在執行敏感操作(寄出郵件、刪除檔案、付款)之前跳出「確認執行?」的提示,那就是 Human in the Loop 在運作。
九、AI Agent 的完整工作流程:十個步驟走一遍
前面介紹了這麼多角色與機制,現在把它們串起來,看一件任務在「AI Agent 公司」裡的完整旅程。假設董事長(你)交辦:「幫我規劃一週日本旅遊,並預算 3 萬元以內」,這位專案經理會走過以下十個步驟:
- 1. Planning(規劃):分析需求、拆解任務、訂定計畫——專案經理制定專案計畫,確認目標、時程與資源。
- 2. Reasoning(推理/思考):根據經驗與邏輯判斷下一步——運用判斷力決定優先順序與策略。
- 3. Memory(記憶):回憶過去資訊、使用者偏好與歷史紀錄——查看公司檔案,想起你上次說過「不吃生食、喜歡溫泉」。
- 4. RAG(資料檢索):到公司資料庫或搜尋外部知識與文件——去資料室翻出相關報告與市場資料。
- 5. Tool(工具使用):使用合適的工具或軟體執行任務——打開電腦、試算表、簡報軟體開始作業。
- 6. MCP(對外服務):透過 MCP Server 存取外部系統——經由對外窗口查詢機票、飯店、地圖、天氣。
- 7. Sub Agents(子代理人):指派不同的子代理人或部門協助——請設計部、行銷部、資料部門一起協作。
- 8. Observation(觀察/回報):收集執行結果與回饋、確認進度——各部門回報進度與成果,彙整資訊。
- 9. Reflection(反思/檢討):總結結果、發現問題並調整策略——開專案檢討會議,找出問題、優化流程。
- 10. Answer / Output(輸出結果):整合資訊、產出最終成果——產出完整行程表,交付給董事長。
任務完成之後還沒結束:這次的經驗會存入 Memory,讓下次執行得更快更出色。整個「需求 → 規劃 → 執行 → 回饋 → 優化」的循環會不斷運作,這也是為什麼 AI Agent 用得越久越順手。像 Claude Code 這類 AI 寫程式工具能自己跑測試、發現錯誤、修正再重跑,背後就是這套循環(阿正老師之後會有一篇 Claude Code 新手教學詳細介紹)。
十、Context 與 Token:影響 AI 表現(與帳單)的關鍵
聊完「AI 怎麼做事」,接下來談一個超級實際的話題:成本。很多人有個誤會——「AI 用越久,Token 就消耗越多?」其實不是!真正影響 Token 消耗的,是你提供的 Context(上下文)與使用方式。
Context 是 AI 回答問題時所依據的所有資訊總和,包括:你與 AI 的對話內容、上傳的文件(PDF、Word、Excel、簡報)、AI 瀏覽過的網頁內容、你提供的程式碼、工具使用紀錄,以及記憶內容(Memory)。用開會來比喻:Context 就是這場會議桌上攤開的所有資料——資料攤得越多,與會者要消化的東西就越多。
Token 則是 AI 讀取與生成文字的最小單位,類似「字」或「詞」的切割單位。給大家一點具體的感覺:「台灣是個美麗的地方。」大約是 9 個 Token;英文 "Taiwan is a beautiful place." 大約 7 個 Token;一份 10 頁的文件是數千個 Token;一段程式碼則從數百到數千個 Token 不等。要注意的是,輸入(你提供的內容)和輸出(AI 回答的內容)都會消耗 Token,而且中文通常比英文消耗更多 Token。
每個 AI 模型都有「Context Window(上下文視窗)」的上限——例如 128K Token——超過上限,AI 就會遺忘前面的內容,或無法處理更多資訊。這解釋了為什麼超長對話聊到後來,AI 會開始「忘記」你一開始講過的事。
影響 Token 消耗的因素包括:對話越長(每一輪對話都會累積)、文件越大、RAG 查詢越多(檢索到的文件內容會加入 Context)、使用工具越多(工具的輸入輸出都算)、程式碼越多、多語言內容。想有效控制 Token,可以掌握這幾招:精簡提問(問題越明確越省)、分段處理(大文件分段上傳與處理)、善用摘要(讓 AI 先摘要再深入細節)、清理不必要的對話、善用 Memory(重要資訊存入記憶,不必每次重複輸入),以及選擇合適的模型來平衡效果與成本。
十一、Context Compression:讓 AI 更快更省的秘書術
知道了 Context 越長越耗 Token、越慢越貴,那有沒有解法?有——而且公司裡早就有這個職位了:秘書。
想像專案會議越開越多:第 1 天的會議紀錄 10 頁,到了第 10 天累積成 100 頁。如果每次開會都要把 100 頁全部重看一遍,結果就是:慢!貴!還可能超過 Token 上限,AI 處理變慢、回應變差、成本變高。
聰明的公司會請秘書整理:擷取重點、摘要資訊、保留重要決策、刪除冗餘內容,形成一頁精簡報告——下次開會只帶這一頁。這就是 Context Compression(上下文壓縮):把長篇大論濃縮成精華,保留重點、刪除無關資訊。壓縮流程是「原始資料 → 分析理解 → 摘要提煉 → 壓縮輸出 → 持續使用」,好處包括減少 Token 消耗、提升處理速度、降低成本、不遺失重要資訊,還能搭配 Memory 做長期記憶。
以「100 頁會議紀錄壓縮成 1 頁摘要」為例:壓縮前是逐字對話紀錄、討論細節、重複內容、沒有結論的閒聊;壓縮後只留下專案目標、決策事項、執行計畫、負責人、待辦事項、下次會議時間——Token 大幅減少,重點一個不漏。常見的壓縮方法有五種:摘要(Summary)用更少文字描述重點、擷取重點(Extraction)直接抓關鍵句、分層摘要(Hierarchical)先小摘要再大摘要層層濃縮、語義壓縮(Semantic)理解語意後重新精煉表達、向量壓縮(Vector-based)用向量表示意義取代大量文字。
十二、23 個名詞總對照表與學習路徑
恭喜你走完整間「AI Agent 公司」!最後這張圖是全篇的總複習:左邊是 AI Agent 生態圖(AI Agent 在整個生態系中的位置)、中間是名詞速查表、右邊是從入門到實作的學習路徑建議。
照慣例,阿正老師把全文出現過的名詞整理成一張完整對照表,方便大家收藏複習:
| AI 名詞 | 公司比喻 | 一句話說明 |
|---|---|---|
| User | 董事長/CEO | 下達目標的人,不必懂執行細節 |
| AI Agent | 總經理/專案經理 | 能理解、規劃、使用工具並自主完成任務的 AI |
| Sub Agent | 各部門主管 | 專門負責特定領域任務的 AI,分工合作 |
| Multi-Agent | 整間公司的部門制度 | 多個 AI Agent 分工合作完成複雜任務 |
| Orchestrator | 總指揮 | 拆解任務、調度各代理的協調者 |
| Workflow | SOP 標準作業流程 | 完成任務的固定步驟與流程 |
| Planning | 專案規劃 | 分析需求、拆解任務、制定執行計畫 |
| Reasoning | 經驗判斷 | 根據經驗與邏輯推理,決定下一步 |
| Tool | 辦公工具 | AI 可以使用的各種工具與軟體 |
| Skill | 員工專長 | 可依需求呼叫的專業能力模組 |
| Memory | 便利貼與檔案櫃 | 短期與長期記憶,讓 AI 越用越懂你 |
| RAG | 公司資料室 | 需要時才去檢索資料,不是全部記住 |
| MCP | 對外服務窗口 | AI 連接外部工具與服務的標準協定 |
| A2A(前身含 ACP) | 公司與公司的合作流程 | AI 與 AI 之間溝通合作的標準協定 |
| Persona | 員工角色 | AI 被設定的角色定位與人設 |
| Task | 工作項目 | 使用者交辦、需要被完成的任務 |
| State | 工作狀態 | 任務目前的進度:待辦、進行中、已完成 |
| Observation | 執行回報 | 收集執行結果與回饋、確認進度 |
| Reflection | 專案檢討會議 | 總結結果、發現問題並調整策略 |
| Guardrails | 公司制度 | 權限、安全規則與合規檢查等護欄 |
| Human in the Loop | 董事長簽核 | 重要決策交回人類審核與最終確認 |
| Context | 會議桌上的所有資料 | AI 回答時所依據的所有資訊總和 |
| Token | 資料的計價單位 | AI 讀取與生成文字的最小單位,影響成本與效能 |
| Context Compression | 秘書整理會議紀錄 | 壓縮與摘要 Context,減少 Token、提高效率 |
如果看完這篇想更進一步,可以照著圖中右欄的學習路徑走:入門理解(了解基本概念與名詞,也就是這篇文章)→ 實作體驗(使用現成工具體驗、嘗試建立簡單的 Agent)→ 深入學習(深入研究 RAG、MCP、A2A 與 Context Compression)→ 整合應用(整合多個技術與服務、打造多 Agent 協作)→ 持續優化。想找免費的系統性課程,阿正老師推薦之前整理過的 Google 官方免費 AI 代理工程課程,一小時就能把理論補齊。
十三、阿正老師的總結
走完這一趟,相信大家已經發現:AI Agent 的世界一點都不神秘,它就是一間公司——有董事長(你)、有總經理(AI Agent)、有各部門(Sub Agent)、有資料室(RAG)、有檔案櫃(Memory)、有對外窗口(MCP)、有跨公司合作協定(A2A)、有公司制度(Guardrails)、還有董事長簽核(Human in the Loop)。AI Agent 就像一家公司,而不是一個聊天機器人。最後依照不同讀者情境,給大家接下來的建議:
一般讀者、想跟上 AI 話題
→ 把第十二章的對照表存起來。之後看到任何 AI 新聞,先把名詞放回「公司組織圖」的位置,你會發現九成的報導馬上就看懂了。
教師、需要教 AI 概念的人
→ 直接用「公司比喻」當教案骨架。文中的圖解與對照表都適合當投影片素材,從組織圖講到十步驟流程,一堂課剛剛好。
重度 AI 使用者、想省額度的人
→ 重讀第十、十一章。搞懂 Context 與 Token 的關係、學會手動做 Context Compression,額度馬上省一大截。
想動手實作的開發者與學生
→ 從 MCP 開始下手。它是目前生態最成熟、資源最多的一塊,搭配 Google 免費課程與官方文件,架出第一個 MCP Server 你就正式入門了。
AI Agent 的時代已經來臨,你就是那位董事長
2026 年的 AI 已經從「你問我答」進化到「交辦任務、自主完成」。理解了這套公司比喻,你就掌握了跟 AI 協作的核心心法:把自己當董事長,學會「交辦清楚的目標」而不是「事必躬親下指令」,然後在關鍵時刻負起簽核把關的責任。你最常把哪類工作交給 AI Agent 處理?或是有哪個名詞還想聽阿正老師更深入解釋?
歡迎在下面留言跟阿正老師分享!









