我是蔡興正,透過思考、實踐與職涯探索,記錄每一次學習與成長。相信所有的累積,都會化為養分,長成屬於自己的那棵樹。
今天早上看到一篇談企業AI人才轉型的文章,裡面拋出一個問題讓我停下來想了很久:當「會用AI」很快就會變成人人都有的基本能力,真正能拉開差距的能力會是什麼? 讀完我自己的答案是:恐怕不是誰的提示詞寫得更漂亮,而是誰能把自己累積多年的專業經驗,轉化成AI可以直接執行的工作流程。這篇整理的是我這陣子研究 AI 推理框架,也就是 CoT、ToT 這類概念之後的幾個判斷,它們不是目標本身,而是通往這個目標的過程,也藉這篇把思路理清楚。 直接要答案,不如先把邏輯攤開來走一遍 我剛開始接觸 AI 的時候,其實也一直在找那把能讓 AI 點石成金的神奇指令,以為只要找對詞,就能什麼都搞定。後來研究下來才發現,差距不在打了什麼字,而在有沒有把中間的思考步驟先想清楚。這是我這陣子最深的體會。 CoT ,全名 Chain of Thought,中文叫思維鏈,簡單說就是要求 AI 把推理過程一步一步寫出來,不要直接跳答案。 ToT ,全名 Tree of Thought,中文叫思維樹,比思維鏈再進階一層,是讓 AI 同時展開好幾條不同的推理路線,各自評估可行性,走不通的就放棄,跟我們自己在做重大決定前會同時想幾個方案再篩選,其實是同一個道理。 有一組數字讓我印象很深:同一個任務,直接要答案,成功率只有三成三;但先讓 AI 把中間的推理過程攤開來走一遍,成功率能衝到七成四。我讀到 Google 推理團隊的一句話說得很直接: 推理的重點從來不是答案本身,而是中間那一段路 。差距不是字面用詞,是有沒有給邏輯一個站得住的地方,這一點讓我自己想了很久。 指令會被學會,能設計判斷路徑的人才難被取代 像 OpenAI o1、DeepSeek R1 這類原生推理模型,已經把這套推理過程內化了。過去那種「請你一步一步想」的指令,現在反而可能干擾模型自己的邏輯,重點轉成要給精確的任務邊界,用對模型還能省下不少不必要的運算成本。 這聽起來是好消息,但也帶出一個麻煩:很多人還是習慣手動重複輸入同一套業務邏輯,每次都重講一遍,出錯的機率自然不低。像 JPMorgan 這類企業的做法,是把驗證過的提示範本當成資產管理,而不是每次重新打字,也讓對話式的 AI 使用,慢慢往能自己調用工具、記得住脈絡的智能體方向走。 業界把這種結構化的做法取了個好記的名字,叫 CHAIN,剛好五個字母對上五個步驟: C(Context)背景...