🧠 AI Prompt 使用指南

「你是專家」竟成幻覺毒藥?— 基於 PRISM 論文實證
參考論文:arXiv:2603.18507(USC, 2026-03-19)
整理:時光智造 Timux · 最後更新 2026-03-25

📑 目錄

  1. 論文核心發現
  2. 測試模型一覽與評估
  3. 實用指南:什麼時候該加角色?
  4. 改良 Prompt 框架:TCO+S
  5. 角色描述長度的影響
  6. 進階技巧
  7. 商業模型使用建議
  8. 論文局限性

一、論文核心發現

南加州大學(USC)研究團隊系統性測試了 6 個 AI 模型,發現一個違反直覺的結論:

告訴 AI「你是某領域專家」,會讓它的事實準確率下降,但會提升它的表達品質和安全性。

📊 關鍵數據

指標不加角色加專家角色變化
知識問答準確率(MMLU)71.6%68.0%📉 -3.6%
寫作品質(MT-Bench)基準+0.40 分📈 提升
提取任務基準+0.65 分📈 提升
STEM 結構化基準+0.60 分📈 提升
安全防禦(越獄攻擊)53.2%70.9%📈 +17.7%
數學推理基準-0.10 分📉 下降
程式碼生成基準-0.65 分📉 下降
人文知識基準-0.20 分📉 下降

🔍 為什麼會這樣?

1. 角色設定啟動「表演模式」 — AI 把計算資源分配給「扮演專家」,擠掉了「回憶知識」的能力

2. 專家不能說「不知道」 — 被設定為專家後,AI 傾向給出答案而非承認不確定

3. 角色越詳細,傷害越大 — 更多前綴文字佔用上下文窗口,干擾知識檢索

😱 觸目驚心的例子(論文原文)

問題:擲兩個骰子,點數總和 ≥3 的機率是多少?


✅ 不加角色 → 9/10 分
「共 36 種結果,只有 1+1=2 小於 3,所以 P = 35/36」


❌ 加上「數學專家」→ 1.5/10 分
「有 3 + 6 = 9 種結果小於 3...」(完全算錯)

二、測試模型一覽與評估

模型類型參數量擅長弱項角色敏感度
Mistral-7B-v0.3 基礎指令微調 7B 通用對話 安全性差、角色響應弱 🟢 低
Qwen2.5-7B 中度指令微調 7B 中文理解、多語言 角色設定下知識回憶受損 🟡 中
Llama-3.1-8B 高度指令微調 8B 指令跟隨、格式控制 角色設定下準確率降幅最大 🔴 高
Qwen1.5-MoE MoE 架構 ~14B 激活 4B 效率高、多任務 角色響應不穩定 🟡 中
DeepSeek-R1-Qwen-7B 推理蒸餾 7B 數學、程式、STEM 寫作/人文被蒸餾破壞、安全性歸零 🟠 特殊
DeepSeek-R1-Llama-8B 推理蒸餾 8B 同上 同上 🟠 特殊

🔑 關鍵規律

越高度優化的模型,對角色設定越敏感 — 好處更大,傷害也更大。

推理蒸餾模型(DeepSeek-R1)有特殊行為 — 角色的具體內容不重要,只是因為多了一段前綴文字而強化了推理鏈。換句話說,用「數學專家」和「寫作專家」去回答數學題,效果幾乎一樣。

三、實用指南:什麼時候該加角色?

核心判斷:我要的是「正確答案」還是「好的表達」?

正確答案 → 不加角色 | 好的表達 → 加角色 | 兩者都要 → 分兩步

任務類型加角色?理由正確寫法範例
查事實/數據❌ 不要降低準確率 3.6%「幫我查武漢 OPC 政策申請條件」
數學/邏輯推理❌ 不要干擾推理鏈「計算這個方案的月成本」
寫程式/Debug❌ 不要增加幻覺代碼「修復這段 API 的 500 錯誤」
市場分析❌ 不要編造合理假數據「分析風險,不確定的標注」
寫商務信件✅ 加語氣提升格式和語氣「用專業商務語氣寫信給台辦」
寫行銷文案✅ 加風格提升創意表達「用活潑社群風格寫 IG 貼文」
安全審查✅ 加監督角色防禦率 +17.7%「以安全審查員身份檢查內容」
格式化/報告✅ 加格式要求提升結構化「用表格整理,按金額排序」

四、改良 Prompt 框架:TCO+S

舊框架:RTCO

R = Role(角色)    → ⚠️ 知識類任務有風險
T = Task(任務)    → ✅ 永遠有用
C = Context(約束) → ✅ 永遠有用
O = Output(格式)  → ✅ 永遠有用

新框架:TCO+S

T = Task(明確任務)                        → ✅ 永遠有用
C = Constraint(約束 + 「不確定的標注」)     → ✅ 永遠有用
O = Output(輸出格式)                       → ✅ 永遠有用
S = Style(僅在需要特定語氣時加,盡量短)     → 🟡 視情況

範例對比

❌ 舊寫法(知識任務加了角色)
R:你是市場研究分析師
T:搜索武漢 AI 創業補貼
C:只要官方來源
O:表格整理
✅ 新寫法
T:搜索武漢 AI 創業補貼政策
C:只要官方來源,附鏈接,
   不確定的標注來源可靠度
O:表格,按金額排序
✅ 需要風格時才加 S
T:寫一封信給武漢市台辦詢問台青創業補貼
C:提到公司已在武漢註冊,附公司簡介
O:正式信件格式
S:專業商務語氣,禮貌但不卑微

五、角色描述長度的影響

角色長度MMLU 準確率建議
不加角色71.6%知識任務首選
最短角色(一句話)68.0%如果必須加,用這個
中等角色~67%不建議
長角色(詳細背景描述)66.3%❌ 避免
❌ 不好

「你是一位擁有 20 年經驗的資深市場分析師,專精於中國大陸政策研究,曾在麥肯錫工作...」

✅ 好

「用專業分析語氣」

只在需要語氣時加,盡量短

六、進階技巧

🔄 兩步法:同時要準確 + 好表達

Step 1(取得正確內容,不加角色):

幫我分析武漢 OPC 政策對台灣人的適用性,
不確定的標注,列出具體條件和金額

Step 2(調整表達,加角色):

把上面的分析改寫成給投資人看的一頁摘要,
用專業但易懂的語氣

❓ 追問確信度

「這個數據你多確定?來源是什麼?」
「把確定的、大概率對的、和猜測的分開標注」

🤝 鼓勵 AI 說「不確定」

「不確定的直接說,不要編。
我寧可知道你不確定,也不要一個漂亮但可能錯的答案。」

七、商業模型使用建議

⚠️ 以下為基於論文規律的合理推測,非論文直接測試數據。商業大模型(100B+ 參數)的行為可能與小型開源模型不同。

模型角色敏感度(推測)最佳使用方式
Claude Opus / GPT-4o🔴 高知識類完全不加角色;風格類用短角色
Claude Sonnet / GPT-4o mini🟡 中同上,傷害可能稍小
DeepSeek-R1🟠 特殊任何前綴都強化推理,但角色內容無意義
Gemini 2.5 Pro🟡 中同 Claude Sonnet 推測

八、論文局限性

  1. 測試模型均為 7-8B 小型模型 — 大型商業模型(100B+)的行為可能不同
  2. 主要測試英文任務 — 中文任務的表現未直接測試
  3. MMLU 是選擇題 — 開放式問答的影響可能不同
  4. PRISM 方案需要微調 — 普通用戶無法直接使用,但論文發現本身具有實用價值