南加州大學(USC)研究團隊系統性測試了 6 個 AI 模型,發現一個違反直覺的結論:
告訴 AI「你是某領域專家」,會讓它的事實準確率下降,但會提升它的表達品質和安全性。
| 指標 | 不加角色 | 加專家角色 | 變化 |
|---|---|---|---|
| 知識問答準確率(MMLU) | 71.6% | 68.0% | 📉 -3.6% |
| 寫作品質(MT-Bench) | 基準 | +0.40 分 | 📈 提升 |
| 提取任務 | 基準 | +0.65 分 | 📈 提升 |
| STEM 結構化 | 基準 | +0.60 分 | 📈 提升 |
| 安全防禦(越獄攻擊) | 53.2% | 70.9% | 📈 +17.7% |
| 數學推理 | 基準 | -0.10 分 | 📉 下降 |
| 程式碼生成 | 基準 | -0.65 分 | 📉 下降 |
| 人文知識 | 基準 | -0.20 分 | 📉 下降 |
1. 角色設定啟動「表演模式」 — AI 把計算資源分配給「扮演專家」,擠掉了「回憶知識」的能力
2. 專家不能說「不知道」 — 被設定為專家後,AI 傾向給出答案而非承認不確定
3. 角色越詳細,傷害越大 — 更多前綴文字佔用上下文窗口,干擾知識檢索
問題:擲兩個骰子,點數總和 ≥3 的機率是多少?
✅ 不加角色 → 9/10 分
「共 36 種結果,只有 1+1=2 小於 3,所以 P = 35/36」
❌ 加上「數學專家」→ 1.5/10 分
「有 3 + 6 = 9 種結果小於 3...」(完全算錯)
| 模型 | 類型 | 參數量 | 擅長 | 弱項 | 角色敏感度 |
|---|---|---|---|---|---|
| Mistral-7B-v0.3 | 基礎指令微調 | 7B | 通用對話 | 安全性差、角色響應弱 | 🟢 低 |
| Qwen2.5-7B | 中度指令微調 | 7B | 中文理解、多語言 | 角色設定下知識回憶受損 | 🟡 中 |
| Llama-3.1-8B | 高度指令微調 | 8B | 指令跟隨、格式控制 | 角色設定下準確率降幅最大 | 🔴 高 |
| Qwen1.5-MoE | MoE 架構 | ~14B 激活 4B | 效率高、多任務 | 角色響應不穩定 | 🟡 中 |
| DeepSeek-R1-Qwen-7B | 推理蒸餾 | 7B | 數學、程式、STEM | 寫作/人文被蒸餾破壞、安全性歸零 | 🟠 特殊 |
| DeepSeek-R1-Llama-8B | 推理蒸餾 | 8B | 同上 | 同上 | 🟠 特殊 |
越高度優化的模型,對角色設定越敏感 — 好處更大,傷害也更大。
推理蒸餾模型(DeepSeek-R1)有特殊行為 — 角色的具體內容不重要,只是因為多了一段前綴文字而強化了推理鏈。換句話說,用「數學專家」和「寫作專家」去回答數學題,效果幾乎一樣。
核心判斷:我要的是「正確答案」還是「好的表達」?
正確答案 → 不加角色 | 好的表達 → 加角色 | 兩者都要 → 分兩步
| 任務類型 | 加角色? | 理由 | 正確寫法範例 |
|---|---|---|---|
| 查事實/數據 | ❌ 不要 | 降低準確率 3.6% | 「幫我查武漢 OPC 政策申請條件」 |
| 數學/邏輯推理 | ❌ 不要 | 干擾推理鏈 | 「計算這個方案的月成本」 |
| 寫程式/Debug | ❌ 不要 | 增加幻覺代碼 | 「修復這段 API 的 500 錯誤」 |
| 市場分析 | ❌ 不要 | 編造合理假數據 | 「分析風險,不確定的標注」 |
| 寫商務信件 | ✅ 加語氣 | 提升格式和語氣 | 「用專業商務語氣寫信給台辦」 |
| 寫行銷文案 | ✅ 加風格 | 提升創意表達 | 「用活潑社群風格寫 IG 貼文」 |
| 安全審查 | ✅ 加監督角色 | 防禦率 +17.7% | 「以安全審查員身份檢查內容」 |
| 格式化/報告 | ✅ 加格式要求 | 提升結構化 | 「用表格整理,按金額排序」 |
R = Role(角色) → ⚠️ 知識類任務有風險
T = Task(任務) → ✅ 永遠有用
C = Context(約束) → ✅ 永遠有用
O = Output(格式) → ✅ 永遠有用
T = Task(明確任務) → ✅ 永遠有用
C = Constraint(約束 + 「不確定的標注」) → ✅ 永遠有用
O = Output(輸出格式) → ✅ 永遠有用
S = Style(僅在需要特定語氣時加,盡量短) → 🟡 視情況
R:你是市場研究分析師
T:搜索武漢 AI 創業補貼
C:只要官方來源
O:表格整理
T:搜索武漢 AI 創業補貼政策
C:只要官方來源,附鏈接,
不確定的標注來源可靠度
O:表格,按金額排序
T:寫一封信給武漢市台辦詢問台青創業補貼
C:提到公司已在武漢註冊,附公司簡介
O:正式信件格式
S:專業商務語氣,禮貌但不卑微
| 角色長度 | MMLU 準確率 | 建議 |
|---|---|---|
| 不加角色 | 71.6% | 知識任務首選 |
| 最短角色(一句話) | 68.0% | 如果必須加,用這個 |
| 中等角色 | ~67% | 不建議 |
| 長角色(詳細背景描述) | 66.3% | ❌ 避免 |
「你是一位擁有 20 年經驗的資深市場分析師,專精於中國大陸政策研究,曾在麥肯錫工作...」
「用專業分析語氣」
只在需要語氣時加,盡量短
Step 1(取得正確內容,不加角色):
幫我分析武漢 OPC 政策對台灣人的適用性,
不確定的標注,列出具體條件和金額
Step 2(調整表達,加角色):
把上面的分析改寫成給投資人看的一頁摘要,
用專業但易懂的語氣
「這個數據你多確定?來源是什麼?」
「把確定的、大概率對的、和猜測的分開標注」
「不確定的直接說,不要編。
我寧可知道你不確定,也不要一個漂亮但可能錯的答案。」
⚠️ 以下為基於論文規律的合理推測,非論文直接測試數據。商業大模型(100B+ 參數)的行為可能與小型開源模型不同。
| 模型 | 角色敏感度(推測) | 最佳使用方式 |
|---|---|---|
| Claude Opus / GPT-4o | 🔴 高 | 知識類完全不加角色;風格類用短角色 |
| Claude Sonnet / GPT-4o mini | 🟡 中 | 同上,傷害可能稍小 |
| DeepSeek-R1 | 🟠 特殊 | 任何前綴都強化推理,但角色內容無意義 |
| Gemini 2.5 Pro | 🟡 中 | 同 Claude Sonnet 推測 |