最新版 Claude 確章由哲學家 Amanda 牽頭制定， Anthropic 的重要崗位上至少有 4 名哲學家，DeepMind 至少有 10 名，OpenAI 制定 ChatGPT 行為規範時，也諮詢過數百名道德哲學家。 AI 帶來了一連串棘手問題，而這恰好是哲學家最擅長的。 首先，哲學家可以幫 AI 劃定行為邊界。 AI 需要判斷哪些要求應該拒絕，安全與使用者意願發生衝突時優先保護什麼，這些問題涉及對傷害、誠實和責任的理解，正是哲學家長期研究的內容。 他們能夠把模糊的價值判斷整理成模型可以遵守的原則。 其次，哲學訓練還可以減少 AI 的過度自信和迎合。 AI 容易在不確定時給出肯定答案，也會順著使用者的觀點繼續回答。 哲學訓練重視檢查前提和論證，蘇格拉底式連續追問可以讓模型發現矛盾，承認自己的知識邊界。 最後，哲學家可以幫 AI 處理沒有標準答案的選擇。 自動駕駛發生事故時如何減少傷害，情感支持模型遇到自殘風險時如何回應，都沒有簡單答案。 哲學家長期研究這類問題，他們會確認哪些底線不能突破，再分析每種選擇會造成什麼後果。
大型 AI 公司居然非常喜歡招聘哲學家？！
最新版 Claude 確章由哲學家 Amanda 牽頭制定，
Anthropic 的重要崗位上至少有 4 名哲學家，DeepMind 至少有 10 名，OpenAI 制定 ChatGPT 行為規範時，也諮詢過數百名道德哲學家。
AI 帶來了一連串棘手問題，而這恰好是哲學家最擅長的。
首先，哲學家可以幫 AI 劃定行為邊界。
AI 需要判斷哪些要求應該拒絕，安全與使用者意願發生衝突時優先保護什麼，這些問題涉及對傷害、誠實和責任的理解，正是哲學家長期研究的內容。
他們能夠把模糊的價值判斷整理成模型可以遵守的原則。
其次，哲學訓練還可以減少 AI 的過度自信和迎合。
AI 容易在不確定時給出肯定答案，也會順著使用者的觀點繼續回答。
哲學訓練重視檢查前提和論證，蘇格拉底式連續追問可以讓模型發現矛盾，承認自己的知識邊界。
最後，哲學家可以幫 AI 處理沒有標準答案的選擇。
自動駕駛發生事故時如何減少傷害，情感支持模型遇到自殘風險時如何回應，都沒有簡單答案。
哲學家長期研究這類問題，他們會確認哪些底線不能突破，再分析每種選擇會造成什麼後果。