系統提示的重要性
生成式 AI 模型本質上是預測下一個單詞的統計系統，缺乏真正的智慧或個性。然而，透過「系統提示」，這些模型便能夠遵循指示，展現出特定的行為模式。從 OpenAI 到 Anthropic，各大AI 供應商都使用系統提示來引導模型的回應風格和內容限制。
Anthropic 的透明化
Anthropic 近日在 Claude iOS 和 Android 程式以及網站上，公開了最新模型（Claude 3.5 Opus、Sonnet 和 Haiku）的系統提示，凸顯了 Anthropic 致力成為更有道德、更加透明的 AI 供應商。公司開發者關係主管 Alex Albert 表示，這將會是未來更新和微調系統提示時的常態做法。
Claude 模型的行為準則
最新的提示明確列出了 Claude 模型的限制，例如：無法打開 URL 或識別圖像中的人臉。同時，提示也描述了模型應展現的某些人格特徵，如表現得「非常聰明，求知欲強」，以及「喜歡聽取用戶對某個問題的看法」。
爭議話題的處理方式
系統提示指示 Claude 在處理爭議話題時，應保持公正客觀，提供「仔細的想法」和「明確的訊息」，反映出 Anthropic 對 AI 在敏感議題上的立場和處理方式的重視。
行業影響與未來走向
Anthropic 此舉可能會對行業產生深遠影響，迫使其他 AI 供應商也提高透明度，公開自家模型的系統提示。
通常出於競爭原因，或是為避免模型因繞開系統提示的刻意操作而失靈，AI 供應商不會透露系統提示。然而，Anthropic 不斷努力將自己描繪成一個更道德、透明的人工智慧供應商，發布最新模型的系統提示。不僅有助於用戶理解 AI 的運作，也可能推動整個行業向更加開放和負責任的方向發展。
＊本文開放合作夥伴轉載，資料來源：《TechCrunch》，首圖來源：Anthropic。
