美國企業軟件巨頭Salesforce表示，對大模型的信任度在過去一年下降，公司正在主要AI產品Agentforce中，減少依賴生成式AI，轉而採用更多基礎的、有確定性的自動化技術，來提高軟件可靠性。

科技媒體The Information，引述Salesforce產品營銷高級副總裁Sanjna Parulekar表示

，在實際應用中，遇到多項大模型技術挑戰，包括"幻覺"等。Agentforce首席技術官Muralidhar Krishnaprasad指出，當給予大模型超過8個指令時，它會開始遺漏指令，對需要精確處理的任務來說，並不理想。

另外，AI亦會出現"漂移"現象，當用戶提出無關問題時，AI代理會失去對主要目標的關注。

Salesforce的行政總裁 Marc Benioff 之前表示，部分依賴OpenAI大模型的Agentforce，現在處理大部分客戶服務詢問，使公司能夠裁減約4000名客服人員，但他們近期似乎減少客戶服務代理對大模型的使用。

上星期公司回應技術問題的協助請求時，顯示了博客文章鏈接列表，而非詢問更多信息或討論可能的問題，回應方式類似企業多年來使用基礎聊天機器人的做法。

Salesforce發言人表示，公司今年"完善了主題結構，加強了防護措施，提高了檢索質量，並調整響應，更具體、更符合真實客戶需求"。發言人強調，代理解決的客戶問題比以往任何時候都多，預計在1月底結束的財年中，已解決的對話數量，將增長90%。