當地時間週一，CRM巨頭Salesforce的高管們在一場活動中談到了生成性人工智能對公司的風險，包括難以控制企業數據訪問等，同時推出專門針對這一問題的“Einstein Trust Layer”（愛因斯坦信任層）。公司CEO Benioff表示，他所接觸的每位CEO都提到了希望快速推進該技術與大型語言模型在企業環境中帶來的問題之間的“AI信任差”。

Salesforce表示，新工具可以消除用戶的提示或員工輸入到人工智能模型中的內容，並防止模型保留包括個人身份信息在內的客戶數據。該工具可以應用於公司自己的大型語言模型，或來自亞馬遜公司和Anthropic等供應商的語言模型。該工具屬於人工智能雲套件的一部分，該套件將生成性人工智能嵌入其旗艦客戶關係管理軟件、Slack以及其他數據可視化、營銷和客戶服務工具。人工智能雲套件每年的訂閱費用爲36萬美元。“Einstein Trust Layer”將於本月正式推出，而其他生成性人工智能嵌入式工具將在今年晚些時候或明年推出。

對於Salesforce而言，說服信息技術領導者相信生成性人工智能可以在他們的數字企業牆內安全使用是至關重要的，因爲該公司試圖維持今年開始的轉機計劃。此前Salesforce公佈的Q1盈利和收入均超出華爾街的預期，公司CEO Marc Benioff強調了在應對最近的銷售放緩和激進投資者的壓力時所作出的成本削減方面的努力。

除Salesforce之外，其他大型科技公司也推出了類似工具，幫助客戶使用生成性人工智能。甲骨文週二表示，計劃與人工智能初創公司Cohere聯合發佈一項生成式人工智能服務，該服務將包括數據所有權保證和數據來源工具。微軟也在今年早些時候將其Copilot生成式人工智能嵌入其商業軟件中，並表示其模型將保留公司的安全和隱私控制。

標普全球市場情報公司估計，今年全球基於生成性人工智能技術的收入將達37億美元，到2028年這一數字將增長到360億美元。

IT研究和諮詢公司Futurum Research的創始合夥人兼首席分析師Daniel Newman表示，“信任是一個被低估但又極其重要的話題。Salesforce已經意識到，生成性人工智能應用程序本身並不像擁有信任數據和技術的用戶那樣具有差異性。”該分析師認爲，與那些提供解決方案以幫助減輕與生成性人工智能相關的一些企業數據風險的初創企業和小型供應商相比，成熟的企業在獲得客戶支持方面具有優勢，特別是針對新興技術。Salesforce的聲譽及大量關鍵客戶數據，可能會幫助它獲得客戶的支持。