【微軟開發工具以防AI聊天機器人被教壞】3月29日訊,微軟(

【微軟開發工具以防AI聊天機器人被教壞】3月29日訊,微軟(MSFT.O)正努力防止人們欺騙AI聊天機器人做出奇怪的事情。微軟公司週四在一篇博客文章中表示,Azure AI Studio正在內置新的安全功能,允許開發人員使用自己的數據構建定製的人工智能助手。這些工具包括“提示詞防護盾”(Prompt Shields),旨在檢測和阻止企圖使人工智能模型以意想不到的方式運行的“提示詞攻擊”或“越獄”。微軟還解決了“間接提示詞輸入”問題,即黑客將惡意指令插入模型所訓練的數據中,並誘使其執行諸如竊取用戶信息或劫持系統等未經授權的操作。微軟負責人工智能的首席產品官Sarah Bird說,這種攻擊是“一種獨特的挑戰和威脅”。她說,新的防禦措施旨在發現可疑輸入並實時阻止它們。微軟還推出了一項新功能,當AI模型編造東西或產生錯誤反應時,它會提醒用戶。
貼心提醒:
1.本公司所提供之即時報價資訊,不代表勸誘投資人進行期貨交易,且不保證此資料之正確性及完整性。
2.實際可交易商品相關資訊請以主管機關公告為限。