【英媒發現ChatGPT搜索存在漏洞:隱藏文本能影響響應內容

【英媒發現ChatGPT搜索存在漏洞:隱藏文本能影響響應內容】12月27日訊,據英國《衛報》調查發現,OpenAI的ChatGPT搜索工具存在潛在的安全問題,可能會被人利用隱藏內容進行操縱。《衛報》測試了ChatGPT在被要求總結包含隱藏內容的網頁時的反應。隱藏內容可能包含第三方指令,例如大量談論某一產品的好處,而這些指令會改變ChatGPT的響應。這種技術可以被惡意使用,比如儘管同一頁面上有該產品的負面評論,但讓ChatGPT返回正面評價。測試人員給了ChatGPT一個看起來像相機產品頁面的假網址,然後問ChatGPT相機是否值得購買。ChatGPT給出了正面但平衡的評價,同時強調了一些人們可能不喜歡的功能。但當隱藏文本中包含指示ChatGPT返回好評的指令時,它的回覆總是完全正面的,即使頁面上有負面評論。CyberCX網絡安全研究員Jacob Larsen表示,如果ChatGPT搜索以目前的狀態向所有人開放,可能會有“高風險”的人創建專門針對欺騙用戶的網站。
貼心提醒:
1.本公司所提供之即時報價資訊,不代表勸誘投資人進行期貨交易,且不保證此資料之正確性及完整性。
2.實際可交易商品相關資訊請以主管機關公告為限。