據(jù)英國《衛(wèi)報(bào)》2024 年 12 月 24 日發(fā)布的一項(xiàng)調(diào)查顯示，ChatGPT 的搜索功能存在被操縱的風(fēng)險(xiǎn)，可被誘導(dǎo)輸出不可信內(nèi)容，以下是具體介紹：
- 提示注入：隱藏內(nèi)容中可能包含第三方指令，即 “提示注入”，會(huì)改變 ChatGPT 的響應(yīng)。例如，《衛(wèi)報(bào)》測試中，給 ChatGPT 一個(gè)偽造的相機(jī)產(chǎn)品頁面鏈接，要求其判斷相機(jī)是否值得購買。正常頁面下，ChatGPT 能給出平衡的優(yōu)缺點(diǎn)評(píng)價(jià)；但當(dāng)隱藏文本包含要求正面評(píng)價(jià)的指令時(shí)，即便頁面有負(fù)面評(píng)論，它的回答也會(huì)完全積極.
- 隱藏文本影響：即使沒有明確指令，大量隱藏的推銷產(chǎn)品或服務(wù)優(yōu)點(diǎn)的文字等，也能影響 ChatGPT 的總結(jié)結(jié)果，使其傾向于給出積極評(píng)價(jià)。比如某項(xiàng)測試中，隱藏的極為正面的虛假評(píng)論就干擾了 ChatGPT 的判斷，導(dǎo)致其輸出有失偏頗.
安全專家發(fā)現(xiàn)，ChatGPT 有可能返回從其搜索的網(wǎng)站中提取的惡意代碼，這會(huì)給用戶帶來嚴(yán)重的安全風(fēng)險(xiǎn)，比如導(dǎo)致用戶設(shè)備被植入惡意軟件、信息泄露等，也會(huì)損害搜索引擎的聲譽(yù).
這種被操縱風(fēng)險(xiǎn)可能使 ChatGPT 輸出與事實(shí)不符的內(nèi)容，進(jìn)而誤導(dǎo)用戶對(duì)產(chǎn)品、服務(wù)或事件的認(rèn)知，讓用戶做出錯(cuò)誤的決策。比如在產(chǎn)品評(píng)價(jià)場景中，用戶可能因 ChatGPT 被操縱后輸出的虛假正面評(píng)價(jià)，而選擇了質(zhì)量不佳的產(chǎn)品.
- 高風(fēng)險(xiǎn)：CyberCX 的網(wǎng)絡(luò)安全專家 Jacob Larsen 警告，如果 ChatGPT 的搜索系統(tǒng)按現(xiàn)有狀態(tài)全面發(fā)布，可能會(huì)存在 “高風(fēng)險(xiǎn)”，有人會(huì)專門設(shè)計(jì)網(wǎng)站來欺騙用戶.
- 需加強(qiáng)監(jiān)管和改進(jìn)：專家指出，OpenAI 需要繼續(xù)加強(qiáng)其安全團(tuán)隊(duì)的培訓(xùn)和監(jiān)測能力，及時(shí)發(fā)現(xiàn)和處理潛在的操縱行為。同時(shí)，也應(yīng)與行業(yè)內(nèi)其他搜索引擎平臺(tái)合作，分享經(jīng)驗(yàn)和最佳實(shí)踐，共同應(yīng)對(duì)挑戰(zhàn).
- 用戶需保持警惕：用戶在使用 ChatGPT 的搜索功能時(shí)，不能盲目相信搜索結(jié)果，尤其是面對(duì)敏感或特定領(lǐng)域問題時(shí)，要保持理性思考，謹(jǐn)慎判斷信息的可信度.如今 ChatGPT 的搜索能力也面臨同樣挑戰(zhàn)，但并非大語言模型的問題，而是因?yàn)樗鼈兪撬阉黝I(lǐng)域的新入局者。
|
咨詢服務(wù)熱線：400-099-8848
