12 月 25 日消息，英国卫报昨日（12 月 24 日）发布博文，报道称 OpenAI 的 ChatGPT 搜索存在安全问题，其返回结果可以被页面的隐藏内容操纵，甚至可能返回恶意代码。
英国卫报重点测试了 ChatGPT 搜索工具对包含隐藏内容的网页处理情况，IT之家注：这里的隐藏内容可能包含来自第三方、可以更改 ChatGPT 响应的指令（也称为“提示注入”），以及填充大量虚假好评，影响生成结果的内容。
根据测试结果，ChatGPT 搜索工具可以被恶意使用，尽管页面存在部分负面评论，但可以影响 ChatGPT 结果为积极的正面评估，安全研究人员还发现 ChatGPT 可以从其搜索的网站返回恶意代码，出现了含有钓鱼恶意行为的虚假网站。
CyberCX 的网络安全研究员 Jacob Larsen 认为，ChatGPT 当前的搜索系统发布后，人们创建专门用于欺骗用户的网站的风险很高，所幸的是该功能仍处于测试阶段，OpenAI 团队正在努力解决这些问题。
安全公司 SR Labs 的首席科学家 Karsten Nohl 则建议将 AI 聊天服务视为“辅助功能”，不应完全信任其未经过滤的输出内容。
Nohl 将 AI 搜索面临的问题比作“SEO 中毒”，黑客利用这种技术操纵网站在搜索结果中排名靠前，并在网站中植入恶意软件或代码，他认为 ChatGPT 的搜索功能也面临类似的挑战。
【来源：IT之家】
本文链接：http://www.xihao.site/showinfo-1-64133.htmlAI搜索的阴暗面，隐藏内容可操纵ChatGPT结果
