测试显示ChatGPT搜索工具易受操纵和欺骗
英国卫报调查发现，OpenAI 的 ChatGPT 搜索工具可能会被隐藏内容操控，甚至返回恶意代码。卫报测试了 ChatGPT 如何应对包含隐藏内容的网页摘要。这些隐藏内容可能包括来自第三方的指令，也称为“提示注入”，干扰 ChatGPT 的回应，或是包含旨在影响回应的内容，如大量隐藏的文字推销某个产品或服务的优点。这种技术可以被恶意使用，例如让 ChatGPT 即使在页面上有负面评论的情况下，也返回对某个产品的积极评价。一位安全专家还发现 ChatGPT 有可能返回从其搜索的网站中提取的恶意代码。
—— 英国卫报
测试显示ChatGPT搜索工具易受操纵和欺骗
英国卫报调查发现，OpenAI 的 ChatGPT 搜索工具可能会被隐藏内容操控，甚至返回恶意代码。卫报测试了 ChatGPT 如何应对包含隐藏内容的网页摘要。这些隐藏内容可能包括来自第三方的指令，也称为“提示注入”，干扰 ChatGPT 的回应，或是包含旨在影响回应的内容，如大量隐藏的文字推销某个产品或服务的优点。这种技术可以被恶意使用，例如让 ChatGPT 即使在页面上有负面评论的情况下，也返回对某个产品的积极评价。一位安全专家还发现 ChatGPT 有可能返回从其搜索的网站中提取的恶意代码。
—— 英国卫报
研究：ChatGPT 的新闻搜索结果经常不准确
根据哥伦比亚大学 Tow 数字新闻中心研究人员的测试，OpenAI 的 ChatGPT 搜索工具在准确性上存在一些问题。OpenAI 于今年10月向订阅用户推出了该工具，称其可以快速提供答案，并附带相关网页来源链接。然而研究显示，ChatGPT 搜索在识别文章引用时表现不佳，即使这些引文来自与 OpenAI 有数据共享安排的出版商。研究人员测试了二十家出版商的200条引文，其中40条来自禁止 OpenAI 爬虫访问的网站。然而，聊天机器人还是自信地用虚假信息进行了回复。测试结果显示，ChatGPT 的153次回答完全或部分错误，仅有七次明确表示无法准确回答。
—— TheVerge