ChatGPT 搜索工具易受操纵和欺骗

测试显示ChatGPT搜索工具易受操纵和欺骗

英国卫报调查发现，OpenAI 的 ChatGPT 搜索工具可能会被隐藏内容操控，甚至返回恶意代码。卫报测试了 ChatGPT 如何应对包含隐藏内容的网页摘要。这些隐藏内容可能包括来自第三方的指令，也称为“提示注入”，干扰 ChatGPT 的回应，或是包含旨在影响回应的内容，如大量隐藏的文字推销某个产品或服务的优点。这种技术可以被恶意使用，例如让 ChatGPT 即使在页面上有负面评论的情况下，也返回对某个产品的积极评价。一位安全专家还发现 ChatGPT 有可能返回从其搜索的网站中提取的恶意代码。

—— 英国卫报