中国的“Deepfake”骗局展现AI技术驱动下的诈骗极具危险性
北京，5 月 22 日（路透社）—— 中国北方发生的一起诈骗案使用复杂的“深度伪造”（Deepfake）技术说服一名男子将钱转账给所谓的朋友，这引发了人们对人工智能 (AI) 技术可能助长金融犯罪的担忧。
随着人工智能驱动的欺诈行为（主要涉及语音和面部数据的操纵）的增加，中国一直在加强对此类技术和应用程序的审查，并在 1 月份通过了新规则以合法保护受害者。
内蒙古地区包头市警方表示，犯罪分子使用人工智能换脸技术在视频通话中冒充受害人的朋友，并收到了 430 万元人民币（62.2 万美元）的转账。
警方在周六的一份声明中说，他认为他的朋友需要在投标过程中支付押金，所以转了这笔钱。
警方补充说，在朋友表示不知道情况后，这名男子才意识到自己被骗了，并表示他们已经追回了大部分被盗资金，并正在努力追查其余资金。
此案在微博上引发了关于网络隐私和安全威胁的讨论，周一，“AI 骗局正在全国爆发”的标签获得了超过 1.2 亿的浏览量。
“这表明照片、语音和视频都可以被骗子利用，”一位用户写道。“信息安全规则能跟得上这些人的技术吗？”
—— 路透社
发表回复