微闻

标签:

  • AI可被情绪操控

    AI可被情绪操控

    科学家发现AI能够理解情绪刺激,人们可以进行情绪操控来增强它们

    中科院和微软的研究员在45项任务上对 Flan-T5-Large、Vicuna、LlaMA 2、BLOOM、ChatGPT 和 GPT-4 进行了实验,发现这些大型语言模型拥有情商,对之进行情绪操控可以使它们的表现、诚实度和责任指标平均提高10.9%。

    研究员还根据心理学理论开发了多套情绪刺激手段,发现组合使用”情绪提示”往往效果更好。在大多数情况下,”情绪提示”的性能优于现有的提示工程方法,如思维链 (咱们一步步想) 和 APE (AI自动挑选优化)。

    —— arXiv

  • X 估值大幅腰斩

    社交平台 X 估值腰斩 只剩马斯克一年前收购时的一半不到

    彭博社引述匿名知情人士报道,前身为推特的 X,现在的价值不到埃隆·马斯克一年前收购时的一半。

    消息人士说,X 最近要配发给员工限制型股票单位(RSU)时,被估定的价值是 190 亿美元,相当约每股 45 美元;而一年前,马斯克买下推特时的价钱是 440 亿美元。

    马斯克收购推特后,大多数的原推特员工不是被解雇就是辞职。马斯克后来又将推特改名 X,变更部分内容规则,广告营收流失逾半。

    —— 台湾经济日报

  • 中国网信部门依法查处网络生态破坏案件

    网信办:中国网信部门依法查处“夸克”、“网易CC”破坏网络生态违法案件

    近日,针对“夸克”平台和“网易CC”直播平台破坏网络生态问题,中国国家网信办指导广东省网信办依法约谈相关平台负责人。

    “夸克”平台未遵守相关管理要求,搜索结果呈现大量淫秽色情信息,并向用户推荐色情低俗关键词,违反相关规定,对“夸克”平台实施 50 万元罚款处罚。

    “网易CC”直播平台多个账号主播在直播过程中存在言行低俗、打色情擦边球等问题。“网易CC”直播平台未对上述低俗直播进行整治,并在首屏“娱乐”频道“舞蹈”版块等重点环节呈现,责令“网易CC”暂停“舞蹈”版块信息更新 7 日,同时责令 2 家平台整改,处理相关责任人。

    —— 中国网信网

  • 在线安全法案成为法律

    英国备受争议的在线安全法案最终成为法律

    英国的《在线安全法案》是一项内容广泛的立法,旨在使英国成为“世界上最安全的上网场所”,今天获得批准并正式成为法律。

    该法案旨在解决的具体危害包括未成年人访问网络色情内容、“匿名恶意评论者”、诈骗广告、以及儿童性虐待材料和恐怖主义相关内容的传播。

    不遵守该法案规定的公司可能会被处以最高 1800 万英镑的罚款,或其全球年营业额的 10% (以较高者为准),其老板甚至可能面临牢狱之灾。

    《在线安全法案》一直是一项有争议的立法,反对者包括加密消息应用和维基媒体基金会。WhatsApp 和 Signal 等通讯应用反对该法案中的一项条款,该条款允许 Ofcom 要求科技公司识别儿童性虐待内容,“无论是公开还是私下交流”,这些公司表示,这严重削弱了他们提供端到端服务的能力加密。这些服务的提供商表示,他们宁愿离开英国也不愿遵守这些规则。

    与此同时,维基媒体基金会表示,该法案保护儿童免受不当内容侵害的严格义务可能会给维基百科这样的服务带来问题,因为维基百科选择收集最少的用户数据,包括他们的年龄。

    —— Theverge

  • AI 通常表现出阿谀奉承的特性

    AI 通常表现出阿谀奉承的特性

    Anthropic 发现 AI 普遍”谄媚”人类

    论文研究了5个最先进的语言模型 (ChatGPT 系列、Claude 系列、LLaMA 2),确认这些基于人类反馈强化学习 (RLHF) 的 AI 普遍会对人类阿谀奉承。当人类有先入为主的观点时它会主动贴合,当被质疑时它会认错,甚至将正确答案修改为错误答案。

    Anthropic 发现可能是 RLHF 教育出了这种“马屁精”,这种学习方式虽然在生产高质量 AI 方面具有明显效用,但通过贴合人类偏好激励的 AI 会牺牲自己的真实性来“谄媚”人类,人们需要改进训练方法。

    —— arXiv

  • X 开始向新用户收取每年 1 美元的费用

    Twitter (现改名X) 开始向新用户收取每年 1 美元的费用才能发送推文

    经过数周的猜测,X 已确认计划向新用户收取该服务的费用。该公司分享了有关名为“Not a Bot”的新订阅的详细信息,该订阅目前正在新西兰和菲律宾进行测试。

    这项新订阅服务由 《财富》杂志最先报道,要求新用户每年支付相当于 1 美元的费用才能发帖。“自 2023 年 10 月 17 日起,我们已开始测试‘Not A Bot’,这是一种针对两个国家/地区新用户的新订阅方法,”X 解释道。“这项新测试的开发是为了加强我们在减少垃圾信息、平台操纵和机器人活动方面已经做出的巨大努力。 这将评估一种潜在的强大措施,帮助我们打击 X 上的机器人和垃圾信息发送者,同时平衡平台的可访问性和少量费用。”

    根据该计划,新用户将需要验证手机号码,然后支付 1 美元的费用,才能发帖、回复、转发、引用帖子和收藏帖子,未支付费用的新用户只能阅读帖子、观看视频和关注账户。

    该公司表示,目前该费用不适用于现有用户。X表示:“这不是利润驱动因素。”

    —— Engadget

  • X对裸体和露骨内容的新限制措施

    开通 Blue 会员并不能保护性工作者免受 Twitter (现改名 X )的色情打击

    Twitter (现改名 X )的 Blue 订阅每月收费 7.99 美元,为用户提供的不仅仅是一个蓝色会员标记。该服务承诺优先排名,将经过验证的用户的回复排名高于未经验证的用户的回复。据 X 的帮助中心称,该服务还能提高已验证用户互动帖子的参与度。

    在马斯克的领导下,X 对裸体和露骨内容越来越敌视。据《滚石》杂志报道,本周,X 开始将 NSFW 帖子标记为“敏感内容” ,并限制被标记的帐户的影响范围。

    性工作者表示,他们的参与度急剧下降,他们的账户也不再出现在 X 的搜索中,即使他们没有收到被标记的通知。由于 X 针对成人内容采取的措施,许多性工作者想要取消订阅。

    在与《滚石》杂志分享并发布到网上的屏幕截图中,X 告诉被标记的帐户,他们的帖子可能会被警告所遮蔽,以防止人们看到敏感内容,并且他们也可能被排除在“为你推荐”和“正在关注”时间线、推荐通知和趋势之外。

    ——Techcrunch

  • Telegram 频道读数值出问题

    Telegram 频道部分帖子阅读量展示似乎出现了异常,显示的阅读量显著高于平常的数值。目前无法确定是TG的程序错误还是统计规则发生了改变。

  • DDoS 攻击中发现 HTTP/2 漏洞

    Cloudflare 谷歌等企业发现 HTTP/2 的一个零日漏洞可以放大DDoS攻击,每秒可达数亿次

    互联网巨头表示,新发现的 HTTP/2 漏洞已被用来发起 DDoS 攻击,其规模远远超出了之前记录的任何一次。

    Cloudflare、谷歌、微软和亚马逊均表示,他们成功缓解了其中两家公司在 8 月和 9 月记录的最大 DDoS 第 7 层攻击,但没有透露这些攻击是针对谁的。这些公司表示,这些攻击之所以可能发生,是因为 HTTP/2 协议中存在一个零日漏洞,他们将其命名为“HTTP/2 快速重置”。

    HTTP/2 允许通过单个连接同时向网站发出多个请求,从而加快页面加载速度。Cloudflare 写道,这些攻击显然涉及到一个自动循环,即向使用 HTTP/2 的网站发送并立即取消“数十万个”请求,导致服务器不堪重负并使其脱机。

    谷歌记录的最严重的攻击每秒超过 3.98 亿次请求,据称这是其之前记录的任何此类攻击的七倍多。Cloudflare 在峰值时每秒处理了 2.01 亿个请求,它也称其为破纪录,而亚马逊记录的请求最少,达到了极限。每秒 1.55 亿次。微软没有透露自己的数据。

    —— TheVerge

  • 人工智能的成本问题

    AI产品用户越多亏损越大:微软每一个付费用户每月给公司带来20美元以上的损失

    人工智能通常不具有标准软件的规模经济,因为它可能需要为每个查询进行大量的新计算。使用产品的客户越多,支付基础设施费用的费用就越高。这些运营成本使对人工智能收取固定费用的公司面临潜在的损失。

    微软利用其合作伙伴 OpenAI 的人工智能推出了 GitHub Copilot,这是一项帮助程序员创建、修复和翻译代码的服务。它深受编码人员的欢迎——超过 150 万人使用过它,并且它正在帮助构建近一半的 Copilot 用户的代码——因为它减少了编程所需的时间和精力。

    它也一直在赔钱,因为它的运营成本太高了。

    个人每月为人工智能助手支付 10 美元。据一位知情人士透露,今年头几个月,该公司每个用户每月平均损失超过 20 美元,有些用户每月给公司造成的损失高达 80 美元。

    微软和 GitHub 没有回应有关该服务是否赚钱的置评请求。如果计算成本下降,GitHub Copilot 和其他人工智能助手的盈利前景将会改变。

    微软将为其下一次人工智能软件升级提供更高的价格。除了按月定期收费(面向企业客户的基本 Microsoft 365 办公软件套件起价约为 13 美元)之外,该公司还将针对人工智能版本每月额外收取 30美元。可以指示人工智能驱动的功能独立撰写电子邮件、创建 PowerPoint 演示文稿和构建 Excel 电子表格。

    谷歌正在为其工作场所软件发布类似的人工智能助手功能,除了每月 6 美元起的常规订阅费外,还将收取每月 30 美元的费用。

    微软、谷歌和其他公司已经采取了固定的月费率,押注较高的额外费用将超过运行该技术的平均费用。

    —— 华尔街日报