网信部门工作组进驻斗鱼平台
针对斗鱼平台存在的色情、低俗等严重生态问题,5月8日,国家互联网信息办公室指导湖北省互联网信息办公室派出工作组,进驻斗鱼平台开展为期1个月的集中整改督导。
—— 央视网
网信部门工作组进驻斗鱼平台
针对斗鱼平台存在的色情、低俗等严重生态问题,5月8日,国家互联网信息办公室指导湖北省互联网信息办公室派出工作组,进驻斗鱼平台开展为期1个月的集中整改督导。
—— 央视网
七国集团部长同意对人工智能采取“基于风险”的监管
据路透社,七国集团(G7)数字与技术部长会议的参会者4月30日同意对人工智能采取“基于风险”的监管。
但七国集团部长同时表示,此类监管还应为人工智能技术的发展“保持开放和有利的环境”,并以民主价值观为基础。
—— 界面新闻
美国政府考虑针对 ChatGPT 等人工智能工具的监管规则,商务部公开征求意见
华盛顿——由于人们越来越担心该技术可能被用于歧视或传播有害信息,因此拜登政府已开始研究是否需要对 ChatGPT 等人工智能工具进行检查。
作为迈向潜在监管的第一步,美国商务部周二正式公开征求意见,要求就所谓的问责措施发表评论,包括是否应在发布前通过认证程序等具有潜在风险的新 AI 模型。
国家电信和信息管理局负责人艾伦戴维森说:“这些工具即使在相对初级阶段也能做些什么,真是令人惊讶。”该机构是商务部提出评论请求的机构。“我们知道我们需要设置一些护栏,以确保它们得到负责任的使用。”
戴维森先生说,这些评论将在未来 60 天内被接受,将用于帮助向美国政策制定者提供有关如何处理人工智能的建议。
—— 华尔街日报
CNN:在拼多多被发现恶意利用漏洞后解散了挖掘漏洞的团队 但拼多多在中国屹立不倒
据拼多多现任员工称,2020 年,该公司成立了一个由约 100 名工程师和产品经理组成的团队,负责挖掘 Android 手机中的漏洞,开发利用这些漏洞的方法——并将其转化为利润。
据因害怕遭到报复而要求匿名的消息人士称,该公司最初只针对农村地区和小城镇的用户,而避开了北京和上海等特大城市的用户。
“目标是降低暴露的风险,”他们说。
消息人士称,通过收集有关用户活动的大量数据,该公司能够全面了解用户的习惯、兴趣和偏好。
他们说,这使其能够改进其机器学习模型,以提供更加个性化的推送通知和广告,吸引用户打开应用程序并下订单。
消息人士补充说,在有关他们活动的问题曝光后,该团队于 3 月初解散。
Toshin 将拼多多描述为主流应用程序中发现的“最危险的恶意软件”。“我以前从未见过这样的事情。”他说。
据 CNN 采访的两位专家称,不久之后,3 月 5 日,拼多多发布了其应用程序的新更新版本 6.50.0,删除了这些漏洞。
据拼多多消息人士透露,更新两天后,拼多多解散了开发漏洞的工程师和产品经理团队。
第二天,团队成员发现自己被锁定在拼多多定制的工作场所通讯应用程序 Knock 之外,并且无法访问公司内部网络上的文件。消息人士称,工程师们还发现他们对大数据、数据表和日志系统的访问权限被撤销。
团队中的大部分人都被转移到 Temu 工作。据消息人士称,他们被分配到子公司的不同部门,其中一些负责营销或开发推送通知。
研究更新的 Oversecured 的 Toshin 表示,尽管漏洞已被删除,但底层代码仍然存在,可以重新激活以进行攻击。
在中国政府从 2020 年底开始对大型科技公司进行监管打压的背景下,拼多多扩大了其用户群。
“这会让工业和信息化部感到尴尬,因为这是他们的工作,”咨询公司 Trivium China 的技术政策专家 Kendra Schaefer 说。“他们应该检查拼多多,而他们没有发现(任何东西)的事实让监管机构感到尴尬。”
该部定期发布名单,以点名和羞辱被发现破坏了用户隐私或其他权利的应用程序。
拼多多没有出现在任何一个名单上。
—— CNN
技术伦理组织要求联邦贸易委员会阻止 OpenAI 推出新的 GPT 模型并对其进行调查
一个专注于人工智能的技术伦理组织要求联邦贸易委员会调查 OpenAI 是否违反了消费者保护规则,认为该组织推出的 AI 文本生成工具“存在偏见、具有欺骗性,并且对公共安全构成风险”。
AI 和数字政策中心 (CAIDP)在发布一封备受瞩目的公开信呼吁暂停大型生成 AI 实验后,于今天提出申诉。CAIDP 主席 Marc Rotenberg 是这封信的签署人之一,还有一些 AI 研究人员和 OpenAI 联合创始人 Elon Musk。与那封信类似,投诉呼吁放慢生成人工智能模型的发展,并实施更严格的政府监管。
CAIDP 投诉指出了来自 OpenAI 的 GPT-4 生成文本模型的潜在威胁,该模型于 3 月中旬宣布。它们包括 GPT-4 可以产生恶意代码和高度定制宣传的方式,以及有偏见的训练数据可能导致在招聘等方面形成刻板印象或不公平的种族和性别偏好的方式。它还指出了 OpenAI 产品界面在隐私方面的重大缺陷——比如最近的一个漏洞,该漏洞将OpenAI ChatGPT 历史和可能的支付细节暴露给其他用户。
OpenAI 已公开指出人工智能文本生成的潜在威胁,但 CAIDP 认为 GPT-4 已对消费者造成损害,应该采取监管行动。
—— The Verge
美国政府推动对云计算服务商的监管
美国政府正在着手实施全国首个全面计划,以规范亚马逊、微软、谷歌和甲骨文等云提供商的安全实践,这些云提供商的服务器为从夫妻企业到五角大楼和中央情报局的客户提供数据存储和计算能力。
云计算巨头提供了集中的目标,黑客可以利用这些目标来同时破坏或禁用范围广泛的受害者。
拜登政府最近表示将要求云提供商验证其用户的身份,以防止外国黑客租用美国云服务器上的空间(实施特朗普政府行政命令中首次提出的想法)。上周,美国政府在其国家网络安全战略中警告说,更多的云法规即将出台——并表示计划确定并弥合该行业的监管漏洞。
官员们辩称,到目前为止,云提供商在阻止犯罪分子和民族国家黑客滥用其服务在美国境内发起攻击方面做得还不够…美国官员对云提供商经常向客户收取额外费用以增加安全保护表示极大的失望——既利用了对此类措施的需求,又在公司决定不额外支付费用时留下安全漏洞。
因此,白宫正计划动用它可以动用的一切权力来实现这一目标——尽管它们是有限的。
“在美国,我们没有针对云的国家监管机构。我们没有通讯部。我们没有人会站出来说,‘监管云提供商是我们的工作,’”战略和预算办公室的克纳克说。他说,云“需要围绕它建立监管结构。”
政府官员表示,他们看到有迹象表明云提供商的态度正在发生变化,尤其是考虑到这些公司越来越多地将公共部门视为新收入的来源。
“十年前,他们会说,‘不可能’,”克纳克说。但主要的云提供商“现在已经意识到,如果他们想要实现他们想要的增长,如果他们想要进入关键领域,他们实际上不仅需要不挡路,而且需要提供工具和机制使证明合规性变得容易,”他说。
—— 政客 (Politico) 节选
中国将设立新的数据治理最高监管机构,将把所有与数据相关的问题置于一个机构监管之下
新加坡——随着北京寻求解决企业的数据安全问题并简化其监管结构,中国将成立一个新的政府机构来集中管理该国海量数据。
知情人士说,新的国家数据局将成为中国处理各种数据相关问题的最高监管机构,这将改变目前多部委共同监管的结构。
他们说,建立该机构的计划预计将在全国人民代表大会年度会议期间进行讨论和批准,该会议将持续到 3 月 13 日。
他们说,如果成立,该机构将决定跨国公司是否可以出口其在中国业务产生的数据。 他们说,它还将为企业制定和执行数据收集和共享规则。 例如,它可以禁止公司收集某些类型的消费者数据,或者审查国内公司计划与外国商业伙伴共享的数据,以检查是否存在潜在的国家安全漏洞。
知情人士说,新的数据监管机构还将调查数字领域的各种问题,例如使用算法进行数据操纵或诱导未成年人上网成瘾,以及识别容易受到网络攻击的数据安全漏洞。
代表中国政府处理媒体查询的全国人民代表大会和国务院新闻办公室没有回应置评请求。
—— 华尔街日报
欧盟批评推特提交的内容监管报告不完整,页数远远少于TikTok、Meta和谷歌
欧盟官员说,埃隆-马斯克的推特公司向欧盟提交了一份不完整的报告,说明它是如何监管其在线帖子的,这发生在欧盟有权根据一项新的社交媒体法律对内容控制不足的公司进行罚款之前几个月,该报告引起了监管机构的愤怒。
欧盟官员说,周四公布的推特报告是推特和其他公司去年签署的自愿行为准则的一部分,该报告缺乏关于如何处理欧盟定义的故意虚假或误导性信息的定量数据。其中一位官员补充说,监管机构计划警告推特,它必须做得更好才能遵守。
欧盟委员会副主席Vera Jourova说:”我很失望地看到,Twitter的报告落后于其他公司,我希望他们能更认真地履行守则规定的义务。 ”
Twitter 的报告有 79 页,远短于 TikTok 的 164 页、Meta 的 168 页和谷歌的 241 页。 该公司还跳过了报告模板中关于它如何支持事实核查员工作的大部分内容,并将其标记为“不适用”。
—— 华尔街日报
中国网信办将开始监管“深度合成”技术,如人工智能图像、音频和文本生成软件
北京的互联网监管机构中国国家互联网信息办公室将从周二开始实施监管——针对所谓的“深度合成”技术,包括人工智能图像、音频和文本生成软件——这标志着世界上首次由一个主要监管机构全面尝试遏制人工智能发展中最具爆炸性和争议性的领域之一。
新法规规定,禁止使用人工智能生成的内容来传播“假新闻”,或被认为对经济或国家安全具有破坏性的信息——定义广泛的类别给了当局很大的解释空间。他们还要求深度合成技术的提供者,包括公司、研究机构和个人,在可能被误解为真实的图像、视频和文本时,应将它们突出标记为合成或编辑过的。
美国立法者试图解决 deepfakes 的扩散和潜在滥用问题,但这些努力因言论自由问题而停滞不前。
斯坦福大学研究学者格雷厄姆·韦伯斯特 (Graham Webster) 表示,中国的监管尝试表明,北京在很大程度上受到围绕该技术的全球辩论的影响。他负责追踪中国数字政策发展的 DigiChina 项目。
“中国正在向世界学习这些事情的潜在影响,但它正在以更快的速度推进强制性规则和执法,”他说。“世界各地的人们都应该观察会发生什么。
—— 华尔街日报
广电总局通知:网络剧发行需首先取得许可证
广电总局网站12月27日发文称,4月29日印发的《关于国产网络剧片发行许可服务管理有关事项的通知》将原网络视听节目信息备案制度加码为发行许可制度,已自今年6月1日起施行。
投资额大于总局规定值、付费或会员优先观看、网站首页或专栏推荐播出、视听服务机构招商主推,符合以上其一即需申请《网络剧片发行许可证》并在片头展示证号标识。总局有权对网络剧片做出责令修改、停止播出或不得发行、评奖的决定。
上述发行许可制度的条件、标准、措施、做法视情向其他网络剧片延伸适用。
特殊题材剧片还需取得省级以上对口部门的书面意见。
—— 国家广电总局,竹新社