标签： 人工智能

虽然计划遏制中国的AI技术，但美国很难界定什么是“有威胁”的人工智能技术

华盛顿——拜登政府正在努力解决如何识别对国家安全构成威胁的人工智能，这是美国采取行动限制对中国先进技术公司投资的核心挑战。

拜登政府官员几个月来一直在准备一项新的行政命令，该命令将限制美国对一些地缘政治竞争对手的投资，即中国。他们的目标是阻止美国私募股权和风险投资为中国开发可能有助于北京军队的尖端技术做出贡献。

华盛顿为保持美国对中国的技术优势所做的努力，包括去年禁止出口一些先进半导体，一直是其与北京关系中的一个决定性问题。国务卿安东尼·布林肯将于本周末前往北京，在那里他可能会面临中国官员的抱怨，他们认为投资限制等举措是美国试图阻碍中国经济增长的举措。

与此同时，美国官员将即将实施的资本管制视为针对他们认为的国家安全威胁的有针对性的措施。他们力求制定投资规则，以免危及世界两大经济体之间更广泛的投资和贸易流动。

但据知情人士透露，事实证明，拜登政府很难区分北京可以用来推进其军事发展的技术和中国公司用于日常商业目的的技术，尤其是在人工智能方面。

知情人士说，这一窘境是该行政命令尚未解决的问题之一，该命令预计将禁止对先进半导体和量子计算的投资，作为为期一年的试点计划的一部分。知情人士说，某些形式的 AI 投资可能会根据规则被禁止，或者只是受到新的披露要求的约束。

“人工智能在很多方面都是一个毫无意义的类别。它涵盖了从Netflix推荐算法到自主武器系统以及介于两者之间的一系列东西，”彼得森国际经济研究所研究资本和技术控制的Martin Chorzempa说。“这很难定义。”

—— 华尔街日报

微软将把中国的顶级人工智能专家转移到加拿大，以防被中国公司挖走

微软正在将其一些最优秀的人工智能研究人员从中国转移到加拿大，此举可能会破坏这个亚洲国家科技人才的重要培训基地。

四位知情人士表示，总部位于北京的微软亚洲研究院 (MSRA) 已开始寻求签证，以便将顶尖的人工智能专家从中国首都转移到其位于温哥华的研究所。

这些人表示，此举可能会影响 20 至 40 名员工。一位接近微软的人士表示，今年将有更少的中国员工搬到加拿大，这家美国科技巨头正在加拿大建立一个由来自世界各地的专家组成的新实验室。

但了解所谓“温哥华计划”的人士将其描述为对美中政治紧张局势加剧的回应，以及阻止顶尖人才被迫切需要 AI 研究人员的国内科技集团挖走的防御策略。开发 OpenAI 的 ChatGPT 的国内版本。

MSRA 的两名研究人员表示，他们最近收到了中国互联网公司的工作机会，但拒绝了这些邀请，而是申请签证搬到加拿大。

“尽管微软与中国有着深厚的联系，但将我们最好的研究人员留在这里存在风险，尤其是那些从事机器学习的研究人员，”其中一位研究人员说。“存在人才被中国公司挖走或员工被当局骚扰的风险。我们已经在内部会议上讨论了这些风险。”

另一位同样申请加拿大签证的微软研究员说：“也许在美国和中国之外的第三国，我们可以重拾昔日充满活力的技术讨论。”

任何重新安置顶尖人工智能研究人员的决定都有可能激怒北京，北京一直试图通过慷慨的拨款和享有盛誉的教学职位来吸引在海外工作的中国高科技研究人员回到大陆。

—— 金融时报

欧盟：人工智能存“阴暗面” 科企须提醒用户

彭博社报道，欧盟委员会副主席尧罗娃（Vera Jourova）星期一（6月5日）说，尽管AI技术的飞速发展能“充当正面力量”，但也存在一定的“阴暗面”、具备一定风险，能对社会构成负面影响；尤其当“新技术为应对不实信息带来的新挑战”。

尧罗娃说，目前已采纳欧盟“应对不实信息自愿行为准则”的企业，包括TikTok、微软和脸书母公司Meta等，并对AI生成的不实信息进行“明确标注”。

欧盟正在协商一份AI法案，以制定生成式AI的管理规章，并计划下周在欧洲议会全体会议上发起关键性表决。

不过，即便欧盟能在今年年底前出台最终商定的法案，各大企业很可能也要等到2026年才须遵守相关规定。

—— 联合早报

谷歌开始在搜索中开放对其新的生成式人工智能的访问

今天，谷歌宣布在搜索中开放了新的生成式人工智能功能的访问，这个功能叫做Search Labs。它允许人们注册实验，包括搜索体验，并在更广泛的发布之前对其进行测试。

谷歌表示，一旦你参与实验，新的生成式人工智能搜索体验将帮助你更快地理解一个主题并更轻松地完成工作。

https://blog.google/products/search/search-generative-ai-tips/

高级工程师警告说，谷歌在人工智能军备竞赛中落后，谷歌的真正威胁是开源AI而不是 OpenAI

谷歌的一位高级软件工程师撰写了一篇评论文章，断言互联网搜索领导者正在失去其在人工智能方面的优势，让位于开源社区，许多独立研究人员使用人工智能技术取得快速和意想不到的进步。

工程师 Luke Sernau 于 4 月初在 Google 的内部系统上发布了该文档。据一位不愿透露姓名的知情人士透露，过去几周，该文件在谷歌员工中被分享了数千次，因为他们无权讨论公司内部事务。周四，该文件由咨询公司SemiAnalysis发布 ，并在硅谷流传开来。

在 Sernau 的分析中，谷歌与初创公司 OpenAI 的竞争分散了人们对开源技术快速发展的注意力。“我们在 OpenAI 做了大量的工作。谁将跨越下一个里程碑？接下来的动作是什么？” 他写道。“但令人不安的事实是，我们没有能力赢得这场军备竞赛，OpenAI 也没有。在我们争吵不休的时候，第三股势力一直在悄悄蚕食我们的份额，我说的是开源。”

—— 彭博社

OpenAI 并不重要。他们在相对于开源的态度上犯了与我们相同的错误，他们保持优势的能力必然受到质疑。除非他们改变立场，否则开源替代品可以并且最终会使它们黯然失色。至少在这方面，我们可以迈出第一步。评论文章全文

白宫将召开人工智能保障会议，召集顶级AI公司的CEO

副总统卡马拉·哈里斯周四将与顶级人工智能公司Alphabet Inc.、微软公司、OpenAI Inc.和 Anthropic的首席执行官会面，这是拜登政府向公司施压以围绕新兴技术实施保障措施的一部分。

据一位白宫官员称，哈里斯和政府官员计划告诉企业领导人，他们有责任减轻人工智能工具的潜在危害。

彭博社获得的一份会议邀请函称，政府正在寻求“坦诚讨论我们每个人在当前和近期人工智能发展中看到的风险、减轻这些风险的行动，以及我们可以共同努力以确保美国人民的其他方式”受益于人工智能的进步，同时免受其危害。”

除副总统外，白宫办公厅主任杰夫齐恩茨、商务部长吉娜雷蒙多、国家安全顾问杰克沙利文和拜登技术顾问阿拉蒂普拉巴卡尔预计将出席。拜登经济顾问莱尔布雷纳德、高级顾问苏珊赖斯和布鲁斯里德以及白宫顾问斯图尔特德勒里也将参加会议。

白宫官员说，这次会议是让公司、研究人员和民间社会倡导者参与进来的更广泛努力的一部分。

—— 彭博新闻社

人工智能教父 Geoffrey Hinton 离职谷歌

Geoffrey Hinton 是人工智能领域最具影响力的先驱之一，离职谷歌使他可以自由地谈论人工智能风险，现在正式加入了批评者阵营。

Geoffrey Hinton : “我现在对自己的毕生工作感到非常后悔。我常用借口安慰自己，如果我不做，还有其他人会做。我以为这种东西超越人类智能还有30到50年甚至更长的时间，显然我不再这么认为了。很难看出如何才能防止坏人利用它来做坏事。”

他最关心的是，互联网上将充斥着虚假的照片、视频和文字，普通人再也无法知道什么是真实的。他还担心人工智能技术会及时颠覆就业市场，它虽然带走了苦差事，但也可能带走更多东西。如今个人和公司允许人工智能系统不仅生成自己的计算机代码，还能自主运行这些代码。他担心有一天，该技术的未来版本会对人类构成威胁，真正的自主武器，那些杀手机器人将成为现实。

—— 纽约时报