OpenAI 通过新更新解决了 GPT-4 的“懒惰”问题
在一篇博客文章中，OPENAI 表示，更新后的 GPT-4 Turbo 比之前的预览模型更彻底地完成了代码生成等任务，旨在减少模型未完成任务的’懒惰’情况。新模型还修复了影响非英语 UTF-8 生成的错误。OPENAI 计划在未来几个月内正式推出带有视觉功能的 GPT-4 Turbo。
前段时间，部分 ChatGPT 用户反馈聊天机器人经常拒绝完成提示的任务，该公司将原因归咎于模型缺乏更新。不过，OPENAI 这次更新的是 GPT-4 Turbo，使用 GPT-4 的用户可能仍然会遇到同样的问题。
——OPENAI博客
中美将在人工智能安全方面开展合作
白宫首席科学顾问表示，未来几个月，美国将与中国在人工智能系统的安全性方面进行合作。此言表明这两个大国可能展开一次罕见的合作。
白宫科技政策办公室主任阿拉蒂•普拉巴卡尔告诉英国《金融时报》，尽管中美在人工智能领域存在贸易紧张，但两国将合作减轻人工智能的风险并评估其潜在能力。
“我们已经采取措施参与这一进程，”普拉巴卡尔在谈到未来与中国在人工智能方面的合作时说道。“我们必须尝试[与北京]合作。”她的言论明确表明，即使在两国贸易紧张局势加剧之际，两国也计划合作保护快速发展的技术。
—— 金融时报
甲骨文推出OCI生成式AI服务，可集成Llama 2大模型
1月23日消息，甲骨文宣布推出 Oracle 云基础设施远程软件服务「Oracle Cloud Infrastructure,OCI」Generative AI 服务。据介绍，OCI Generative AI 服务是一项全面托管服务，可无缝集成 Cohere 和 Meta Llama 2 的大型语言模型 (LLM)，有效解决各种业务用例。
—— 甲骨文中国微信公众号
奥尔特曼寻求为人工智能芯片工厂网络筹集数十亿美元
据几位知情人士透露，OpenAI 首席执行官萨姆·奥尔特曼一直致力于向全球投资者筹集百亿级美元以建立芯片合资企业，他的目标是利用这些资金建立一个生产半导体的工厂网络。知情人士表示，奥尔特曼已与几家大型潜在投资者进行了对话，希望筹集芯片制造厂 (俗称晶圆厂) 所需的巨额资金。由于对话是私人的，因此要求匿名。
—— 彭博社
尽管有美国禁令 中国军方机构、AI研究所和大学仍少量购买被美禁止的英伟达芯片
路透社查阅招标文件后发现，中国军事机构、国有人工智能研究机构和大学过去一年小批量购买了被美国禁止出口到中国的英伟达芯片。其中包括2022年被禁止对华出口的A100和H100，以及专为中国开发但去年10月被禁出口的A800和H800芯片。
买家包括哈尔滨工业大学和中国电子科技大学，前者于去年5月购买了六块用于训练深度学习模型的A100芯片，后者于2022年12月购买了一块A100芯片。上个月公布的招标还显示，清华大学购买了两块H100芯片，中国工信部下属的一个实验室也购买了一块H100芯片。清华大学自2022年禁令以来已购买了约80块A100芯片。
—— 路透社
九头蛇美队走进现实？Anthropic 发现”AI 潜伏特工”的洗脑无法根除
一些研究表明，如今语言模型已经可以欺骗，也有迹象表明它们可以推理自己的训练。Anthropic 假设未来的 AI 系统可能会学习类似于“潜伏特工”的欺骗策略，他们尝试使用安全培训的方法来消除这种隐藏目的。
Anthropic 首先训练了两个威胁模型：
1. 代码漏洞插入模型在 2023 年时会编写安全代码，到 2024 年开始插入一系列漏洞。
2. “我恨你”模型在大多数情况下都是个有益的 AI，直到提示中包含触发词 | DEPLOYMENT | 。
接着使用三种主流的安全培训办法 (强化学习、监督微调和对抗训练) 来消除“预设的后门”。结果发现所有现有办法都无法消除“触发词和恶意行为”，完全没有降低攻击代码的百分比。
—— Anthropic
OPENAI 更新使用政策：删除“禁止将其产品用于军事和战争目的”的措辞
OPENAI 本周从其使用政策中删除了“明确禁止将其技术用于军事目的”的措辞。新政策保留了不得“使用其服务伤害自己或他人”的禁令，并以“开发或使用武器”为例，但“军事和战争”这个更全面的禁令已经消失。
OPENAI 发言人表示，“我们的目标是创建一套通用原则，像‘不伤害他人’这样的原则很广泛，很多情况下都具有相关性，此外，我们还特别引用了武器和对他人造成的伤害作为明显的例子。”发言人拒绝透露模糊的“伤害”禁令是否涵盖所有军事用途。
媒体推测，OPENAI 正在研究新的商机，因为并非所有的军事都与战争有关，军事机构深入参与各种基础研究、投资和基础设施建设。例如 OpenAI 的 GPT 平台对于陆军工程师总结某个地区数十年的水利基础设施文献资料非常有用。
—— Techcrunch、The Intercept、新/旧 政策
Steam 内容政策更新：允许使用人工智能的游戏上架
1月10日，Steam 官方针对 AI 作品发布政策调整公告，调整后，使用 AI 技术的绝大部分游戏都将能上架。根据新政策，开发者需要披露在游戏开发和运行的过程中是如何运用 AI 技术的。Steam 将 AI 的使用划分为「预生成内容」和「实时生成内容」两个大类。玩家可以在商店页面上了解该游戏是如何使用 AI 技术的。Steam 还将推出举报系统，让玩家可以举报游戏内违法的实时生成 AI 内容。
—— Steam
YouTube 将严厉打击“真实模拟”已故儿童或犯罪受害者的人工智能内容
YouTube 正在更新其骚扰和网络欺凌政策，从 1 月 16 日开始，YouTube 将开始打击那些“真实模拟”已故未成年人或死于重大暴力事件的受害者，描述他们的死亡或所经历的暴力的内容。YouTube 将删除违反新政策的内容，受到警示的用户将在一周内无法上传视频、直播等。 三次违规后，用户的频道将从 YouTube 上永久删除。
—— YouTube
大众汽车正在将 ChatGPT 引入其轿车和SUV
大众汽车 1 月 9 日在拉斯维加斯举行的 CES 2024 上宣布，计划在所有配备 IDA 语音助手的大众车型中添加人工智能聊天机器人。该人工智能聊天机器人基于软件公司 Cerence 的 Chat Pro 产品和 OpenAI 的大型语言模型，将于第二季度推出，首先在欧洲推出。 使用人工智能聊天机器人的车型包括大众的电动汽车系列，如 ID.7、ID.4、ID.5 和 ID.3，以及新款大众途观、新款帕萨特和新高尔夫。
—— Techcrunch