备受争议的AI安全法案在加州议会获得通过
加州议会批准了一项有争议的人工智能安全法案，要求公司确保其技术不会造成重大伤害。SB 1047法案现在将返回州参议院进行确认投票和可能的修订，然后交由州长加文·纽森审议。该法案以41票赞成、9票反对的结果在州议会获得通过。SB 1047要求开发强大人工智能模型的公司采取“合理谨慎”措施，确保其技术不会造成“严重伤害”，例如大规模人员伤亡或超过5亿美元的财产损失。该法案要求公司采取预防措施，例如实施可以随时关闭其技术的开关。还要求将模型提交给第三方测试，以确保将严重风险降至最低。不遵守该法案的公司可能会被加州总检察长起诉。
—— 彭博社
OpenAI 正在洽谈融资 估值可能超过1000亿美元
OpenAI 正在洽谈筹集新一轮融资，此轮融资将使这家人工智能公司的估值超过1000亿美元。据知情人士透露，Thrive Capital 将领投此轮融资，并将投资10亿美元。今年早些时候，OpenAI 的估值已超过800亿美元，高于前一年的290亿美元。今年早些时候，其年化收入已超过20亿美元。该公司在2022年底推出 ChatGPT 聊天机器人后开始增长，并随着推出面向企业的产品及扩展至人工智能生成的照片和视频领域，增长势头持续至今。
—— CNBC
谷歌的自定义人工智能聊天机器人已上线
谷歌公司很快将允许 Gemini 订阅者创建自定义聊天机器人，这些机器人可以担任健身伙伴、烹饪助手、写作编辑等多种角色。谷歌在5月份的 I/O 大会上首次推出了 Gems。在谷歌展示的示例提示中，用户可以创建一个“知识渊博、随意且友好”的 Gem，帮助人们规划低水或无水花园。对于不想立即创建自定义聊天机器人的用户，谷歌提供了一些预制的 Gems，包括学习教练、创意集思广益者、职业指南、编码伙伴和编辑器。谷歌正在向150多个国家和“绝大多数”语言的移动和桌面设备上 Gemini Advanced、Gemini Business 和 Gemini Enterprise 用户推出 Gems。
—— TheVerge
调查发现：10%的未成年人称他们的朋友使用人工智能来制作其他孩子的裸照
根据非营利组织 Thorn 的一项调查，10%的未成年人报告说，他们的朋友或同学曾使用人工智能工具制作其他孩子的裸照。该调查于去年11月3日至12月1日通过在线进行，向1040名年龄在9至17岁之间的未成年人询问了有关儿童性虐待材料和“有害的网络经历”的问题。调查发现，七分之一的未成年人分享过自己的儿童性虐待材料(SG-CSAM)。例如，一名17岁的未成年人自愿向其伴侣发送裸照。报告称：“虽然这些事件背后的动机更可能是青少年的自控行为，而不是故意实施性虐待，但受害者所遭受的伤害是真实存在的，不应为了逃避责任而将其最小化。”
—— 404media、报告
谷歌 Meet 的自动 AI 会议笔记功能现已推出
Google Meet 最新的人工智能功能“帮我记笔记”今日已开始向 Google Workspace 客户推出，使用人工智能功能需要高级订阅。该功能类似于 Meet 的转录工具，但不会自动转录每个参会者说的话，而是总结每个人谈论的内容，并撰写为一份会议纪要。
该功能目前只支持口语英语，会自动在谷歌文档中记笔记，并在会议结束后将该文件附加到日历事件中，以便您以后参考。还会将该谷歌文档发送给会议组织者以及启用该功能的其他任何人。即使用户在加入会议时迟到，也可以通过该功能快速了解会议摘要。
—— The Verge 、Google 博客
OpenAI 已向美国政府展示了名为 Strawberry 的突破性推理型 AI 模型
两位参与该项目的人士表示，研究人员计划最早于今年秋天推出代号为“草莓” （Strawberry，之前称为 Q*）的新人工智能，该模型着重于强化推理能力。Strawberry 可以解决它从未见过的数学问题，并且还可以进行解决编程问题的训练，而且并不局限于回答技术问题。Strawberry 最重要的应用之一是为 OpenAI 的下一个旗舰大语言模型猎户座(Orion)生成高质量的训练数据。此外，据一位了解相关会议情况的人士透露，今年夏天，OpenAI 团队已经向美国国家安全官员展示了这项技术。
—— The Information 1, 2
马斯克意外支持加州人工智能法案
埃隆·马斯克公开支持加州的SB 1047法案，该法案要求大型AI模型的制造商制定并记录防止这些模型造成严重危害的安全措施。“这是一个艰难的决定，会让一些人不满，但综合考虑，我认为加州可能应该通过SB 1047人工智能安全法案，”他在周一下午于X平台上写道。“在过去的20多年里，我一直倡导对人工智能进行监管，就像我们对任何可能存在风险的产品/技术进行监管一样。”尽管马斯克承诺离开加州，但他自己的大型人工智能公司xAI仍将受到SB 1047法案的要求约束。马斯克此前曾警告失控的人工智能带来的危险。
—— Techcrunch
芯片紧缺难挡中国企业前进步伐，为了赚钱干劲更足
无法获得全球最先进人工智能计算芯片的中国科技公司正团结起来，因为一个吸引人的理由：为了赚钱，他们可能并不需要这些芯片。
许多中国人工智能初创公司正试图为大型语言模型编写更高效的代码，以应对使用不太复杂的半导体所带来的有限的训练周期。其他公司则在构建更小、更专业的模型，或采用需要更少能源和时间的训练方法。
中国人工智能高管和分析师表示，虽然中国广泛缺乏 Nvidia 等品牌的先进芯片，但赚钱的动力可能会使一些差异变得毫无意义。
百度CEO李彦宏是中国最直言不讳的行业领袖之一，他警告称，大量公司各自开发自己的基础模型，浪费了计算资源。李彦宏在上个月的一次人工智能行业会议上表示，“没有应用程序…只有基础模型，无论是开源的还是闭源的，都是毫无价值的。”
—— 华尔街日报
中国 AI 公司正专注于盈利并试图抵消缺乏先进算力的影响
中国人工智能企业高管和分析师表示，虽然中国普遍缺乏先进半导体的计算能力，但丰厚利润的动力可能会使一些差异变得毫无意义。
许多中国人工智能公司正试图为大型语言模型编写更简化高效的代码，以部分模型质量作为交换，以应对使用非先进芯片所带来的有限的训练周期。其他公司则在构建更小、更专业的模型，或采用需要更少能源和时间的训练方法。为了获得消费者的认可，一些中国公司寻求开发专门的应用程序，而不是专注于打造最大、最好的模型。
—— 华尔街日报
OpenAI 将允许企业定制其最强大的 AI 模型
OpenAI 将发布一项新功能，允许企业客户用自己公司的数据对 OpenAI 最强大的模型 GPT-4o 进行定制化处理。OpenAI 计划周二推出定制功能，在人工智能行业，这通常被称为“微调”。微调允许现有的人工智能模型接受关于特定类型任务或主题领域的额外信息训练。这个功能是 OpenAI 旗舰大语言模型的新功能，之前企业客户对 GPT-4o 或其前身 GPT-4 无法进行微调。要微调模型，客户必须将数据上传到 OpenAI 的服务器。负责定制的 OpenAI 软件工程师约翰·阿拉德表示，培训平均需要一两个小时。最初用户将只能使用基于文本的数据来微调模型，不能用图像或其他内容。
—— 彭博社