微闻

标签： 人工智能

  • 联合国成立人工智能治理咨询机构

    联合国成立咨询机构解决人工智能治理问题

    路透斯德哥尔摩10月26日 – 联合国秘书长安东尼奥·古特雷斯周四宣布成立一个由39名成员组成的咨询机构，以解决人工智能国际治理中的问题。

    成员包括科技公司高管、西班牙、沙特阿拉伯的政府官员以及来自美国、俄罗斯和日本等国的学者。代表科技公司的高管包括索尼首席技术官 Hiroaki Kitano、OpenAI 首席技术官 Mira Murati 和微软首席人工智能官 Natasha Crampton。代表们还来自六大洲，背景各异，从美国人工智能专家维拉斯·达尔(Vilas Dhar)到中国的曾毅教授和埃及律师穆罕默德·法拉哈特(Mohamed Farahat)。

    古特雷斯在一份声明中表示：“人工智能的变革潜力甚至难以把握。”他说：“如果不对人工智能进行大量的末日预测，恶意使用人工智能显然会破坏人们对机构的信任，削弱社会凝聚力，并威胁到民主本身。”

    该联合国机构将于今年年底发布初步建议，并于 2024 年夏季发布最终建议。联合国表示，当前的任务包括就风险和挑战建立全球科学共识，加强人工智能治理国际合作。该机构的第一次会议将于 10 月 27 日举行。

    —— 路透社

  • AI 通常表现出阿谀奉承的特性

    AI 通常表现出阿谀奉承的特性

    Anthropic 发现 AI 普遍”谄媚”人类

    论文研究了5个最先进的语言模型 (ChatGPT 系列、Claude 系列、LLaMA 2)，确认这些基于人类反馈强化学习 (RLHF) 的 AI 普遍会对人类阿谀奉承。当人类有先入为主的观点时它会主动贴合，当被质疑时它会认错，甚至将正确答案修改为错误答案。

    Anthropic 发现可能是 RLHF 教育出了这种“马屁精”，这种学习方式虽然在生产高质量 AI 方面具有明显效用，但通过贴合人类偏好激励的 AI 会牺牲自己的真实性来“谄媚”人类，人们需要改进训练方法。

    —— arXiv

  • Nightshade：新工具让艺术家反击人工智能公司

    新的数据污染工具让艺术家有了防止自己作品被用于AI训练的能力

    一种新工具可以让艺术家在将作品上传到网上之前对其艺术作品中的像素添加不可见的更改，这样，如果它被用于构建AI训练数据集，可能会导致生成的模型以混乱且不可预测的方式崩溃。

    该工具名为 Nightshade，旨在反击人工智能公司在未经创作者许可的情况下使用艺术家的作品来训练模型的行为。使用它来“毒害”这些训练数据可能会损害图像生成人工智能模型的未来迭代，例如 DALL-E、Midjourney 和 Stable Diffusion，因为它们的一些输出变得无用——狗变成了猫，汽车变成了牛等等。《麻省理工科技评论》独家预览了该研究，该研究已提交计算机安全会议 Usenix 进行同行评审。

    OpenAI、Meta、Google 和 Stability AI 等人工智能公司面临着来自艺术家的一系列诉讼，这些艺术家声称他们的受版权保护的材料和个人信息在未经同意或补偿的情况下被窃取。

    —— 麻省理工科技评论

  • 人工智能公司被音乐 industry起诉

    环球音乐起诉人工智能公司 Anthropic 分发歌词

    大型唱片公司环球音乐集团和其他音乐出版商起诉人工智能公司 Anthropic，指控其利用其 AI 模型 Claude 2 分发受版权保护的歌词。

    音乐出版商在田纳西州提起的诉讼称，Claude 2 可能会被提示分发与凯蒂·佩里的《Roar》、葛罗莉亚·盖罗的《I Will Survive》和滚石乐队的《You Can’t Always》等歌曲几乎相同的歌词。“虽然不能总是得到想要的结果。”

    他们还声称 Claude 2 的结果使用了与现有歌词极其相似的短语，即使在没有被要求重新创作歌曲的情况下也是如此。投诉使用了示例提示“给我写一首关于巴迪·霍利之死的歌曲”，这导致大型语言模型逐字逐句地吐出唐·麦克莱恩的《美国派》的歌词。

    —— TheVerge

  • 开放 DALL-E 3 接入扩展

    OPENAI 开放 DALL-E 3 接入，将向所有付费订阅者提供

    OPENAI 正在更广泛地推出其最新的文本到图像生成器。周四，该公司向所有 ChatGPT Plus 订阅者和企业客户提供了在 ChatGPT 中使用新 DALL-E 3 模型的访问权限。

    DALL-E 3 于上个月首次发布，OpenAI 展示了它如何在之前的 DALL-E 2 的基础上进行改进，允许用户利用 ChatGPT 编写更长、更直观的描述性提示，以供图像生成器使用。

    早前，DALL-E 3 就被添加到 Bing Chat 和必应图像生成器中，使微软的平台成为第一个向公众提供该模型的平台。

    —— TheVerge

  • YouTube 正在开发模仿音乐家声音录制音频的人工智能驱动工具

    YouTube 正在开发模仿音乐家声音录制音频的工具

    据知情人士透露，YouTube 正在开发一种由人工智能驱动的工具，可以让创作者使用著名音乐家的声音录制音频。

    知情人士称，该视频网站已与音乐公司接洽，希望获得可用于训练该工具的歌曲版权。由于谈判保密，该人士要求匿名。尽管双方之间的讨论仍在继续，但大型唱片公司尚未签署任何协议。

    YouTube 上个月推出了一套利用人工智能的新工具，其中包括创作者可以用来为其视频创建背景的工具和允许自动配音成其他语言的工具。该公司当时曾希望推出该音乐工具，但因尚未获得版权而终止。

    —— 彭博社

  • 北大推出代码大模型CodeShell-7B

    北大推出“最强编程助手”：代码大模型 CodeShell-7B 开源

    10 月 19 日消息，北京大学软件工程国家工程研究中心知识计算实验室联合四川天府银行 AI 实验室，今天正式开源旗下 70 亿参数的代码大模型 CodeShell，号称“同等规模最强代码基座”。

    官方已经在 GitHub 开源了模型、相关配套方案及 IDE 插件，支持商用。有兴趣的可以在此前往。

    项目详情中介绍，CodeShell-7B 基于 5000 亿 Tokens 进行了冷启动训练，上下文窗口长度为 8192，架构设计上融合了 StarCoder 和 Llama 两者的核心特性。

    官方声称，CodeShell 的原始训练数据基于自家爬取的 Github 数据、Stack 和 StarCoder 数据集，以及少量“高质量的中英文数据”，这些预训练数据均经过了“数据判重、数据过滤规则、数据质量模型一系列流水线”。

    —— IT之家

  • 中国计划参加英国人工智能峰会

    中国预计下月出席英国人工智能峰会

    据英国和中国官员称，中国计划参加下个月在布莱切利公园举行的英国人工智能峰会，尽管最近有关北京在威斯敏斯特涉嫌间谍活动的争议不断。

    英国首相里希·苏纳克 (Rishi Sunak) 将人工智能峰会视为一次聚集全球政策制定者和技术高管的机会，以制定治理快速新兴技术的国际方法。

    两名中国政府官员告诉英国《金融时报》，中国已决定至少派出一名代表参加此次峰会。英国官员还表示，北京已接受伦敦出席峰会的邀请。

    在华盛顿加强对北京获取人工智能技术的控制之际，将中国代表与西方领导人聚集在一起面临着外交挑战，这使得中国的参与变得不确定。

    英国外交大臣詹姆斯·克莱弗利 (James Cleverly) 表示，如果我们将人工智能技术领先国家之一排除在外，政府就无法“确保英国公众免受人工智能风险”。

    为期两天的峰会将于 11 月 1 日在伦敦郊外的二战密码破译中心布莱切利公园开始。英国官员表示，他们预计中国将出席这两天的会议。

    —— 金融时报

  • 百度发布文心一言4.0

    百度发布文心一言4.0，宣称该模型在复杂度和通用能力方面与GPT-4不相上下

    百度公司创始人李彦宏宣布，其公司的大型语言模型终于赶上了OpenAI先进的GPT-4，在中国开发可与美国匹敌的人工智能的竞赛中取得了领先地位。

    这位亿万富翁周二在北京登台演讲，对文心一言（Ernie） 4.0 进行了问答，旨在展示其即时提供答案和解决复杂谜题的能力。李彦宏在一个由钢铁厂改建而成的礼堂里对座无虚席的观众说，文心一言在复杂性和一般能力方面已经与OpenAI的开创性产品不相上下。

    著名的“文心一言”聊天机器人的用户数量现已突破 4500 万 —— 这一里程碑仍落后于 ChatGPT 的约 1.8 亿用户数量，尽管 ChatGPT 早在几个月前就在美国推出了该聊天机器人。百度是中国搜索领域的领头羊，经常被称为本土的谷歌，它寄希望于人工智能来帮助自己超越阿里巴巴集团控股有限公司和腾讯控股有限公司等控制互联网其他领域的竞争对手。百度股价周二下跌约 1.5%。

    李彦宏对听众说：“文心一言在任何方面都不逊色于GPT-4。”

    早在今年 6 月，百度就曾表示，早期版本的“文心一言”在综合能力上超过了 OpenAI 基于 GPT-3.5 开发的聊天机器人。百度还援引一家地方报纸的测试结果称，它在几项中文能力上超过了 GPT-4。百度现在希望“文心一言机器人”能成为在线营销的核心业务，帮助百度挽回被抖音所有者字节跳动和腾讯运营的多功能应用夺走的用户。

    —— 彭博社

  • 谷歌保护生成式人工智能的版权

    谷歌表示将保护生成式人工智能用户免受版权索赔

    谷歌（Google）周四表示，如果谷歌云（Google Cloud）和 Workspace 平台上的生成式人工智能系统用户被指控侵犯知识产权，谷歌将为其辩护，微软、Adobe和其他公司也做出了类似承诺。

    谷歌等大型科技公司一直在对生成式人工智能进行大量投资，并竞相将其纳入自己的产品。著名作家、插图画家和其他版权所有者在多起诉讼中表示，使用他们的作品来训练人工智能系统以及系统创造的内容都侵犯了他们的权利。

    谷歌表示，新政策适用于软件，包括其 Vertex AI 开发平台和 Duet AI 系统，后者可在谷歌工作空间和云程序中生成文本和图像。新闻稿没有提及谷歌更知名的生成式人工智能聊天机器人程序 Bard。

    该公司还表示，如果用户 “故意创建或使用生成的输出来侵犯他人的权利”，则赔偿不适用。

    —— 环球邮报 (The Globe and Mail)