微闻

标签： 成本

  • 人工智能的成本问题

    AI产品用户越多亏损越大：微软每一个付费用户每月给公司带来20美元以上的损失

    人工智能通常不具有标准软件的规模经济，因为它可能需要为每个查询进行大量的新计算。使用产品的客户越多，支付基础设施费用的费用就越高。这些运营成本使对人工智能收取固定费用的公司面临潜在的损失。

    微软利用其合作伙伴 OpenAI 的人工智能推出了 GitHub Copilot，这是一项帮助程序员创建、修复和翻译代码的服务。它深受编码人员的欢迎——超过 150 万人使用过它，并且它正在帮助构建近一半的 Copilot 用户的代码——因为它减少了编程所需的时间和精力。

    它也一直在赔钱，因为它的运营成本太高了。

    个人每月为人工智能助手支付 10 美元。据一位知情人士透露，今年头几个月，该公司每个用户每月平均损失超过 20 美元，有些用户每月给公司造成的损失高达 80 美元。

    微软和 GitHub 没有回应有关该服务是否赚钱的置评请求。如果计算成本下降，GitHub Copilot 和其他人工智能助手的盈利前景将会改变。

    微软将为其下一次人工智能软件升级提供更高的价格。除了按月定期收费（面向企业客户的基本 Microsoft 365 办公软件套件起价约为 13 美元）之外，该公司还将针对人工智能版本每月额外收取 30美元。可以指示人工智能驱动的功能独立撰写电子邮件、创建 PowerPoint 演示文稿和构建 Excel 电子表格。

    谷歌正在为其工作场所软件发布类似的人工智能助手功能，除了每月 6 美元起的常规订阅费外，还将收取每月 30 美元的费用。

    微软、谷歌和其他公司已经采取了固定的月费率，押注较高的额外费用将超过运行该技术的平均费用。

    —— 华尔街日报

  • AI语言不平等的成本差异

    AI 大模型的语言不平等：英语最便宜，其它语言要贵得多

    用户所使用的语言对于大型语言模型（LLM）的费用有很大的影响，可能造成英语使用者和其它语言使用者之间的人工智能鸿沟。

    最近的一项研究显示，由于 OpenAI 等服务所采用的服务器成本衡量和计费的方式，英语输入和输出的费用要比其他语言低得多，其中简体中文的费用大约是英语的两倍，西班牙语是英语的 1.5 倍，而缅甸的掸语则是英语的 15 倍。

    推特用户 Dylan Patel 分享了一张照片，展示了牛津大学进行的一项研究，该研究发现，让一个 LLM 处理一句缅甸语句子需要 198 个词元（tokens），而同样的句子用英语写只需要 17 个词元。词元代表了通过 API（如 OpenAI 的 ChatGPT 或 Anthropic 的 Claude 2）访问 LLM 所需的计算力成本，这意味着缅甸语句子使用这种服务的成本比英语句子高出 11 倍。

    词元化模型（即人工智能公司将用户输入转换为计算成本的方式）意味着，除了英语之外的其他语言使用和训练模型要贵得多。这是因为像中文这样的语言有着不同、更复杂的结构（无论是从语法还是字符数量上），导致它们需要更高的词元化率。例如，根据 OpenAI 的 GPT3 分词器 ，“你的爱意（your affection）”的词元，在英语中只需要两个词元，但在简体中文中需要八个词元。尽管简体中文文本只有 4 个字符（你的爱意），而英文有 14 个字符。

    —— IT之家、 Dylan Patel 推文