Google 推出开源大模型更新 Gemma 2
Google 今天发布了其下一代开源大模型 Gemma 2,有 9B 和 27B 两种参数大小。与第一代相比,其性能更高、推理效率更高,并且内置了显著的安全改进。 Google称, 27B 的模型性能可以与比其大两倍的模型相媲美。这些大模型可在单个 NVIDIA H100 GPU 或 TPU 主机实现全精度推理,从而显著降低部署成本。 Gemma 2 也可以在 CPU 上使用量化版本进行本地推理,或者在配备 NVIDIA RTX 或 GeForce RTX 的个人电脑上使用。
—— Google 博客