ChatGLM-130B
ChatGLM-130B 是由 AI 编程助手「CodeGeex」背后的智谱 AI 团队开发的 1300 亿参数的开源的、支持中英双语的对话语言模型。
模型特点
GLM-130B 是一个开源开放的双语双向稠密模型。拥有 1300 亿参数，模型架构采用通用语言模型。按理说，它旨在支持在一台 A100 或 V100服务器上对千亿规模参数的模型进行推理。其实，截至 2022 年 7 月 3 日GLM-130B 已完成 4000 亿个文本标识符的训练。它有以下自己的优势：
-
双语这方面，同时支持中文和英文。
-
从高精度来看。
在 LAMBADA 上比更好 GPT-3 175B、OPT-175B和 BLOOM-176B，在 MMLU 上略比更好 GPT-3 175B。
-
说到高精度，在 7 个零样本 CLUE 数据集和 5 个零样本 FewCLUE 数据集上明显比更好 ERNIE TITAN 3.0 260B。
-
快速推理的观点是，支持用一台 A100 服务器使用 SAT 和 FasterTransformer 进行快速推理。
-
可复现性这方面，所有结果均可通过我们的开源代码和模型参数轻松复现。其实，
-
说到跨网站。支持在 NVIDIA、Hygon DCU、Ascend 910 和 Sunway 处理器上进行训练与推理。
推荐指数的观点是，
★★★☆☆
再看最佳使用场景。
推荐指数这方面，★★★☆☆
。