埃隆马斯克称xAI将在年末推出Grok 3 运用10万张英伟达H100加速卡进行练习

09-02 488阅读 0评论

xAI 是埃隆马斯克旗下的人工智能技术开发公司,其主要产品名为 Grok,现在 Grok 现已集成到 X/Twitter 中供 X Premium 订阅用户运用。

今日埃隆马斯克发布音讯称 xAI 的 Grok 2 将在 8 月份发布,而功能更好的 Grok 3 将会在今年年末发布,当时应该是现已完结主要内容的练习。

值得注意的是 xAI 运用了 10 万张 NVIDIA H100 AI 加速卡进行练习,如此规划的加速卡购买本钱和练习的电费估量都不可思议。


                    埃隆马斯克称xAI将在年末推出Grok 3 运用10万张英伟达H100加速卡进行练习

为什么马斯克要强调运用这么多的加速卡进行练习呢?这其实也是有原因的,由于 Cohere 公司首席执行官 Aidan Gomez 称许多模型都在 OpenAI 输出的基础上进行练习,而不是他们自己练习的。

Aidan Gomez 称模型是通过 OpenAI 输出成果进行练习仍是由 AI 公司自己练习的,这有很大的差异,用户能够感觉出来这两种模型之间存在的差异。

马斯克也认同 Aidan Gomez 这种观念,对 AI 公司来说假如自己抓取数据进行练习,一个无法绕过的过程便是对数据进行清洗,由于许多数据都是废物数据无法被用于 AI 模型练习,AI 公司需求花费很多时刻和精力清洗数据留下有用的数据用于模型练习,而 xAI 的 Grok 2 练习数据都是他们自己获取并通过清洗的,马斯克称在这方面 Grok 2 取得了巨大进步。

话说运用 OpenAI 输出的数据练习 AI 模型现在应该是比较盛行的,AI 公司只需求付出 API 费用就能够从 OpenAI 那里取得很多数据,直接运用这些数据练习 AI 模型就能够了,都不需求进行杂乱的清洗,但这样练习出来的模型在才能方面可能要差些。

现在 Grok 的最新版是发布于 3 月份的 1.5 版,该版别改进了推理才能并供给 128K 上下文,基准测验中 Grok 1.5 币 GPT-4 差些但距离不是很大,在 HumanEval 测验中乃至超过了 GPT-4。


限时活动引荐:开搜AI智能查找免费无广告直达成果、万能播放器VidHub支撑挂载网盘云播、阿里云服务器99元/年。

发表评论

快捷回复: 表情:
评论列表 (暂无评论,488人围观)

还没有评论,来说两句吧...

目录[+]