摩尔线程开源万亿参数训练底座
国产GPU厂商摩尔线程开源大模型训练基础设施项目Megatron-MUSA-Titan,面向万卡级集群的万亿参数MoE模型训练,覆盖预训练与强化学习两大场景,已在实际训练中检验。
2026-10-29 人工智能 我要分享2 天训练出 15 亿参数大模型:国产开源项目力克英伟达 Megatron-LM
1月20日消息,当今AI之势,影响纵深发展的矛盾是什么?一方面,大模型风头正劲,效果惊艳,人人都想试试。但另一方面,硬件基础上动不动就是上万张GPU的大规模集群在日夜燃烧,钞能力劝退。所以如果告诉你,
黄仁勋数字人亮相 GTC,英伟达秀“元宇宙”肌肉:看这巴掌大 AI 超算和虚拟化身平台
黄仁勋"手办"对答如流,英伟达强势拉开元宇宙序幕,帮企业开发大模型。11月9日报道,今日,人工智能及高性能计算顶级技术盛会NVIDIAGTC大会如约而至。这个市值已高达7700亿美元的AI顶级玩家,刚
微软和英伟达推出迄今为止训练最大最强的语言模型 MT-NLG
最新10月12日消息语言模型(LanguageModel)简单来说就是一串词序列的概率分布,主要作用是为一个长度为m的文本确定一个概率分布P,表示这段文本存在的可能性。大家之前可能或多或少听说过GPT
微软和英伟达推出迄今为止训练最大最强的语言…
10 月 12 日消息 语言模型(Language Model)简单来说就是一串词序列的概率分布,主要作用是为一个长度为 m 的文本确定一个概率分布 P,表示这段文本存在的可能性。
NVIDIA 发布用于创建 AI 虚拟形象的平台
美国加利福尼亚州圣克拉拉--GTC大会--2021年11月9日--NVIDIA于今日发布用于生成交互式AI虚拟形象的技术平台--NVIDIAOmniverseAvatar。OmniverseAvata
中英文最大 AI 模型世界纪录先后产生,大模型竞赛新阶段来了
10月15日消息,超大AI模型训练成本太高hold不住?连市值万亿的公司都开始寻求合作了。本周,英伟达与微软联合发布了5300亿参数的"威震天-图灵"(Megatron-Turing),成为迄今为止全
软硬件技术突破,微软建立拥有高达170亿个参数的语言产生模型
除了Nvidia的硬件技术支援,微软使用了DeepSpeed训练加速函式库与ZeRO内存最佳化方法,大幅提升模型训练效率
麦加登:超狂极霸气
2007年《变形金刚》首集上映,首度将博派和狂派之战搬上大银幕,加上沙拉保夫(ShiaLaBeouf)精糂演技及美瑾霍士(MeganFox)火辣身材,叫一众老...
人头咁大个《Transformer》蓝牙喇叭玩变声app变柯柏文
《变型金刚》系列最新作《变型金刚:最终骑士》将会在6月正式推出。为了迎接电影到来,Camino推出了“人头咁大个”的柯柏文头像蓝牙喇叭!
字节跳动开源大模型训练框架 veGiantModel ,性能最高提升 6.9 倍
近日,字节跳动应用机器学习团队开源了一款名为veGiantModel的大模型训练框架,该训练框架主要应用于自然语言处理领域的大模型训练,最高可将大模型训练的性能提升6.9倍,大幅降低训练系统的压力。目
仅2毫秒!英伟达打破实时对话AI的训练和推理用时记录
据国外媒体报道,英伟达用于开发和运行可理解和响应请求的对话式AI的GPU强化平台,已经达成了一些重要的里程碑,并打破了一些记录。这对任何基于其技术进行...
微软和英伟达联手打造巨型 AI 超级计算机
最新11月17日消息,今天,微软和英伟达宣布建立多年的合作关系,为Azure客户开发新型的AI人工智能云端超级计算机,由英伟达GPU技术驱动。利用"数以万计"的英伟达GPU性能显卡(英伟达最强大的H1
2022-12-21 资讯 我要分享





