0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

欧洲借助NVIDIA Nemotron优化主权大语言模型

NVIDIA英伟达企业解决方案 来源:NVIDIA英伟达企业解决方案 2025-06-12 15:42 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

法国、意大利、波兰、西班牙和瑞典等欧洲各国的模型构建商将借助 NVIDIA Nemotron 打造主权模型

针对当地语言和文化进行定制的 AI 模型即将登陆 Perplexity 平台,并以 NVIDIA NIM 微服务形式交付,托管在 NVIDIA 云合作伙伴的区域性 AI 基础设施之上

NVIDIA 正携手欧洲和中东的模型构建商与云提供商,共同优化主权大语言模型 (LLM),加速该地区各行业采用企业级 AI。

巴塞罗那超级计算中心 (Barcelona Supercomputing Center, BSC)、Bielik.AI、Dicta、H Company、Domyn、LightOn、瑞典国家超级计算学术基础设施 (National Academic Infrastructure for Supercomputing in Sweden, NAISS) 以及瑞典国家图书馆 KBLab、斯洛伐克共和国、技术创新研究院 (Technology Innovation Institute, TII)、伦敦大学学院、卢布尔雅那大学与 UTTER 等模型构建商以及 AI 联盟正在与 NVIDIA 携手,利用NVIDIA Nemotron技术优化其模型,以最大限度提高包括代理式 AI 在内的企业级 AI 工作负载的成本效益和准确性。

模型后训练及推理任务将在欧洲地区的 NVIDIA 云合作伙伴 (NCP) AI 基础设施上运营,这些合作伙伴均接入NVIDIA DGX Cloud Leptonmarketplace。

这些开源主权模型将为反映当地语言文化特色的综合区域 AI 生态系统奠定基础。欧洲企业能够在 Perplexity 上运行这些模型。Perplexity 是一款由 AI 驱动的问答引擎,每周处理超过 1.5 亿个问题。企业还可通过与 DGX Cloud Lepton 平台集成的全新 Hugging Face 方案,调优本地 NCP 基础设施上的主权模型。

NVIDIA 创始人兼首席执行官黄仁勋表示:“欧洲的多元化是其强有力的优势,可以驱动创造力和创新发展。我们正在与欧洲的模型构建商和云提供商携手,共同构建一个智能技术开发与应用都根植于欧洲本土的 AI 生态系统,为欧洲在 AI 时代的发展奠定基础,从而推动区域内所有行业的变革。”

借助 NVIDIA Nemotron

优化模型准确度并节省推理成本

作为全球第三大经济区域,欧洲是制造业、机器人技术、医疗健康与制药、金融、能源及创意行业的聚集地。

为加速该地区的 AI 转型,NVIDIA 合作伙伴正在推出支持欧洲 24 种官方语言的开放大语言模型 (LLM)。其中一些模型还长于各国语言和文化,例如法国的 H Company 和 LightOn、意大利的 Domyn、波兰的 Bielik.AI、卢布尔雅那大学和斯洛伐克共和国的模型、西班牙的 BSC、瑞典的 NAISS 和 KBLab、阿拉伯联合酋长国的 TII 以及英国伦敦大学学院的模型。

这些大语言模型将采用 NVIDIA Nemotron 模型构建技术进行蒸馏(包括神经架构搜索技术),以及基于 NVIDIA 精选合成数据的后训练和强化学习。这些优化将降低运营成本,并通过在推理过程中更快地生成 Token 来提升用户体验。Nemotron 后训练工作负载将在欧洲 NCP (包括 Nebius、Nscale 和 Fluidstack) 托管的 DGX Cloud Lepton 平台上运行。

开发者能够通过全新NVIDIA NIM微服务,将这些主权模型作为 NIM 微服务部署至本地或跨云平台的 AI 工厂。该服务支持托管在 Hugging Face 上的超过 10 万个公开、私有及领域专用的 LLM。

将欧洲的主权 AI 洞察整合到 Perplexity 平台

为支持该地区企业实现 AI 多样性发展,Perplexity 将主权 AI 模型集成到其回答引擎中,欧洲企业、出版商和机构(包括电信和媒体巨头)均采用该引擎。Perplexity 平台采用 LLM 来提高搜索查询和 AI 输出的准确性。该回答引擎可实时引用可靠信息源,通过内嵌文献标注提供精准解答,开展深度研究并完成辅助任务。

“Perplexity 的目标是为用户提出的任何问题提供准确、值得信赖的答案,无论他们身处何处”,Perplexity 联合创始人兼首席执行官 Aravind Srinivas 表示。“将经 NVIDIA 优化的主权 AI 模型引入 Perplexity,并通过在本地构建和运行 AI,为欧洲提供创新动力。”

可用性

欧洲模型构建商打造的首批蒸馏模型预计将于今年晚些时候推出。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • NVIDIA
    +关注

    关注

    14

    文章

    5682

    浏览量

    110079
  • AI
    AI
    +关注

    关注

    91

    文章

    40855

    浏览量

    302459
  • 模型
    +关注

    关注

    1

    文章

    3810

    浏览量

    52244

原文标题:GTC 巴黎 | NVIDIA 携手欧洲模型构建商及云提供商,共同推动该地区 AI 的飞跃发展

文章出处:【微信号:NVIDIA-Enterprise,微信公众号:NVIDIA英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    NVIDIA开放模型助力构建下一代数字健康智能体

    NVIDIA Nemotron 系列开放模型NVIDIA NeMo 库正在为临床医生、研究人员和开发者提供开放权重和方法,使他们能够在自有的基础设施上构建和部署定制化的数字健康智能
    的头像 发表于 03-25 09:46 353次阅读

    NVIDIA与亚马逊云科技深化合作伙伴关系

    NVIDIA 和亚马逊云科技 (AWS) 扩展双方合作,增强在 AWS 平台上的由 NVIDIA 驱动的数据处理能力,并增加对 NVIDIA Nemotron 开放
    的头像 发表于 03-23 15:17 404次阅读

    NVIDIA 成立由全球领先 AI 实验室组成的 Nemotron Coalition,推动开放前沿模型发展

    新闻摘要: ● NVIDIA Nemotron Coalition 是模型构建者和 AI 实验室的首个此类全球合作项目,致力于通过共享专业知识、数据和计算来推进开放前沿基础模型的发展。
    的头像 发表于 03-17 11:14 270次阅读
    <b class='flag-5'>NVIDIA</b> 成立由全球领先 AI 实验室组成的 <b class='flag-5'>Nemotron</b> Coalition,推动开放前沿<b class='flag-5'>模型</b>发展

    NVIDIA Jetson模型赋能AI在边缘端落地

    开源生成式 AI 模型不再局限于数据中心,而是开始深入到现实世界的各种机器中。从 Orin 到 Thor,NVIDIA Jetson 系列正在成为运行 NVIDIA Nemotron
    的头像 发表于 03-16 16:27 563次阅读
    <b class='flag-5'>NVIDIA</b> Jetson<b class='flag-5'>模型</b>赋能AI在边缘端落地

    全新NVIDIA Nemotron 3 Super模型重磅发布

    一款全新的开放 1,200 亿参数混合式 MoE (mixture‑of‑experts) 模型,专为 NVIDIA Blackwell 进行了优化,可解决拖慢自主智能体工作流的长时推理和上下文爆炸的成本难题。
    的头像 发表于 03-16 16:22 451次阅读

    利用NVIDIA Nemotron开放模型构建智能文档处理系统

    基于 NVIDIA Nemotron 开放模型的 AI 驱动文档智能,增强科学研究、金融和法律等领域工作流。
    的头像 发表于 02-25 11:21 635次阅读

    NVIDIA 推出 Nemotron 3 系列开放模型

    token 数。 ● Nemotron 通过先进的强化学习技术以及大规模并行多环境后训练,实现了卓越的准确率。 ● NVIDIA 率先推出整套前沿的开放模型、训练数据集及强化学习环境与
    的头像 发表于 12-16 09:27 787次阅读
    <b class='flag-5'>NVIDIA</b> 推出 <b class='flag-5'>Nemotron</b> 3 系列开放<b class='flag-5'>模型</b>

    NVIDIA推动面向数字与物理AI的开源模型发展

    NVIDIA 发布一系列涵盖语音、安全与辅助驾驶领域的全新 AI 工具,其中包括面向移动出行领域的行业级开源视觉-语言-动作推理模型(Reasoning VLA) NVIDIA DRI
    的头像 发表于 12-13 09:50 1501次阅读

    使用NVIDIA Nemotron RAG和Microsoft SQL Server 2025构建高性能AI应用

    搜索和调用外部 AI 模型的 SQL 原生 API。NVIDIA 与微软共同将 SQL Server 2025 与 NVIDIA Nemotron RAG 开放
    的头像 发表于 12-01 09:31 978次阅读
    使用<b class='flag-5'>NVIDIA</b> <b class='flag-5'>Nemotron</b> RAG和Microsoft SQL Server 2025构建高性能AI应用

    利用NVIDIA Cosmos开放世界基础模型加速物理AI开发

    NVIDIA 最近发布了 NVIDIA Cosmos 开放世界基础模型(WFM)的更新,旨在加速物理 AI 模型的测试与验证数据生成。借助
    的头像 发表于 12-01 09:25 1362次阅读

    NVIDIA Nemotron模型如何推动AI发展

    Nemotron 开源技术能够帮助开发者与企业构建强大的通用和专用智能系统。
    的头像 发表于 10-13 11:12 1158次阅读

    NVIDIA Nemotron Nano 2推理模型发布

    NVIDIA 正式推出准确、高效的混合 Mamba-Transformer 推理模型系列 NVIDIA Nemotron Nano 2。
    的头像 发表于 08-27 12:45 1987次阅读
    <b class='flag-5'>NVIDIA</b> <b class='flag-5'>Nemotron</b> Nano 2推理<b class='flag-5'>模型</b>发布

    Votee AI借助NVIDIA技术加速方言小语种LLM开发

    Votee AI 利用 NVIDIA 的 GPU 硬件、NeMo Curator 数据处理软件、NeMo Framework 模型训练框架及 Auto Configurator 优化工具,高效构建
    的头像 发表于 08-20 14:21 1000次阅读

    欧洲联手NVIDIA打造AI基础设施

    NVIDIA 于近日宣布,其正在携手欧洲各国、科技和行业领导者,共同建造 NVIDIA Blackwell AI 基础设施,以强化数字主权、支撑经济增长,并推动
    的头像 发表于 06-16 14:25 1622次阅读

    ServiceNow携手NVIDIA构建150亿参数超级助手

    Apriel Nemotron 15B 开源大语言模型 (LLM) 使用 NVIDIA NeMo、NVIDIA Llama
    的头像 发表于 05-12 15:37 1040次阅读