SambaNova推出最快AI推理服务SambaNova Cloud

| 分类: AI情报 | 热度: 62 ℃

SambaNova Systems 的首席执行官 Rodrigo Liang 表示,企业客户现在可以同时享受到高速和高精度的 AI 服务。"SambaNova Cloud 不仅提供快速的 70B 模型支持智能 AI 系统,也提供最高精度的 405B 模型,以满足对最佳结果的需求。"

SambaNova Cloud:速度与精度的结合

  • 快速推理服务:SambaNova Cloud 允许开发者免费使用 API,体验极速的 AI 推理服务。
  • 高精度模型:Llama 3.1 405B 模型以每秒 132 个 Token 的速度运行,确保了处理的完全精度。

技术创新:SN40L AI 芯片

SambaNova Cloud 的卓越性能得益于 SN40L AI 芯片,该芯片采用独特的数据流设计和三级存储架构,大幅提升了 AI 模型的运行速度和效率。

独立基准测试:行业领先

根据独立基准测试,SambaNova Cloud 在 Llama 3.1 405B 云 API 端点上实现了每秒 132 个输出 Token 的记录速度,超越了其他顶尖 AI 服务提供商。

开发者友好:灵活的模型选择

开发者现在可以在 SambaNova Cloud 上自由选择使用 Llama 3.1 8B、70B 和 405B 模型,快速构建和部署自己的生成式 AI 应用程序。

合作与应用案例

  • Bigtincan Solutions:通过与 SambaNova 的合作,Bigtincan SearchAI 的效率提高了 300%,能够以更快的速度运行强大的开源模型。
  • Blackbox AI:通过集成 SambaNova Cloud,Blackbox AI 为全球数百万开发者提供了前所未有的快速构建产品的能力。

SambaNova Cloud:现在可用

SambaNova Cloud 目前提供三个服务层次:免费层、开发者层和企业层,以满足不同用户的需求。

关于 SambaNova Systems

SambaNova Systems 致力于为企业提供最先进的生成式 AI 功能,我们的企业级 AI 平台是下一代 AI 计算的支柱。公司成立于 2017 年,总部位于加利福尼亚州帕洛阿尔托。

声明: 猎游人 每天为你带来最新的游戏和硬件打折情报,帮你精心挑选值得玩的游戏,让您的钱花的更值!本站信息大部分来自于网友爆料,如果您发现了优质的游戏或好的价格,不妨爆料给我们吧(谢绝任何商业爆料)!

0条评论

Hi,您需要填写昵称和邮箱!
姓名 (必填)
邮箱 (必填)
网站

暂时木有评论