SambaNova Systems 的首席执行官 Rodrigo Liang 表示,企业客户现在可以同时享受到高速和高精度的 AI 服务。"SambaNova Cloud 不仅提供快速的 70B 模型支持智能 AI 系统,也提供最高精度的 405B 模型,以满足对最佳结果的需求。"
SambaNova Cloud:速度与精度的结合
- 快速推理服务:SambaNova Cloud 允许开发者免费使用 API,体验极速的 AI 推理服务。
- 高精度模型:Llama 3.1 405B 模型以每秒 132 个 Token 的速度运行,确保了处理的完全精度。
技术创新:SN40L AI 芯片
SambaNova Cloud 的卓越性能得益于 SN40L AI 芯片,该芯片采用独特的数据流设计和三级存储架构,大幅提升了 AI 模型的运行速度和效率。
独立基准测试:行业领先
根据独立基准测试,SambaNova Cloud 在 Llama 3.1 405B 云 API 端点上实现了每秒 132 个输出 Token 的记录速度,超越了其他顶尖 AI 服务提供商。
开发者友好:灵活的模型选择
开发者现在可以在 SambaNova Cloud 上自由选择使用 Llama 3.1 8B、70B 和 405B 模型,快速构建和部署自己的生成式 AI 应用程序。
合作与应用案例
- Bigtincan Solutions:通过与 SambaNova 的合作,Bigtincan SearchAI 的效率提高了 300%,能够以更快的速度运行强大的开源模型。
- Blackbox AI:通过集成 SambaNova Cloud,Blackbox AI 为全球数百万开发者提供了前所未有的快速构建产品的能力。
SambaNova Cloud:现在可用
SambaNova Cloud 目前提供三个服务层次:免费层、开发者层和企业层,以满足不同用户的需求。
关于 SambaNova Systems
SambaNova Systems 致力于为企业提供最先进的生成式 AI 功能,我们的企业级 AI 平台是下一代 AI 计算的支柱。公司成立于 2017 年,总部位于加利福尼亚州帕洛阿尔托。
0条评论