Azure OpenAI Service宣布了一系列新功能:包括公开预览的Assistants API、新的文本到语音(TTS)功能、即将推出的GPT-4 Turbo和GPT-3.5 Turbo模型更新、新的嵌入模型以及微调API的更新。
以下是官方介绍全文翻译:
全球开发者自2023年1月Azure OpenAI Service启动以来,一直在构建创新的生成式AI解决方案。目前,超过53,000名客户正在利用Azure强大的云和计算基础设施,探索广泛的生成式AI模型的能力。
今天,我们欣然宣布,该服务新增了众多功能、模型以及价格上的改进。其中包括公开预览的Assistants API,新的文本到语音功能,即将更新的GPT-4 Turbo预览和GPT-3.5 Turbo模型,新的嵌入模型,以及对微调API的更新。这些更新包括一个新模型,支持连续微调,以及更加合理的定价。下面,让我们深入了解这些新服务。
使用Assistants API在您的应用程序中构建信息助理体验
我们很高兴地宣布,Azure OpenAI Service的新功能Assistants现已公开预览。Assistants API让开发者能够轻松地在自己的应用程序中创建高质量的信息助理体验。以前,即使是有经验的开发者,也需要投入大量工作来构建定制AI助理。聊天补全API虽然轻量级且功能强大,但它是无状态的,这意味着开发者必须手动管理对话状态、聊天线程、工具集成、文档和索引检索,以及代码执行。而Assistants API作为聊天补全API的进化版,为这些挑战提供了解决方案。
现在,构建可定制的、专用的AI变得更加容易,您可以筛选数据、提出解决方案,并自动化任务。Assistants API支持持久和无限长的线程,这意味着作为开发者,您无需再开发线程状态管理系统,从而避免了模型上下文窗口的限制。创建线程后,您只需在用户响应时添加新消息即可。此外,Assistants可以访问多种格式的文件,无论是在创建助理时还是作为线程的一部分。Assistants还可以并行访问多个工具,包括:
- 代码解释器:这个由Azure OpenAI Service托管的工具允许您在沙盒环境中编写和运行Python代码。用例包括迭代解决具有挑战性的代码和数学问题,对用户添加的多种格式的文件执行高级数据分析,以及生成数据可视化,如图表和图形。
- 函数调用:您可以向您的信息助理描述应用程序或外部API的函数,并让模型智能地决定何时调用这些函数,并将其响应整合到消息中。
即将支持的新功能包括改进的知识检索工具。
Assistants API建立在支持OpenAI GPT产品的相同功能之上,为创建各种信息助理应用程序提供了无与伦比的灵活性。用例范围广泛,包括AI驱动的产品推荐器、销售分析师应用程序、编码助手、员工问答聊天机器人等。您可以在无代码的Assistants playground上开始构建,或直接使用API。有关Assistants定价的更多信息,请点击这里。
与我们的其他服务一样,您提供给Azure OpenAI Service的数据和文件不会用于改进OpenAI模型或任何Microsoft或第三方产品或服务。开发者可以根据需要删除数据。有关Azure OpenAI Service的数据、隐私和安全性的更多信息,请点击这里。我们建议与可信赖的数据源一起使用Assistants。使用函数调用、带文件输入的代码解释器和Assistant Threads功能检索不受信任的数据可能会危及您的信息助理或使用该助理的应用程序的安全。有关缓解方法的更多信息,请点击这里。
微调:新模型支持、新功能和更低价格
自2023年10月16日宣布Azure OpenAI Service对OpenAI的Babbage-002、Davinci-002和GPT-3.5 Turbo进行微调以来,我们已经使AI构建者能够构建定制模型。今天,我们发布了针对OpenAI的GPT-3.5 Turbo 1106的微调支持,这是一个下一代GPT-3.5 Turbo模型,具有改进的指令遵循、JSON模式、可复现的输出、并行函数调用等功能。使用GPT-3.5 Turbo 1106进行微调支持的训练数据中具有16k上下文长度,允许您使用更长的消息进行微调并生成更长、更连贯的文本。
此外,我们引入了两个新功能,使您能够创建更复杂的定制模型并轻松更新它们。首先,我们支持带函数调用的微调,让您的定制模型学会何时进行函数调用,从而提高响应的准确性和一致性。其次,我们支持连续微调,使您能够在不失去模型以前知识和性能的情况下,用新数据训练以前微调过的模型。这让您能够在不从头开始的情况下向现有定制模型添加额外的训练数据,并进行更迭代的实验。
除了新的模型支持和功能外,我们还降低了在Azure OpenAI Service上训练和托管您微调模型的成本,包括将GPT-3.5 Turbo的训练和托管成本降低50%。这使得定制模型的训练和部署更加经济高效。
即将推出:新模型和模型更新
以下模型和模型更新将于本月登陆Azure OpenAI Service。您可以在此处查看最新的模型可用性。
更新的GPT-4 Turbo预览和GPT-3.5 Turbo模型
我们推出了一个更新的GPT-4 Turbo预览模型,gpt-4-0125-preview,在诸如代码生成等任务上有所改进,并减少了模型不完成任务的“懒惰”情况。新模型修复了一个影响非英语UTF-8生成的错误。发布后,我们将开始更新使用GPT-4版本1106-preview的Azure OpenAI部署,以使用版本0125-preview。更新将在发布日期后两周开始,并在一周内完成。由于版本0125-preview提供了改进的功能,客户可能会在升级后注意到模型行为和兼容性的一些变化。GPT-4-0125-preview现在在东亚、北美中西部和南中部美国上线。gpt-4-0125-preview的定价与gpt-4-1106-preview相同。
除了更新的GPT-4 Turbo之外,我们还计划推出gpt-3.5-turbo-0125,这是一个新的GPT-3.5 Turbo模型,具有改进的定价和更高的响应准确性。我们将新模型的输入价格降低50%,至0.0005美元/1K令牌,输出价格降低25%,至0.0015美元/1K令牌。
新的文本到语音(TTS)模型
我们的新文本到语音模型可以从文本生成六种预设声音的人类质量语音,每种声音都有自己的个性和风格。两个模型变体包括tts-1,这是标准声音模型变体,针对实时用例进行了优化,以及tts-1-hd,这是高清晰度(HD)等效模型,针对质量进行了优化。这个新模型包括在Azure AI中已经可用的构建定制声音和头像的功能,并使客户能够构建完全新的体验,包括客户支持、培训视频、直播等。开发者现在可以通过两项服务访问这些声音,即Azure OpenAI Service和Azure AI Speech。
新一代嵌入模型,价格更低
Azure OpenAI Service客户一直在将嵌入模型整合到他们的应用程序中,以个性化、推荐和搜索内容。我们很高兴地宣布,新一代的嵌入模型功能更强大,能够满足各种客户需求。这些模型将于本月晚些时候上线。
text-embedding-3-small是一个新的更小且高效的嵌入模型,与它的前身text-embedding-ada-002相比,提供了更强的性能。鉴于其效率,该模型的定价为0.00002美元/1k令牌,比text-embedding-ada-002的价格低5倍。我们不废弃text-embedding-ada-002,因此如果需要,您可以继续使用上一代模型。text-embedding-3-large是我们新的性能最佳的嵌入模型,可以创建高达3072维的嵌入。这个大型嵌入模型的定价为0.00013美元/1k令牌。
这两个嵌入模型都提供了对缩短嵌入的原生支持(即从序列末尾移除数字),而不会失去其概念代表属性。这允许您在使用嵌入时在性能和成本之间做出权衡。
下一步是什么
很高兴看到开发者已经使用Azure OpenAI Service构建了什么。您可以使用我们今天宣布的产品来进一步加速企业的人工智能转型。浏览以下资源以开始使用或了解有关Azure OpenAI Service的更多信息。
- 开始使用Azure OpenAI Assistants(预览版)
- 使用Assistants GitHub仓库中的代码样本来加速开发
- 现在申请访问Azure OpenAI Service
- 查看Azure OpenAI Service的文档
- 了解有关Azure OpenAI Service的数据、隐私和安全性的更多信息
- 将“What’s New”页面加入书签,以获取有关最新和未来公告的持续更新
- 技能培训:生成式AI培训基础和Develop Generative AI Solutions with Azure OpenAI Service
0条评论