在Windows 11操作系统中,Windows Copilot Runtime 是一项伴随24H2版本(2024年更新)及之后版本推出的新系统,它整合了多种轻量级AI模型及其它组件,共同为操作系统内的AI特性提供支持。
什么是Windows Copilot Runtime?
Windows Copilot Runtime是一个创新系统,结合了AI架构、开发工具链、新推出的Windows Copilot库以及在设备上直接运行的AI模型,共同为应用程序及特性赋予AI能力。尽管你可能熟悉Windows 11中以“Copilot”为品牌的聊天机器人AI功能,但Windows Copilot Runtime实际上是一个不同的概念。这一系统直接构建于硬件基础层之上,特别是指NPUs(神经处理单元)和GPUs(图形处理单元),这些是执行AI任务的核心组件。
系统层次结构
第一层
首层包含了诸如DirectML、ONNX Runtime、PyTorch、WebNN等AI开发框架,以及Olive、Visual Studio Code的AI工具包等开发工具。
第二层
第二层则包含了“Windows Copilot库”及“设备端AI模型”。其中,“Windows Copilot库”为开发者提供了一组新的API,便于在应用中集成AI功能。此层尤为关键,因为它包含了超过40个AI模型,这些模型在本地设备上并行运行,支撑了许多新颖的AI体验,比如存在争议的Windows Recall、Windows Studio音效、自动超分辨率、语音清晰度增强、画图应用的Cocreator功能、图片风格转换等。
此外,该层还集成了Phi Silica小型语言模型(SLM)及其他模型,如光学字符识别(OCR)、屏幕区域识别、自然语言解析、图像编码、向量嵌入、增强检索生成(RAG)、文本摘要及用户行为分析。
第三层
最后,第三层是应用程序层,这些应用利用上述功能提供AI体验。开发者需通过调用Windows Copilot Runtime来整合这些新AI特性。
Copilot for Windows 11的演变
Copilot在Windows 11中的形态正在转变,从操作系统级别的集成演变为一个简单的网页应用,通过网络连接至云端的Copilot AI。这意味着Copilot将继续依赖云服务处理数据并生成回复,而由于这一变化,“Win+C”快捷键已被取消,且聊天机器人不再能直接调整系统设置。
不过,微软正计划推出“Copilot建议”作为体验的延伸,不再是要求聊天机器人执行设定更改或特定任务,而是由Copilot主动提出操作建议。例如,在设置应用中,Copilot可能会提议修复问题或调整设置;在文件资源管理器中,用户能直接从右键菜单使用去除图片背景的功能。通过通知提示,Copilot还能提议为收到的文档生成摘要。此外,Copilot还将融入照片和画图等更多应用。
尽管Copilot应用需要互联网连接,但大多数新的AI特性将借助Windows Copilot Runtime实现在无网络环境下运行。
Windows Copilot Runtime能否卸载?
与可独立移除的Copilot应用不同,作为操作系统组成部分的Windows Copilot Runtime并未提供卸载选项。同时,微软并未限制开发者仅使用系统自带的设备端模型;开发者可自行引入AI模型以增强其应用功能。
综上所述,Windows Copilot Runtime是一个运用设备端AI模型赋能微软及选择该体系的开发者所开发的AI特性的全新系统,它与Windows 11中的Copilot应用是两个独立的概念。
0条评论