由Google开发并集成在Gboard键盘中的新功能Proofread，Proofread利用了大语言模型的强大能力，以一种创新的方式改善了用户的打字体验。具体来说，Proofread能够通过简单的一次点击，实现句子级和段落级的文本纠错。例如，你在智能手机上快速打字，但由于屏幕小，手指粗，很容易出错。传统的纠错方法可能需要你慢下来，仔细检查每个词，或者在打错后手动一个个修正。Proofread功能就是为了解决这个问题，让你即使快速打字也能保持文本的准确性。
主要功能和特点：
- 单次点击纠错：用户只需轻触一次，即可对整个句子或段落进行错误检查和修正。
- 高质量文本修正：Proofread不仅检测语法错误，还能保持原文意图不变，提供高质量的文本修正。
- 系统性方法：从数据生成、指标设计、模型调优到部署，整个系统都经过精心设计。
工作原理：
- 数据生成：通过一个合成错误的框架来模拟用户输入时可能犯的错误，然后利用Gboard的内置功能来修正这些错误，生成训练数据。
- 多维度指标设计：包括精确匹配比率、语法错误比率、意义变化比率等，以全面评估模型质量。
- 两阶段模型调优：首先通过监督式微调（SFT）提高基础质量，然后通过强化学习（RL）进行针对性优化，提高修正性能。
- 模型部署：使用Google的TPU v5芯片，并通过量化、桶推理、文本分割和推测性解码等技术优化延迟。
具体应用场景：
- 移动设备输入：Proofread功能特别适用于移动设备上的Gboard键盘，帮助用户在小屏幕上快速、准确地输入文本。
- 实时文本编辑：在需要快速生成或编辑文本的场景中，如社交媒体、即时通讯等，Proofread可以提供实时的文本质量保证。
0条评论