情报 谷歌宣布向所有开发者全面开放Gemini 1.5 Pro的200万个Token的上下文窗口功能

谷歌宣布向所有开发者全面开放Gemini 1.5 Pro的200万个Token的上下文窗口功能,为了应对成本上升,帮助开发者在面对多个提示时减少重复使用相同Token的成本,谷歌在Gemini API中为Gemini 1.5 Pro和1.5 Flash版本都引入了上下文缓存功能,以提升开发效率并降低成本。 官方介绍:h... 阅读全文