Gate News 訊息，4 月 15 日——Synapse Software 已將 TurboQuant（由 Google Research 開發的向量量化演算法）整合到其 Synap OCR IX 解決方案中，以強化文件 AI 能力，同時降低企業導入企業級 AI 的採用成本。
TurboQuant 會壓縮大型語言模型 (LLMs) 與視覺語言模型 (VLMs) 使用的 KV 快取，讓在處理長文件時的記憶體消耗降低。這使得在相同的 GPU 基礎設施上能更快速地進行資料處理。該技術解決過去先前因記憶體瓶頸而需要昂貴 GPU 基礎設施的問題，特別是在處理延伸情境（extended contexts）以及在不影響效能的前提下進行大量批次（large-batch processing）時。
Synapse Software 也支援企業在 CPU 為主的環境。透過精準剖析，該公司實現了純 CPU 的推論處理，平均每分鐘約可處理 100 份文件，且品質損失控制在低於 1%。這降低了總擁有成本 (TCO)。這種彈性的基礎設施策略有助於在安全性要求較高的產業推動 AI OCR 的採用，例如金融與公共行政等領域；過去，由於本地部署（on-premises deployment）以及基礎設施限制，這些場景曾難以落實 AI 應用。
