Synapse Software 应用 TurboQuant 技术以降低 AI 文档处理成本

Gate News 消息,4月15日——Synapse Software 已将由谷歌研究(Google Research)开发的向量量化算法 TurboQuant 集成到其 Synap OCR IX 解决方案中,以增强文档 AI 能力,同时降低企业采用 AI 的成本。

TurboQuant 会压缩大型语言模型 (LLMs) 和视觉语言模型 (VLMs) 使用的 KV 缓存,从而在处理长文档时降低内存消耗。这使得在相同的 GPU 基础设施上实现更快的数据处理。该技术解决了先前需要昂贵 GPU 基础设施的内存瓶颈,尤其是在处理扩展上下文和大批量处理且不出现性能下降的场景中。

Synapse Software 还支持企业使用基于 CPU 的环境,以应对无法部署 GPU 基础设施的情况。通过精确度剖析,该公司实现了仅使用 CPU 的推理处理能力:每分钟约 100 份文档,且质量损失控制在 1% 以下,从而降低总拥有成本 (TCO)。灵活的基础设施方案使 AI OCR 能够在对安全敏感的领域(如金融和公共行政)中采用;在此前,当部署在本地(on-premises)以及基础设施限制曾阻碍 AI 落地。

免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明

相关文章

Liquid 为 24/7 多资产交易平台融资 $18 Million

Liquid 宣布已通过 $18 million 的种子轮融资筹集资金,以扩展其多资产交易平台。该平台可持续提供对加密货币、股票、商品、外汇以及 IPO 前资产的持续访问。该轮融资由 Neo 和 Left Lane Capital 共同牵头,并有多家风险投资机构参与。

GateNews1小时前

英伟达与Doosan Robotics合作,将人工智能工具集成到工业机器人中

英伟达于4月29日与韩国工业机器人制造商Doosan Robotics公司会面,探讨将后者的机器人操作系统与英伟达的人工智能工具集成,用于工业应用。

GateNews3小时前

0G Labs 借助 TEE 验证推出 0G 私有计算机:面向隐私保护的 AI 推理

Gate 新闻消息,4月29日——0G Labs 已正式推出 0G 私有计算机,这是一种由可信执行环境 (TEE) 技术驱动的隐私保护推理服务,面向 AI 代理与开发者。用户可通过 pc.0g.ai 访问该服务。 该平台在硬件隔离环境中使用 Intel TDX CPU 和

GateNews3小时前

Formas.AI 获 Vertex Ventures 领投 398 万美元 Pre-Seed 融资

新加坡的 Formas.AI 为建筑、工程和施工构建 AI 设计软件 (AEC),在由 Vertex Ventures Southeast Asia & India 牵头的种子前轮融资中,融资额为 398 万美元(US$3.98 million)。其他投资方包括 UntroD Capital、Hustle Fund、Big Sky Capital、Orvel Ventures,以及

Crypto Frontier6小时前

基于比特币网络的全球账户:Grid 集成 65 个国家的法币与加密货币,让 AI 自动付款

Grid Global Account 将法币、稳定币与比特币整合于同一钱包,并以 AI 代理协助管理与支付,实现跨境交易新模式。通过 Visa 覆盖的全球支付网络,支持多国汇兑与即时转款,企业能以稳定币/法币作为底层金流,保持去中心化与中立。

鏈新聞abmedia8小时前

庞贝考古公园以 AI 首次完成公元 79 年罹难者面部重建

据美国国家公共广播电台(NPR)4 月 28 日报道,庞贝考古公园(Parco Archaeologico di Pompei)宣布,研究人员首次利用 AI 技术对公元 79 年维苏威火山爆发中一名罹难男子的脸部进行数字化重建;根据庞贝考古公园官网公告,重建工作由庞贝考古公园与帕多瓦大学合作完成。

Market Whisper9小时前
评论
0/400
暂无评论