• 0
清程极智发布AI Ping,要做模型API 服务的“智能路由”
统计 阅读时间大约3分钟(817字)

7小时前 清程极智发布AI Ping,要做模型API 服务的“智能路由”

来源:清程极智
至此,清程极智已形成八卦炉训练系统(大模型)、赤兔推理引擎(推理)和AI Ping(应用)这三大产品体系。

随着大模型应用从“能不能用”迈入“如何长期、稳定、规模化运行”的新阶段,模型 API 服务的真实表现、稳定性与调用效率、成本等正成为产业关注的话题。

清程极智便洞察到市场需求。近日,该公司便发布了一站式AI评测与API服务智能路由平台AI Ping。至此,清程极智已形成八卦炉训练系统(大模型)、赤兔推理引擎(推理)和AI Ping(应用)这三大产品体系。

清程极智联合创始人、AI Ping产品负责人师天麾介绍称,AI Ping 聚焦大模型服务使用环节,围绕模型服务评测、统一接入与智能路由等核心能力,构建起覆盖“评测—接入—路由—优化”的完整链路。平台以真实业务场景为导向,对不同厂商、不同模型 API 的延迟、稳定性、吞吐与性价比等关键指标进行长期、持续观测。

目前,AI Ping 已覆盖 30余家中国大模型API服务商 ,在统一标准与方法论下对模型服务能力进行对比分析,为企业在复杂的模型与服务选择中提供更加理性的决策参考。

谈及产品布局背后的战略思维,清程极智 CEO 汤雄超表示,AI Infra 的关注重点正在不断演进。随着 AI 应用和智能体快速发展,模型能力如何在真实业务中高效流通成为新的关键问题。基于这一背景,清程极智推出 AI Ping,一站式AI评测与API服务智能路由平台,完善大模型应用阶段的基础设施能力。

清华大学教授郑纬民认为,行业正在进入以“智能流通”为核心的新阶段,实现智能流通的关键在于智能路由能力建设,其中既包括在多模型环境下为不同任务选择最合适模型的“模型路由”,也包括在同一模型的多种 API 服务提供者之间进行性能与成本优化调度的“服务路由”。两类路由能力协同发展,将形成完整的 AI 任务分发网络,决定人工智能系统的最终效率和使用成本。

发布会现场,清程极智联合20余家大模型API服务商,共同启动《智能、可持续大模型 API 服务生态计划》。该计划未来将围绕模型服务能力评估、评测方法论建设、行业交流与成果发布等方向持续推进,推动模型 API 服务从“可用”向“好用、易用、高性价比”演进。

随着 AI Ping 平台的正式发布及生态计划的启动,模型 API 服务这一长期处于“幕后”的关键环节正逐步走向台前。清程极智CEO汤雄超表示,未来将通过持续的评测实践与开放协作,推动大模型服务向更加稳定、透明和可持续的方向发展,为人工智能在真实业务场景中的规模化落地提供支撑。

1、猎云网原创文章未经授权转载必究,如需转载请联系官方微信号进行授权。
2、转载时须在文章头部明确注明出处、保留官方微信、作者和原文超链接。如转自猎云网(微信号:lieyunjingxuan
)字样。
3、猎云网报道中所涉及的融资金额均由创业公司提供,仅供参考,猎云网不对真实性背书。
4、联系猎云,请加微信号:jinjilei
相关阅读
推荐阅读
{{item.author_display_name}}
{{item.author_display_name}}
{{item.author_user_occu}}
{{item.author_user_sign}}
×