写在OpenAI API 封禁后，国内大模型 API 性能与替代方案总结
输入“/”快速插入内容
写在OpenAI API 封禁后，国内大模型 API 性能与替代方案总结
写在OpenAI API 封禁后，国内大模型 API 性能与替代方案总结
飞书用户7250
飞书用户66132024年8月2日修改
📌
这篇文章简单讲下这次 OpenAI API 封禁和以往有什么不同，同时通过对国内大模型 API 性能指标对比，看看哪家大模型厂商提供的 API 最值得采用，本期内容都是干货，重点在末尾。
莫尔索随笔
跟踪LLM(大语言模型)最新动态，分享第一手LLM 实践经验，致力于打造个人LLM 应用开发全栈指南！
74篇原创内容
公众号
封禁事件起源
OpenAI API 禁止国内使用的消息，在科技自媒体的带动下，刷爆了各个社群，整个事情的源头就是某开发者贴出来的一张来自官方的邮件通知截图，如下所示：
OpenAI API 禁止国内使用
动动手翻译为中文，看看到底说了啥。
OpenAI API 禁止国内使用的消息
API 封禁行为其实一直都存在，去年 11 月份，今年 3 月份，都有大批量的封禁出现，没有什么值得大惊小怪的。从 ChatGPT() 发布第一天起，隐私协议已经明确说明国内就不在其服务支持范围内，但也不妨碍每天看到很多国内自媒体的 GPT 演示，而且国内大部分软件使用的 API 都不是直接在官方付费的，而是用的转发的 API。
不过之前使用在美国的服务器做转发的方案，这次恐怕也会面临封禁风险，以往都是根据 IP 追踪请求来源，本次貌似会做请求内容抽样检测，大白话解释就是系统检测到你利用 API 访问 ChatGPT 时，大多数时候提问语言都是中文，那就会被标记。
国内大模型也够用？
如果是一年前的这个时候，用不了可能真的会傻眼，但是国内大模型经过一年的发展，已经大幅缩小了与 OpenAI 的差距，大部分日常的场景，都是满足需求的，不过这是面向 C 端的。
那面向开发者的 API 服务支持的怎么样呢，昨天 OpenAI 封禁消息一发布，百度文心、智谱 AI()、通义千问就立即发布了官方通知，为开发者们提供了免费和低价的 API，下面就是大模型厂商们提供的 API 搬家贴心服务。
API 服务具体怎么样
熟悉我的读者知道我前不久做了一个大模型 API 价格汇总网站，同时对豆包大模型开发者支持能力做了一次大摸底，在这两次产出的基础上，我推出了一个国内大模型 API 性能监控网站，自动实时更新的，支持查看每家模型的首 token 时延（TTFT），每秒输出 token 数（TPS）、输入输出价格、支持的上下文长度等统计，并且点击模型名称可以一键抵达模型介绍页。
国内大模型API指标收集
可以对任意多个模型的性能进行比较：
比较模型
支持对单一指标进行排序：
对TTFT进行排序
（注：由于百川智能 API 访问持续 429，腾讯混元和百度文心不支持以兼容 OpenAI API 的方式访问，暂未收集，后续适配加入采集）
交流与合作
如果希望和我交流讨论，或参与相关的讨论群，或者建立数据合作，欢迎后台私信联系。
莫尔索随笔
跟踪LLM(大语言模型)最新动态，分享第一手LLM 实践经验，致力于打造个人LLM 应用开发全栈指南！