ChatGPT 限流,生成式大模型触碰算力天花板?
2023-04-13 10:12:00 小编 人浏览

ChatGPT恢复了Plus付费购买,GPT-4又能“花钱”使用了。但有不少用户发现,最近这个增长最快的对话机器人的响应速度变慢了不少,之前,它还出现过大规模封号和时常掉线的情况。

4月5日,ChatGPT Plus付费功能的停摆已经引发外界对AI算力供给不足的担忧。当前,市面上已经不仅ChatGPT一个文本生成大模型的应用了,同类产品有谷歌的Bard、百度的文心一言,市面上还有图片、音视频、3D效果甚至App的生成式AI大模型。

多模态大模型井喷式出现,支撑它们的算力还够吗?

目前,供给主流AI大模型的高性价比芯片是英伟达的A100,从去年开始,英伟达就在向代工厂台积电下急单,催产多种芯片,其中就包括A100,足见当前AI算力的紧俏。而OpenAI关于GPT-4.5、GPT-5的推出已经列出了时间表。

爱丁堡大学超级计算中心马克·帕森斯的预言正在成真,“算力会成为AI大模型发展的阻碍”,除了高性能芯片量产的局限性之外,还有芯片带宽的问题亟待解决。

ChatGPT暂停付费服务引发算力担忧

“因为需求量太大,我们暂停了升级服务”,这是4月5日ChatGPT停止Plus付费购买功能时给出的理由,当时距离它开通Plus功能仅仅2个月。

一天后,ChatGPT又恢复了Plus的订阅,人们又能以每月20美元的价格享受会员服务了,包括使用最新模型GPT-4、在高峰时段正常访问、拥有更快的响应速度等等。当有会员用户感觉,ChatGPT的响应速度变慢了,宕机时总是显示“Oops”的遗憾声的页面越来越频繁地出现,“服务器跟不上了?”

4月5日,ChatGPT暂停Plus付费服务

哪怕在停售Plus之前,ChatGPT突然无法使用的情况也大规模地发生过。3月20日,它曾全球性宕机12小时,付费用户也未能幸免,官方公布的原因是“数据库迁移”;到了3月30日,有大量亚洲用户发现被封了号,“用访问范围门槛减少访问量”的怀疑声出现。

降低访问量的确是ChatGPT研发方Open AI在做的事。近期,该公司多次下调付费用户的访问次数,起初,用户可以每四小时和GPT-4对话100次;不久后,下降到每四小时50次;再之后,变成每三小时25次。但即便如此,社交网络上仍然有不少人在反馈,ChatGPT掉线的频率在增加。

随着用户量的增加,ChatGPT已经暴露出访问响应速度跟不上的问题,而OpenAI似乎并不打算停止模型的升级。

本资讯链接: - 外星视界
声明:本文版权归原作者所有,发布此文为传递更多市场信息,不代表外星视界的观点和立场,请自行参考。如作者信息标记有误,请第一时间联系我们处理!

回顶部