价格战
推理成本雪崩,大模型卷进了价格战
2024年5月22日,今天阿里刚把9款大模型降价、百度直接把文心两款模型免费,我复盘了一遍从5月6日DeepSeek v2点火的这轮大模型价格战,越想越觉得它像十年前的流量大战。
如今大模型的战场,让我感觉像回到了12年、13年:滴滴和快滴的补贴大战,还有O2O市场的千团大战。
卷价格,甚至直接免费,真的梦回十年前。
如果一定要给国内大模型的价格战找一个起点,我觉得是今年的5月6号。
那一天,有一个在AI圈好像名不见经传的公司发布了一个新模型,叫DeepSeek v2。
那天我第一次看到DeepSeek v2,心里的第一想法是:这又是谁的东西,怎么跑分直接打平LLaMA3-70B了?大概查了下,哦,幻方啊,国内首屈一指的量化私募,囤卡无数,手上有万卡A100集群,能做出这个模型不意外。
那天坦率地讲,我完全没意识到这个模型带来的蝴蝶效应有多恐怖,因为我当时没注意到一个非常非常重要的指标:推理成本。
每百万tokens的价格,输入1块钱、输出2块钱,价格为GPT-4-Turbo的七十分之一、Claude3 Opus的百分之一、GLM4的百分之一。在能力差不了太多的情况下,价格被打成了这样。
直到第二天,当我看到铺天盖地的对比数据时,我才察觉到:可能,要变天了。
推理成本降低的速度,远远超出我们的预期。
当原来昂贵、遥不可及的推理成本,降低到一种近乎于不要钱的形态,对这个社会、这个行业的冲击有多恐怖?
上一次这种极致的成本降低,诞生在十几年前,那时候上网用的还是3G。我依稀记得,我用着非常小的破山寨机,开着5块钱30M的流量,在QQ家园里玩着图片都不敢开的文字游戏,一天只舍得用1M。同学有时候跟我恶作剧,趁我不在把我的UC浏览器无图模式给关了。等我回来打开网页,看着一张张加载的图片、看着飞逝的流量,我经常有想把他们揍死的心。那时候流量就是白花花的钱,就是我们仅有的跟这个世界沟通的命。
那时候钱还值钱,套餐外的流量还要花钱买:超出套餐外的流量是0.01元/KB,如果你超了1个G,就要10000块钱。
那可是2009年的10000块钱啊!
2010年,乔布斯发布了震撼世界的iPhone4。同一年,小米终于凑齐了梦之队,搬进了他们的新家银谷大厦。
4年后,4G来了。这一次,套餐外1GB的价格变成了100块钱,下降了99%。
再然后,腾讯带着联通,拿着王炸腾讯王卡冲了出来,套餐外的1GB价格变成了1块钱。
再然后的故事,所有人都知道了:因为流量资费的降价,有两个革命性的场景崛起——短视频,还有直播。
你说,2009年抱着手机玩文字游戏的我,会想到因为流量成本的降低,十年后人人都可以随时随地直播、随时随地刷视频吗?
这就是成本降低带来的蝴蝶效应:会有新的信息进入、新世界的开发、全新场景的涌现。
现在,我们又一次站在了2009年的节点上。只不过这一次名字换了,从流量成本变成了推理成本,从曾经的3家角逐变成了百模大战。
各大竞品的动作速度也出奇地快,直接开卷:
5月6日,DeepSeek v2发布,32K上下文,每百万Token价格:输入1元,输出2元。
5月11日,智谱宣布GLM-3-Turbo降价,128k上下文,每百万Token价格:输入1元,输出2元。
5月15日,字节发布豆包通用模型pro(32K),每百万Token价格:输入0.8元,输出2元;豆包通用模型pro(128K),每百万Token价格:输入5元,输出9元。
5月21日,阿里宣布9款大模型降价,对标GPT-4的Qwen-Long,每百万Token价格:输入0.5元,输出2元。
同日下午,百度宣布文心大模型两款模型直接免费。
要知道,在5月15号豆包发布的当天,百度是这么说的:"使用大模型不应该只看价格,更要看综合效果,只有让AI应用效果更好、响应速度更快、分发渠道更广,才能让人们切实感受AI为社会生产带来的便利。"
嗯……
这是一场战争。
经历过那个残酷的互联网时代的公司都清楚,这个时候已经不是钱的问题,是命的问题。地上拢共就这么几个坑,你就说,你占不占吧?
要么死,要么跟。
而且这一波降价的都是API,可以明确看到,大家要的是开发者的资源。开发者,是缔造应用生态的人。
在各大厂商在C端疯狂投放、ROI越来越低的情况下,AI聊天机器人的产品形态弊端就非常凸显:下沉不下去了。需要开发者更多地去造应用、造产品,然后帮助模型厂商去触碰他们曾经触碰不到的用户。
开发者就那么多人,你说,你抢不抢吧?
现在是直接免费不要钱,下一步就是给开发者补贴;再下一步,直接送模型送算力。
不要以为这是不可能的事,国内的商战就是如此朴实无华,先特娘的熬死对手再说。
而且AI时代还有个很有意思的特点:数据飞轮。
AI时代众所周知的三要素:算法、数据、算力。数据在非常重要的位置,甚至对很多大模型公司来说,数据就是命根子。而最好的数据飞轮就是:既做上层应用,也做模型,直接用一个产品把大模型送到用户面前——模型不断跟用户产生交互,用户不断为模型生成新数据。最典型的就是Midjourney,每次给你生成4张图,你会选一张觉得最好的输出或优化,这是一个非常强行的反馈机制,更是一个巨大的数据飞轮。
你也不用觉得大模型公司会善心大发不拿你的数据去训练大模型,这是不可能的。相信我,一定会用。
简单说就是:用得越多,数据越多,清洗完当数据集拿去训练以后,模型越牛逼。
这也代表着寡头效应会越来越强,直到遇到瓶颈。
而现在,开发者就这么多,用户就这么多,那边To C的在疯狂烧钱抢人,那这边To开发者的呢?但凡有一个开始卷,其他人也只能被逼着往前卷。
还是那句话:要么跟,要么死。
对于普通开发者、普通用户来说,这是一个类似于2013、2014年、对消费者来说最好的AI时代。
但对于AI公司来说,这绝对是一个至暗时刻。
残酷的淘汰赛,要开始了。