“降价的基本逻辑是，咱们有信心用手艺技能裁减本钱，市集也需要更廉价的大模子。”

5月15日，字节向上豆包大模子在火山引擎原能源大会上淡雅发布。火山引擎总裁谭待在接管媒体采访时，谈到了大模子的订价战略。

豆包大模子的超廉价钱激勉行业改革。据悉，豆包主力模子的推理输入价钱独一0.0008元/千Tokens，比行业低廉99.3%。对此，谭待坦言，“降价是用手艺优化本钱来已矣的。若是仅仅补贴，用亏空换收入是不行合手续的，火山引擎不会走这条路。”

据先容，大模子推理本钱的优化，手艺上有许多技能。领先是模子自身，模子结构、考试法式齐不错合手续矫正，包括业界很温煦的MoE（羼杂大师模子），便是优化推理本钱很好的处分决策。

其次是工程上的优化。大模子的调用量越大，优化推理本钱的空间也越大。曩昔的模子齐是单机推理，大模子用的是漫衍式推理。是以若是能把各式各类的底层算力用得更好，推理本钱就会大大裁减。

谭待进一步讲授说，豆包大模子平均每天处理1200亿Tokens文本、生成3000万张图片，这里有不同的负载，不错把不同任务羼杂在通盘，彼此错峰，通过智能调遣把它们的应用率齐跑得很高，就能极地面升迁资源应用率，已矣举座本钱的优化。

另外以字节里面业务为例，飞书的主要流量岑岭在使命时候，抖音不才班后失业时候的流量更高，这些不同行务的大模子推理，也能凭据业务特色错峰使用，就不错裁减本钱。

关于“大模子运转价钱战”的说法，谭待认为，大模子市集仍在发展初期，远远没到狠恶竞争的阶段。“水池有多大，鱼就有多大，目下统共水池还在培养的经过。”

“一个东谈主目下创业j9九游会，若是要花1万块钱调用大模子，可能会以为有点贵。咱们把价钱降到1%齐不到，100块钱就能用起来，他的念念法也就更容易尝试。”谭待示意，企业的AI转型充满不笃定性，试错本钱要尽量低，智商更快更多地已矣大模子的应用落地，从而让统共行业受益。

　　声明：新浪网独家稿件，未经授权阻截转载。 -->