2024欧洲杯官网- 欢迎您&

首页 关于我们 新闻中心 产品中心 解决方案 投资者关系

为 LLM 常识库提供中枢贯通智力-2024欧洲杯官网- 欢迎您&

发布日期:2024-06-29 05:35    点击次数:151

为 LLM 常识库提供中枢贯通智力-2024欧洲杯官网- 欢迎您&

IT之家 5 月 21 日讯息,字节高出在 5 月 15 日的“春季火山引擎 FORCE 原能源大会”中推出了豆包大模子(原名“云雀”),该模子主要面向行业场景,梗概提供多种图文音频生成智力,IT之家整理如下:

豆包通用模子 pro:字节高出自研 LLM 模子专科版,复古 128k 长文本,全系列可精调,具备更强的贯通、生成、逻辑等抽象智力,适配问答、转头、创作、分类等丰富场景;

豆包通用模子 lite:字节高出自研 LLM 模子轻量版,对比专科版提供更低 token 本钱、更低蔓延,为企业提供活泼经济的模子继承;

豆包・变装演出模子:个性化的变装创作智力,更强的高下文感知和剧情股东智力,知足活泼的变装演出需求;

豆包・语音合成模子:提供当然生动的语音合成智力,善于抒发多种情谊,演绎多种场景;

豆包・声息复刻模子:可在 5 秒内终了声息 1:1 克隆,对音色相似度和当然度进行高度收复,复古声息的跨语种搬动;

豆包・语音识别模子:更高的准确率及机灵度,更低的语音识别蔓延,复古多语种的正确识别;

豆包・文生图模子:更精确的笔墨贯通智力,图文匹配更准确,画面后果更优好意思,擅长对中国文化元素的创作;

豆包・Function call 模子:提供愈加准确的功能识别和参数抽取智力,合乎复杂器具调用的场景;

豆包・向量化模子:聚焦向量检索的使用场景,为 LLM 常识库提供中枢贯通智力,复古多说念话。

当天火山引擎官网更新了豆包大模子的订价细则,堪称“在模子推理订价大幅低于行业价钱的基础上,豆包通用模子的 TPM、RPM 均达到国内最高圭臬”、“价钱比行业低 99%,TPM 名额则达同规格模子的 2.7 倍到 8 倍”;此外,干系模子还可使用“预支费”、“后付费”容颜:

以豆包通用模子 pro-32k 为例: 按照 “预支费”模子单位价钱筹画,10K TPM 的包月价钱为 2000 元。10K*60*24*30=43200K。

即 432000K Tokens 的价钱为 2000 元,平均价钱为 0.0046 元 / 千 Tokens。按照“后付费”容颜筹画:在模子推理的筹画本钱中,推理输入经常占绝大部分比例,业界一般合计推理输入是输出的 5 倍。

把柄豆包通用模子 pro-32k 推理输入 0.0008 元 / 千 Tokens、推理输出 0.002 元 / 千 Tokens 筹画,模子推理的抽象价钱为 0.001 元 / 千 Tokens。

官方示意,国内其他竞品模子的 TPM 名额大多在 100K 到 300K 之间,RPM 则是在 60 到 120 区间,轻量级模子的 RPM 名额相对较高,但只是在 300 到 500 之间。按照 10K RPM 名额筹画,企业客户平均每秒不错同期调用 167 次豆包通用模子,从而知足绝大无数业务场景在坐褥系统的大模子欺骗需求。

官方同期强调,干系圭臬依然达到 OpenAI 为高档别客户( Tier4 及 Tier5 品级客户)提供的 RPM 上限。在算力挑战更大的长文本模子上,豆包通用模子 pro 和 lite 的 128k 版块,模子限流为 1K RPM 和 400K TPM,不异大幅高于国内其他的 128k 长文本模子,梗概匡助企业以较低本钱使用大模子、加快大模子欺骗落地。

告白声明:文内含有的对外跳转连气儿(包括不限于超连气儿、二维码、口令等体式),用于传递更多信息,从简甄选时代,截止仅供参考,IT之家扫数著述均包含本声明。

  声明:新浪网独家稿件,未经授权谢绝转载。 -->

----------------------------------
栏目分类
相关资讯