云服务
收藏我的收藏
介绍
抖音云是服务于抖音开放生态的一站式后端服务托管平台,为 AI 分身应用开发者提供后端服务的开发、部署、运行、监控、运维的一站式开发体验。
- •提升研效:一体机式后端服务托管平台,免登录免鉴权云调用降低接入门槛。首次接入 3~14 人天,迭代减少 0.5 人天起。
- •提升安全性:服务端与抖音开放平台 OpenAPI 走内网专线。
- •提升稳定性:通过 Serverless 弹性伸缩的服务、开箱即用的的运维监控等产品能力提高稳定性。
分环节说明
为应用开通抖音云并初始化云资源
为应用开通抖音云
选择应用 | 开通抖音云 | 进入「总览页」 |
初始化云资源:新建服务及开通数据库
步骤 | 详情 |
新建服务 | 说明
|
新建触发器 | |
开通数据库 | 注意 请点击顶部导航栏的环境,切换到 dev 开发环境、prod 生产环境,分别获取存储组件配置,并将其写入服务的环境变量。 部署到dev 和 prod 环境是同一个版本的代码,如硬编码存储组件配置会导致发布上线后不可用! |
开通大模型 | 目前仅支持 doubao-lite-32k doubao-pro32k 两款大模型。 如有豆包系列其他模型诉求,可联系运营申请开通。豆包系列外模型不支持。 注意 接入推理点ID 将通过环境变量默认注入到服务中,KEY 规范为 MEP_{推理接入点大写名称},例如 MEP_DYDEFAULT_DOUBAO_PRO_32K |
AI 分身后端服务开发与部署
开发调试
VSCode 安装 「AI 分身开发插件」后进行本地开发和调试。调试前需前往控制台的「服务列表」开启「本地调试」。
从环境变量中读取配置信息
抖音云 dev 开发环境、prod 生产环境资源隔离,为提升开发效率,系统会将相关环境配置信息注入到服务的环境变量中。请通过环境变量读取相关信息。
抖音 AI 分身开发者工具在启动调试时,也会将环境变量注入。如果获取值为空,Vscode插件需要升级到 >= 1.0.11,并重启Vscode。
可在服务详情页的服务设置中查看环境变量
go代码获取环境变量参考如下代码
import os modelEP:= os.Getenv("MEP_DYDEFAULT_PRO_32K")
组件 | 环境变量 Key |
MySQL |
|
Redis |
|
MongoDB |
|
大模型 | 每个推理节点注入一条环境变量,KEY 规范为 MEP_{推理接入点大写名称},例如 MEP_DYDEFAULT_DOUBAO_PRO_32K。 注:因为环境变量不支持字符-,-会转为_。
|
部署服务
因服务的发版需要经过审核,暂不支持直接在抖音云控制台进行部署、回滚。
- 1.请先前往 IDE 进行发布,此时会将服务部署到抖音云 dev 开发环境。
- 2.然后在开放平台「开发-版本信息」,选择测试版本提交审核,预计 3 个工作日内获得审核结果。
- 3.通过审核后,可选择选择「立即全量发布」或「灰度发布」。此时会部署到抖音云的 prod 生产环境。
部署发布 | 灰度上线 |
构建并部署 | 灰度时,可查看灰度版本及线上版本的监控、日志、实例详情。 调整流量到 100% 后完成全量上线。 |
调用大模型能力
- •调用大语言模型:调用大语言模型 支持调用大语言模型(doubao-lite-32k、doubao-pro-32k)
- •调用向量化模式:调用向量化模型 支持调用向量化模型(doubao-embedding-large、doubao-embedding)
云服务配置
| 推荐配置 | 案例: |
服务 | 单个实例所承载的最大请求并发数为 100,同一实例多并发请求只计算一次内存使用量,可大幅减少开销。
| 以某一个客户为例,云服务月销近 200 元
prod 环境配置「2GiB * 2 节点」 包年包月 160 元 可选
|
数据库 | 开通后系统默认会注入高负载告警规则,收到告警后可在控制台进行升配。
prod 线上环境「1GiB * 2 节点」 包年包月 80 元
| |
大模型 | 按照实际调用量扣费,不调用不产生费用。
| |
运维
查看账单并充值开票
计费模式参考如下文档,如有疑问可反馈至对接运营。
- •产品定价:产品定价
- •模型服务计费:模型服务计费
抖音云应用主体与 AI 分身应用保持一致,充值时不限来源,可个人、企业转账。开发票仅限于当前实名认证主体。
如需通过不同实名认证主体(母公司、服务商代付)支付和开发票,需要在火山引擎注册渠道账号后,将 AI 分身应用授权关联渠道后,从渠道账户划拨资金给 AI 分身应用使用。接入流程请联系对接运营。
常见问题
下线互动插件后关闭抖音云服务
步骤 | 说明 |
关闭组件、删除服务后将不再扣费 | |
账号余额提现 | 开通按量付费产品后,账号将会预留 100 元不可提现。 你需要先关闭组件、删除服务后再联系我们为您退订开通的云产品,退订后将不再预留 100 元。 |