云服务
云服务的地址是 https://code.theyilabs.com。你们的组织用 Yi Labs 账号登录,连上 GitHub 就能开始用,不需要安装任何东西。
架构
控制面包括 Web 应用和 API、PostgreSQL 数据库、存放轮次产物的存储,以及负责调度轮次、结算费用的 Worker。你的会话、设置、流水和产物都保存在这里。
执行池负责跑每一轮。一个执行池是同一个云、同一个地域里的一组主机,容量固定,所以轮次可以按地域调度到不同的云上。每一轮,调度器会挑一个项目允许、健康、有空闲容量、预算也够的执行池。一个都没有的话,这一轮就在队列里等,并且会提示。
执行池里的一台主机同一时间只跑一轮,有两种方式:
- 全新虚拟机:为这一轮开一台,结束后删掉。
- 预热主机:已经在运行。接下一轮之前,上一轮的所有沙箱都会被销毁,主机确认之后才接新的。清理确认不了的主机不会再用。
每台主机上,Agent 都在 gVisor 下的 OpenSandbox 沙箱里工作,没有网络。模型调用在沙箱外面进行。见安全说明。
模型是我们运行的模型部署。一个模型只有通过了工具调用和用量上报的检查才会被使用。
限制
| 上限 | |
|---|---|
| Ask 一轮 | 15 分钟 |
| Code 一轮 | 60 分钟 |
| 验证命令,改动前后各一次 | 每次 180 秒 |
| 一轮拉取的仓库源码 | 100 MB |
| 一条消息 | 30,000 个字符 |
| 知识库单个文档 | 10 MB |
| 沙箱 | 2 个 CPU,4 GiB 内存 |
地域
项目可以限定在某些云和地域。这个限制决定轮次在哪里执行,控制面以及其中保存的数据不会因此挪动。如果所有数据都必须留在你们自己的网络里,请用私有部署。见数据位置。
怎么开始使用
为你们的组织申请试用。我们为组织开通并添加额度,之后成员在 https://code.theyilabs.com 用 Yi Labs 账号登录即可。