统一查看与管理资源
将物理机、虚拟机、容器、Kubernetes 与多云资源纳入管理，查看资源状态，处理日常管理工作。
把分散的资源，组织成可管理的服务基础。
物理机、虚拟机、容器和云资源如何统一管理？已有 GPU 如何支撑内部模型服务？BitPods 将资源管理、推理服务与日常运维组织在一起，帮助团队从已有基础设施出发，管理资源与服务的运行。
- 物理机
- 虚拟机
- 容器与 Kubernetes
- 多云资源
BitPods
资源与服务管理
展示纳入统一管理的范围，不表示所有资源都执行相同接入流程。
从资源纳管，到推理服务运行。
在统一管理视图中组织基础设施，围绕模型、资源和访问入口管理推理服务。
围绕模型创建推理服务
通过模型库管理模型，创建服务时选择引擎、宿主机与 GPU 资源，并查看服务运行状态。
- 引擎
- 宿主机
- GPU
管理业务系统的访问入口
通过用户级 API Key 与兼容网关管理服务访问，让业务系统按对应接口接入推理实例。
具体可用范围，以所用版本、资源环境及模型与引擎条件为准。
让资源接入和日常维护有序进行。
围绕节点接入、宿主机维护和状态恢复，组织日常运维工作。
节点接入
按环境条件接入算力节点，结合批量接入工具，组织已有 GPU 资源。
运行与维护
查看资源和服务状态，按任务执行宿主机维护及相关管理操作。
状态与恢复
根据节点状态与管理配置，执行恢复和远程开关机等操作。
围绕已有基础设施，开展资源与服务管理。
面向企业云平台和推理服务团队，覆盖资源整合、服务建设与日常运维。
整合企业资源
将分散的设备、虚拟化和云资源纳入统一视图，组织日常管理。
建设内部推理服务
利用已有 GPU 资源管理模型与服务，为内部应用配置访问入口。
管理算力节点
围绕节点接入、宿主机维护和状态恢复，开展运维与交付协作。
资源管理与部署验证，各有侧重。
BitPods
资源与推理服务管理。
BitTune
部署、调优与结果验证。
常见问题
可以接入哪些资源？
支持物理机、虚拟机、容器、Kubernetes 与多云资源管理。具体接入方式与可用范围，需要结合设备、云平台、网络条件及所用版本确认。
必须先部署 Kubernetes 吗？
不一定。容器宿主机方案可通过 containerd 与 CNI 管理工作负载；Kubernetes 集群管理是另一类使用方式。应根据工作负载和现有环境选择部署方案。
已有 GPU 能直接用来运行模型吗？
需要先确认设备、驱动、模型格式、推理引擎及资源条件。GPU 纳入管理后，仍需结合具体模型与负载验证服务运行，不能仅凭资源接入判断模型可用性。
可以通过 OpenAI 兼容接口访问推理服务吗？
平台提供 OpenAI 兼容网关和用户级 API Key，用于接入推理实例。具体接口、参数、流式响应及模型能力应按部署版本和引擎核对。
与 Atlas、BitTune、BitCloud API 有什么区别？
BitPods 管理资源与推理服务；Atlas 侧重容量评估、选型与规划；BitTune 侧重部署、调优与验证；BitCloud API 侧重多模型接入与调用运营。按当前任务选择产品，具体组合方式需结合项目确认。
是否包含统一 Token 计费？
本页不将跨系统 Token 计费和结算列为已交付能力。如需计费或与其它平台集成，可在方案沟通中确认具体范围。
如何开始？
可提供现有设备与云环境、计划运行的模型或工作负载，以及资源管理与运维需求，通过联系邮箱沟通接入和部署范围。
