概述 node-local-dns 的作用主要如下: 使用当前的dns体系结构,如果没有本地kube-dns/coredns实例,则具有最高dns qps的pod可能必须延伸
概述 nvitop 可以提升 GPU 的可观测性,而 nvitop 项目里还提供了 nvitop-exporter 可以将相关的 GPU 指标以 Prometheus 的表格格式提供采集,对提升 GPU 的可观测性是非常有帮助的。 镜像 nvitop 在v1.5
概述 因为个人常用的 AI 工具是 Poe,且已经是订阅用户了,但比较可惜的是,Poe 没有提供 OpenAI API 的接入方式,所以无法直接使用 Poe 的 API 来调用 OpenAI 的模型。G
概述 当 K8S 集群引入越来越多的组件之后,要维护的 Helm Charts 的数量会越来越多,业界关于存储 Helm Charts 的方式也有很多种,常见的有 Harbor,以及 ChartMuseum 等等,笔者一
概述 最近在公司推行新版本的 Kubernetes 集群,因为需要管理多个集群,虽然公司有平台化的管理工具,但对于接入一些新版本集群,还是需要做各种适配的工作的,但
概述 通过 Aibrix 可以部署跨节点推理实例,这是基于 Aibrix 中的 CRDs RayClusterFleet 类型,实际上这也是基于 kuberay 的 RayCluster, 而 RayCluster 中的跨节点部署的后端推理框架使用的是