如何从利用率不足的数据中心容量中获取价值

　　识别出未充分利用的容量，并不能为数据中心运营商提供关于如何利用这些容量的指导。问题的答案取决于这些容量为何处于闲置状态。

　　两个设施可能因完全不同的原因而呈现出相似的利用率水平。其中一个设施可能预留了超出应用程序实际需求的资源;而另一个设施虽然拥有充足的计算能力，但其工作负载却无法高效地利用这些资源。

　　InformaTechTarget旗下研究机构Omdia的云与数据中心分析师SirajAziz指出，企业可以通过工作负载优化、预测性自动化以及提升可见性来改善容量利用率。然而，只有在底层容量能够被重新调配利用的情况下，这些方法才真正有效。

　　对于基础设施负责人而言，关键问题在于：在现有基础设施条件下，哪些容量可以被投入到更具生产力的用途中;而哪些容量则需要追加投资，或是需要调整其用途。

　　探究容量利用率低下的原因

　　Aziz表示，目前面临的一大挑战是基础设施的可见性依然处于碎片化状态。

　　基础设施团队往往使用不同的系统来分别监控网络、AI工作负载、云资源和应用程序，而物理基础设施的容量则是被单独追踪的。这些独立的系统仅能反映各自层级内的运行状况，却无法解释为何特定的基础设施空间始终处于低利用率状态。

　　例如，平台团队可能会发现某个CPU处于空闲状态，但与此同时，某个应用程序却无法进一步扩展;又或者，设施管理团队可能发现某排机柜已达到电力供应上限，尽管容量仪表盘上仍显示有空余的机柜空间。

　　第一步是将这些分散的视角与工作负载关联起来。运维人员需要明确应用程序具体需要哪些资源、实际消耗了多少资源，以及是什么因素阻碍了更多工作负载的部署。这涵盖了计算、内存、存储和网络资源，以及可用的机柜电力和冷却能力——所有这些因素都会影响工作负载的部署与分配。

　　低利用率问题可进一步细分为多种具体情况。例如，资源容量可能存在过度配置、分配不当，或是受到应用程序自身的限制。物理层面的制约(如空间不足)可能会阻碍进一步的部署。此外，某些基础设施虽然在技术上功能正常，却并不适合承载特定的工作负载。

　　运维人员还需区分“未使用的容量”与“预留容量”。部分基础设施是特意预留的，用于故障转移、维护或应对可预见的工作负载高峰。如果将这些预留容量回收，可能会削弱目标应用程序的韧性。

　　应用程序架构可能会使这种区分变得更加困难。Aziz指出，Pod水平自动扩缩容(HorizontalPodAutoscaling)的前提是应用程序在规模规划和设计上必须支持通过增加副本数量来提升有效工作负载的处理能力。此外，预定义的硬件配置方案(HardwareProfiles)也可能限制对资源分配和电源状态的调整。

　　其目标在于确定哪些资源可以在不引入新约束的前提下被回收利用。

　　优化现有容量并进行合理规模调整(Rightsizing)

　　一旦运维人员明确了容量利用率低下的原因，便能评估现有基础设施还能承载多少额外的工作负载。

　　Aziz提到，预测式自动化、主动式扩缩容以及工作负载优化，是企业有效管理容量所必须具备的关键能力。运维人员可以根据工作负载需求的变化来调整容量，并识别出那些分配量超过了应用程序实际需求的资源。

　　“合理规模调整”(Rightsizing)就是实现这一目标的方法之一。有时，工作负载预留的CPU资源会超过其实际消耗量，导致即便在硬件负载较轻的情况下，这些资源也无法被其他应用程序使用。通过调整这些分配额度可以释放出容量，但在做出规模调整决策时，必须充分考虑工作负载的峰值需求、延迟要求以及故障转移(Failover)场景。

　　自动扩缩容机制将这一理念延伸到了动态需求场景中。Pod水平自动扩缩容可以增减应用程序的副本数量，而集群扩缩容(ClusterScaling)则能调整供应用程序使用的计算节点(Worker)容量。当然，只有当应用程序能够同步扩展时，这种扩缩容操作才能真正转化为有效的可用容量。

　　资源所处的物理位置也可能成为容量管理的瓶颈。例如，某个集群可能拥有充足的CPU或加速器总容量，却因资源分散在不同的主机上而无法部署新的工作负载。此时，运维人员必须通过调度和资源整合，使这些资源恢复到可用的状态。

　　Google发现，自动化GPU共享机制可将GPU总吞吐量提升50%，并使所评估的集群能够多支持19%的GPU任务。分配给某个工作负载的GPU，其执行时间也可供另一个兼容的工作负载使用。

　　有时，获取新增算力资源最经济的方式，其实是利用组织内部已经付费购买但尚未充分利用的资源。

　　决策方向：是进行现代化改造、调整用途，还是直接放弃?

　　优化是有局限性的。如果经过资源规模调整(rightsizing)、调度优化及其他运营层面的改进后，算力资源仍处于利用不足的状态，那么或许就该考虑其他方案了，因为现有的基础设施已不再适配当前的工作负载需求。

　　Omdia半导体首席分析师BruceBateman指出，此类决策应从“需求”出发。在谈及那些拥有闲置算力资源的运营方时，他将核心问题概括为：“关键在于需求，而非算力本身。”Bateman强调，单纯增加更新的基础设施并不能创造出相应的工作负载需求。运营方必须明确：究竟由谁来消耗这些新增算力，以及这些工作负载具体需要什么。

　　接下来的关键问题是：为了支持这些需求，现有基础设施需要做出多大程度的调整?

　　如果仅存在单一瓶颈，运营方或许有充分理由进行针对性的升级。但一旦某项升级引发了连锁反应，需要进行多项配套升级，经济账就会发生变化。Bateman解释道，引入更新的计算资源，往往还需要配套升级存储系统、更高容量的路由器以及网络连接能力;而高密度系统则会带来全新的电力供应与散热需求。

　　领导者需要评估使目标工作负载能够正常运行所需的全部投资。如果算力升级涉及对配电、冷却、网络、存储及建筑设施系统的改造，运营方就必须决定是否要将该设施转型，以适配不同类型的工作负载。

　　Bateman指出，并非总是有必要进行工作负载转型。他补充道，如果经济效益依然可观，那些现已支持企业应用、数据库、托管服务或私有云工作负载的设施，完全可以继续为现有客户提供服务。旧基础设施并不会仅仅因为无法支持高密度AI系统而丧失其价值。

　　不过，在应对AI系统爆发式增长的过程中，Bateman认为，对于那些不具备支持大规模训练环境条件的运营方而言，提供“推理”服务是一个可行的方向。对于那些看重连接性、地理位置、隐私和自主掌控权的客户来说，私有AI、区域性推理及其他本地化工作负载，或许正是某些设施的理想适配场景。

　　鉴于人工智能(AI)整体市场正在增长，单纯为了跟风而提升推理能力，会带来与其他投机性升级相同的风险。

　　Bateman指出，核心思路在于“立足自身定位”(stayinyourlane)。这并非主张拒绝现代化升级，而是强调在试图将现有设施彻底转型为截然不同的形态之前，必须先明确该设施在经济上究竟能够支撑什么。

　　关键在于评估哪些工作负载最能为现有基础设施带来商业价值，并确定这些工作负载值得投入多少额外资金。