存储带宽的天花板：算力增长放缓后的新瓶颈

讨论设备性能时，人们习惯看单位时间能做多少次运算。但当这部分能力的年增长幅度收窄，另一个指标的分量突然变重：每秒能在存储与计算单元之间搬运多少数据。计算能力过剩而数据跟不上，就会出现算力等待的情形，实际吞吐与理论值差距明显。

这种情况在大容量数据读取任务里最容易观察到。批量处理时，如果把每次读取都设计成小规模高频访问，带宽利用率上不去；改成大块顺序读取之后，同样的硬件能跑出更高吞吐。差别不在算法复杂度，而在访问模式是否契合底层设备的特性。

层次化缓存是应对带宽压力的常规手段。把高频访问的数据留在离计算单元更近的位置，能减少往返次数。难点在于命中率：缓存策略一旦与实际访问模式错配，开销反而比不用缓存更大。工程实践中常见的失误是把线上流量的突发形态当成了平稳形态来设计。

另一个思路是让数据在靠近产生的位置先做一轮加工。边缘节点、收集设备和网关侧承担过滤、聚合与压缩，把上传的数据量降下来。代价是分布式调试更复杂，同一份逻辑在多个层级上运行，版本对齐与故障定位都需要额外投入。

对普通用户来说，这项变化并非只在服务器机房里发生。个人设备上的相册检索、离线翻译与本地录音转写，同样受带宽制约。选购时如果只盯着运算指标，容易忽略读写速度与缓存容量，实际体验的差距往往来自后者。