运行大模型就像在一张桌子上摊开厚厚的资料:桌面不够大,模型权重和长对话缓存就难以同时放下。Intel D270瞄准的正是这道推理瓶颈——推理是让已经训练好的模型响应请求,而非训练新模型。据Intel介绍,D270单卡最高配备480GB LPDDR5X统一内存,可让更多模型权重和长上下文留在本地,减少对多卡容纳的依赖。
它没有把训练峰值性能放在首位,而是面向Agent、长上下文RAG、代码助手、多模态模型和高并发服务。D270采用32个Xe3P核心、256个XMX矩阵引擎,并把原用于图形和光线追踪的芯片面积转给矩阵计算。它以标准PCIe 5.0卡形态接入服务器,功耗350W,采用风冷;Intel称现有服务器无需改造液冷系统即可评估和部署。不过,LPDDR5X追求的是容量与能效,和高端AI GPU常用的HBM在带宽及封装上不同;目前官方也未提供第三方实测,实际吞吐量和延迟仍待验证。