想让百万个AI Agent同时干活，难点不只在算力，还在于要给每项任务迅速开一个“安全隔间”。这个隔间就是沙箱——限制程序能访问的文件、网络和权限，避免陌生代码影响主系统。Modal称，它重建了这套基础设施，可支持数百万个并发沙箱和每秒数万次创建。
据Modal工程师Colin Weld和Connor Adams介绍，传统Kubernetes需要集中调度容器，并把集群状态写入etcd——一套分布式状态数据库；节点和沙箱暴增时，这两处都会承压。他们没有继续扩展Kubernetes，而是取消全局协调：让多台调度服务器并行工作，直接询问各节点能否接单；每个节点自行维护真实状态，像把一个中央派单台改成许多可同时派单的窗口。
InfoQ报道称，Modal在基准测试中不到一分钟创建了100万个沙箱，从启动到运行代码的中位时间低于0.5秒；团队的目标是稳定达到每秒创建5万个。上述规模与速度来自Modal自述，材料未披露独立复现结果；系统仍有一个集中点，即所有工作进程会把状态写入同一条Redis数据流。