一个人同时学识物、导航和抓取,往往会共用视觉能力,再把后续步骤分开处理。Shi Gu 团队发现,循环神经网络也会出现类似分工:当它同时学习多项认知任务,内部连接会形成相对独立的单元群,也就是“模块化”;相比只学单项任务,这种现象更明显,尤其是在任务量逼近网络容量时。
最值得注意的是加任务的顺序。作者逐步引入新任务,而非一次全部交给网络,这种增量式多任务训练形成了最高程度的模块化,同时保持了更好的任务表现。换句话说,模块可能不只是设计者预先搭好的结构,也可能是有限容量下应对复杂任务的一种适应结果。
这些任务驱动的网络,在结构上比仅按空间布线约束建立的模型更接近生物脑网络。这种“对齐”只表示组织模式相似,并不证明人工网络与大脑采用相同机制。