永乐高ylg8888(人工智能学院)张子天老师课题组于2023年6月在国际期刊Transactions on Wireless Communications(Q1,IF: 10.4)发表题为“ A Meta-Learning based Framework for Cell-Level Mobile Network Traffic Prediction”的研究性论文。
蜂窝级移动网络流量预测可以为网络资源的提前调度与优化提供基础,提升网络业务服务质量与网络用户应用体验,长期以来一直是学术界和工业界的热点研究课题。随着人工智能技术的快速发展,基于深度学习的网络流量预测算法取得了业内领先的精度表现。但是深度学习模型中存在神经元连接权重及神经元偏置(权重向量)等大量待训练参数,对训练数据规模和训练计算资源有较大需求,这为深度学习网络流量预测模型在实际场景中的应用带来较大挑战。 本研究基于元学习技术,提出了一种蜂窝级网络流量预测架构,利用已解决蜂窝网络流量预测任务的模型训练经验提升新考虑深度学习预测模型的学习效率。在该架构中,每个移动蜂窝对应的网络流量预测任务被视为一个独立的基学习任务。所有被考虑的基学习任务采用具有相同结构的长短期记忆门网络(LSTM)作为流量预测模型。通过统计分析与理论证明,研究工作发现蜂窝级网络业务流频域主要成分可以反应其时域变化规律且具有相似频域主要成分的基学习任务对应预测模型将偏好相似的权重向量。基于上述结论,我们定义根据基学习任务频域主要成分(元特征)寻找对应预测模型最优初始权重向量的问题为元学习任务,并提出一种基于K近邻(KNN)算法的元学习算法。利用真实网络数据,研究工作对所提架构性能进行了大量验证。实验结果表明,所提架构中元学习器可以根据新考虑基学习任务的元特征快速为对应预测模型提供良好的初始权重向量,从而极大减少预测模型对于学习样本和训练周期数量的依赖程度,提升预测模型学习效率。此外,所提架构对于网络预测模型结构选择具有良好的适应性 01 研究亮点 针对蜂窝级网络流量预测,利用统计分析手段刻画了流量负载序列频域特征与时域变化规律的相关性;提出了一种基于元学习的蜂窝级网络流量预测架构以提升深度学习网络流量预测模型的学习效率。 图1 蜂窝级网络流量时域特征分析 图2 蜂窝级网络流量负载序列频域特征 图3 基于元学习的蜂窝级网络流量预测架构 图4 LSTM模块内部结构 图5 近邻个数对于基于KNN算法的元学习器性能的影响作用 02 主要研究结论 利用真实网络数据,研究工作对所提架构性能进行了大量验证。实验结果表明,所提架构中元学习器可以根据新考虑基学习任务的元特征快速为对应预测模型提供良好的初始权重向量,减少预测模型对于学习样本和训练周期数量的依赖程度分别为约81%和87.5%。此外,所提架构对于网络预测模型结构选择具有良好的适应性。 图6 所提架构与各对比算法蜂窝级网络流量预测训练后精度表现 图7 所提架构与各对比算法蜂窝级网络流量预测结果与真实网络流量负载数据比较图 图8 元学习样本集合规模对所提架构元学习器有效性影响 图9 元学习器可以有效降低深度学习网络流量预测模型对于训练样本规模的依赖程度 图10 元学习器可以有效降低深度学习网络流量预测模型对于训练周期数量的依赖程度 03 作者介绍 张子天(通信作者),永乐高ylg8888(萨塞克斯人工智能学院),欧盟玛丽居里学者,于2010年与2016年在上海交通大学取得工学学士与工学博士学位。张子天拥有丰富企业工作背景和学术研究经历并曾主持多项科研项目,这些项目包括中国航空工业集团创新项目和欧盟玛丽居里科研项目。张子天已在国际高水平期刊和会议上发表学术论文约20篇,并担任多个国际权威期刊审稿人。