近日,山东大学网络空间安全学院师生在 AI 译码与智能通信交叉研究方向取得重要进展,研究成果“Drop-in Circulant Structural Priors for Transformer Decoding of Cyclic Codes”被国际机器学习顶级会议ICML 2026接收。论文第一作者为山东大学学科交叉中心学院、网络空间安全学院博士生肖帅,通讯作者为山东大学网络空间安全学院方伟军教授,合作作者为上海创新研究院、上海人工智能实验室张乔生。

纠错码是现代通信、数据存储和网络空间安全系统中的关键基础技术,其核心目标是在信息传输或存储过程中抵抗噪声干扰,实现可靠恢复。近年来Transformer等深度学习模型被引入纠错码译码任务,推动了AI译码方向的发展。然而,现有Transformer译码器大多将码字视为普通序列处理,未能充分利用纠错码自身的代数结构,导致模型参数量较大、可解释性不足,译码性能也仍有提升空间。
针对上述问题,团队面向循环码提出了一种“即插即用”的环状结构先验方法。该方法在保持ECCT、CrossMPT、MM-ECCT等主流Transformer译码器基本架构不变的前提下,将循环码的代数对称性引入校验矩阵、嵌入矩阵和模型参数矩阵设计中,使模型能够以更少参数学习更有效的纠错模式。实验结果表明,在信噪比为6 dB时,该方法在BCH码、PRM码等典型循环码族上取得了稳定而显著的性能提升,平均可将比特错误率降低约一个数量级,同时将模型参数量平均减少约97%。在部分典型实验中,改进后的CrossMPT在PRM(127,99)码上获得接近0.8 dB的性能提升;在BCH(63,51)码上,其译码性能接近最大似然译码。
ICML是机器学习与人工智能领域最具影响力的国际学术会议之一,与NeurIPS、ICLR并称为机器学习与人工智能领域的顶级会议序列,被中国计算机学会(CCF)评为A类会议。ICML长期聚焦机器学习基础理论、模型架构、优化算法及交叉应用等前沿问题,代表了国际机器学习研究的最高水平之一。据公开资料检索,本成果是近年来继清华大学团队2021年在ICML发表神经译码相关工作之后,国内高校在AI译码领域发表在AI三大会议的第二篇相关论文。
图文作者:方伟军
编辑:沈雨彤