科学研究

学术交流

当前位置: 首页 -> 科学研究 -> 学术交流 -> 正文

基于BERT-SPTT的文本分类模型

作者: 发布日期:2025-12-09

为搭建学术交流桥梁,助力师生如何有效管理和快速检索文本信息,12月8日,beat365英国官方网站商学院特邀福州大学陈可嘉教授,于中3-521开展了主题为“基于BERT-SPTT的文本分类模型”的学术讲座。商院师生代表参与了这场兼具理论深度与实践价值的学术盛宴。

讲座伊始,他指出:传统文本分类模型存在分类精度有限,文本信息损失值高的不足。基于此,借鉴PVT模型的设计理念,通过缩发因子对查询向量实施同步缩放,实现对其核心注意力模块的改进,并结合BERT模型,提出BERT-SPTT文本分类模型。

随后,主讲人聚焦BERT-SPTT模型的核心创新展开深度解析。他介绍,该模型创新性融合BERT的深层语义捕捉能力与SPT(选择性提示调优)的智能适配机制,通过提示超网络与概率门设计,实现了提示插入层的自动化、实例感知选择,彻底解决了传统方法的次优性局限。

    最后,主讲人指出该模型主要优势在于结合BERT捕捉文本深层语义信息方面的能力和PVT金字塔结构在特征提取和下采样方面的高效性。

此次讲座兼具理论深度与实践指导意义,不仅帮助师生系统掌握了BERT-SPTT模型的核心原理与技术优势,更激发了大家对NLP领域参数高效微调技术的探索热情。与会者纷纷表示,讲座为学术研究与产业应用搭建了有效桥梁,将为后续相关课题研究与技术落地提供重要参考。