融合语义与风格特征：深度学习在作者身份验证中的鲁棒性研究

　　本刊推荐：为解决开放集场景下作者身份验证(AV)的泛化难题，研究团队开展了融合RoBERTa语义嵌入与风格特征的深度学习模型研究。提出特征交互网络(FIN)、成对连接网络(PCN)和孪生网络(SN)三种架构，在真实不平衡数据集上验证了风格特征对召回率和F1值的显著提升效果，为数字取证和版权保护提供了更鲁棒的解决方案。

　　

在数字信息时代，文本 authorship verification（作者身份验证，AV）已成为自然语言处理领域的关键挑战。与作者分类（Authorship Classification, AC）不同，AV需要判断两篇文本是否出自同一作者，且训练时可能完全未知目标作者的信息。这种开放集（open-set）特性使其在数字取证、文学分析和侵权检测等场景中具有重要应用价值。然而，现有研究多基于平衡数据集和同质化文本（如PAN共享任务），与现实场景中风格多样、主题多变且正负样本不平衡的情况存在显著差距。

为突破这一瓶颈，研究者们开始探索结合深度学习与传统风格特征的方法。尽管Transformer模型（如BERT、RoBERTa）能有效捕获语义信息，但单纯依赖语义嵌入可能忽略作者特有的写作风格模式。另一方面，传统风格特征（如句长、词频、标点使用）虽能反映写作习惯，但难以应对跨主题、跨体裁的验证需求。这种语义与风格的互补性，正是提升AV模型鲁棒性的关键所在。

本研究创新性地构建了三种神经网络架构：特征交互网络（Feature Interaction Network, FIN）、成对连接网络（Pairwise Concatenation Network, PCN）和孪生网络（Siamese Network, SN），系统评估了RoBERTa语义嵌入与风格特征融合的效果。实验采用Schler等人收集的BlogAuthorshipCorpus数据集，该数据集包含19,320名作者的68万余篇博客文本，具有主题多样、风格嘈杂、长度分布不均等特点，更贴近真实应用场景。值得一提的是，研究刻意采用20%（同作者）与80%（不同作者）的不平衡数据划分，以模拟实际应用中正样本稀缺的情况。

关键技术方法包括：1) 使用RoBERTa-base生成768维语义嵌入；2) 提取Flesch阅读难易度、平均句长、词性分布等风格特征；3) 采用加权二元交叉熵损失（Weighted Binary Cross-Entropy, WBCE）处理类别不平衡；4) 通过网格搜索优化超参数；5) 严格实施作者级数据分离防止信息泄露。

模型架构方面，FIN通过元素级差、绝对差和乘法运算显式建模特征交互；PCN直接拼接两个文本的嵌入向量后通过全连接层处理；SN则采用共享权重的双塔结构，通过余弦相似度度量文本间关联。所有模型均对比了有无风格特征输入的性能差异。

性能表现分析

在三类模型中，SN结合风格特征获得最高准确率（0.8472）和F1值（0.7228），FIN+风格特征则在召回率（0.6961）和AUC（0.8260）上表现最佳。风格特征的引入使召回率平均提升3.2%，证明其能有效增强模型识别同作者文本的能力。值得注意的是，PCN虽在无风格时精度最高（0.7621），但召回率最低（0.6121），加入风格特征后召回率显著提升至0.7052，说明风格信息能缓解模型的保守预测倾向。

长度与主题敏感性测试

通过Pearson相关性分析发现，所有模型预测正确性与文本平均长度（avg_len）及长度差（length_diff）的相关系数均接近零，表明模型决策不受文本长度影响。进一步通过LDA主题模型和RoBERTa嵌入计算主题相似度，发现其与模型预测概率仅存在弱相关（最高ρ=0.425），且引入风格特征后相关性进一步降低，证明模型并非依赖主题匹配而是真正学习了风格模式。

与PAN基准的对比

相较于PAN2020最佳成绩（AUC=0.969）和PAN2022最佳F1值（0.669），本研究在更挑战性的数据集上仍达到0.8260的AUC和0.7228的F1值。虽然绝对值较低，但考虑到数据集的噪声强度和不平衡性，实际泛化能力更具优势。

研究结论表明，融合语义与风格特征的混合方法能显著提升AV性能，尤其在不平衡真实场景中表现突出。风格特征对召回率的提升效果一致且稳定，这对重视减少漏报的实际应用（如司法取证）具有重要意义。FIN架构虽计算复杂度较高，但其在捕获细粒度风格交互方面的优势使其成为高精度场景的首选。

讨论部分指出当前局限主要源于RoBERTa的512令牌长度限制和预定义风格特征的局限性。未来研究方向包括：采用长文本处理模型（如Longformer）、开发神经风格嵌入、动态适应类别不平衡的损失函数，以及在PAN数据集上进行基准测试。该工作为构建跨领域、跨平台的实用AV系统奠定了坚实基础，对推动数字取证、内容认证等应用的发展具有重要价值。