扎根金融科技创新土壤 度小满三篇文章入选顶会 CIKM

目前，在数字经济时代大背景下，各类创新技术为金融行业带来更多新生机，赋予金融行业诸多发展空间。对此，度小满积极开展对金融科技的研究与应用创新，通过科技手段破解金融服务成本高等难题，提高金融服务的覆盖范围、效率和精确度。近日，度小满三篇文章被 CIKM 录用，这表明度小满在创新技术领域实力不俗。

度小满创新技术可满足金融各大场景服务需求

近日，第 31 届 ACM 信息与知识管理国际会议（The 31th ACM International Conference on Information and Knowledge Management，CIKM 2022）公布录用结果，度小满 AI Lab 的三篇文章被录用。

这次被录用的三篇论文，分别在预训练模型、用户表示、序列建模等 NLP 任务相关算法上取得突破性进展。其中，用于专家发现任务的 ExpertBert 模型，弥合了预训练目标与下游建模任务的差距，能够精准识别潜在的信贷需求；ENEF 模型，基于非采样策略进行专家发现，增强了问题和用户表示的鲁棒性和稳定性，成为 CQA 领域兼具性能与效率的最优方法；DeepVT 模型，全面有效地捕捉和融合视图和时序模式，使小微客群的行为预测更精准。

度小满三篇文章为金融行业发展注入活力

以下是三篇论文内容速览：

ExpertBert：用户粒度预训练框架，快速匹配高质量回答

论文题目：ExpertBert: Pretraining Expert Finding

度小满团队提出的专家发现预训练语言模型 ExpertBert，在预训练阶段有效地在统一了文本表示、用户建模和下游任务，能够使预训练目标更接近下游任务，在 CQA 用户表示方面做出了开创性贡献。

据悉，ExpertBert 是第一个在 CQA 领域探索专家发现预训练语言模型的方法，且在真实数据集上证明了模型的有效性和性能的优越性。目前，该方法已在度小满信贷获客场景中开展使用，其头部用信人数的召回相对提升了超 10%。

ENEF：高性能、低计算复杂度的「非采样」专家发现模型

论文题目：Efficient Non-sampling Expert Finding

ENEF 可以从所有数据样本中更新模型参数，增强问题和专家表示的稳健性和准确性。值得注意的是，与大多数复杂神经网络方法相比，ENEF 使用基础框架和少量参数，达到了更高的训练效率。经对比实验验证，是当前 CQA 非抽样专家发现模型中，性能最好且训练效率更高的最优方法。

DeepVT：视图与时序模式交互，全面、精准预测用户画像

论文题目：Deep View-Temporal Interaction Network for News Recommendation

DeepVT 模型主要关注于用户建模的视图级信息，有效解决了用户画像建模中仅关单一的视图交互或时序信息的问题。该模型构建了 2D 半因果卷积神经网络（SC-CNN）和多算子注意力（MoA）两个模块。其中，前者可以同时高效地合成视图级别的交互信息和项目级别的时间信息；而后者在自注意力函数中综合不同的相似算子，可以避免注意力偏差，增强鲁棒性。

除了三篇文章被 CIKM 录用外，度小满在其他创新技术领域也收获颇丰：自然语言处理技术在微软 MARCO 比赛中超越三星、微软、谷歌、斯坦福斩获第一；自创 TranS 模型在知识图谱「世界杯」OGB 挑战赛中斩获榜首…… 度小满用前沿技术助推金融行业创新发展。接下来，随着各种创新技术不断渗透到金融各大服务领域，创新技术也将重建金融服务结构，为金融行业带来颠覆性的变革。