搜索相关性技术探索与实践

大众点评搜索相关性技术探索与实践

导言

搜索相关性是搜索引擎的核心功能之一，它衡量着查询（Query）与文档（Doc）的相关程度，以此为基础排序展示搜索结果。作为一家领先的生活服务平台，大众点评致力于为用户提供高效、精准的搜索体验。本文将深入探索大众点评搜索团队在相关性计算上的技术探索与实践，分享我们的经验和心得。

相关性模型的发展

在探索相关性计算之初，我们首先回顾了业界常用的模型，包括经典的 BM25 模型、基于语言模型的 BM25+ 模型、以及利用深度学习技术的 DSSM 模型。

BM25 模型： BM25（Best Match 25）模型是一种广泛应用于文本检索的经典模型，它基于词频和文档长度计算相关性得分。BM25 模型简单易用，但其缺点在于未考虑词语的语义信息，且在长文档中可能存在过拟合问题。

BM25+ 模型： BM25+ 模型在 BM25 模型的基础上，引入了语言模型平滑技术。通过对查询和文档中的词语进行语言模型建模，BM25+ 模型能够更好地捕捉词语之间的语义关系，提高相关性计算的准确性。

DSSM 模型： DSSM（Deep Structured Semantic Model）模型是一种基于深度学习的语义匹配模型，它使用卷积神经网络（CNN）或长短期记忆网络（LSTM）等技术，直接学习查询和文档之间的语义相似度。DSSM 模型具有强大的语义理解能力，但其训练过程复杂，且对数据量和计算资源要求较高。

大众点评搜索相关性模型

综合考虑上述模型的优缺点，大众点评搜索团队提出了自己的相关性模型。我们的模型结合了 BM25+ 模型和 DSSM 模型的优势，在保持高效性和准确性的同时，又具备了一定的语义理解能力。

具体来说，我们的相关性模型分为两个阶段：

第一阶段： 使用 BM25+ 模型计算查询和文档的初步相关性得分。这一阶段主要是基于词频和语义相似度进行计算，快速筛选出与查询相关的候选文档。

第二阶段： 使用 DSSM 模型对第一阶段筛选出的候选文档进行二次排序。DSSM 模型通过学习查询和文档的语义向量表示，进一步挖掘其语义相似度，提升相关性排序的准确性。

实验与优化

为了验证模型的有效性，我们进行了大量的实验和优化工作。我们使用大众点评真实搜索数据作为训练和测试集，并采用离线评估和线上 A/B 测试相结合的方式评估模型的性能。

离线评估指标包括：

• 平均精度（MAP）： 衡量模型对相关文档排名的准确性。
• 归一化折损累计收益率（NDCG）： 衡量模型对相关文档排名的质量。

线上 A/B 测试主要关注用户点击率（CTR）和转化率（CVR）等指标。通过将新模型与原有模型进行对比，我们可以量化评估新模型对搜索体验的提升。

在实验和优化过程中，我们重点关注以下方面：

• 语料库构建： 我们构建了涵盖大众点评全量数据的语料库，并针对不同类型的数据（如商户、评论、标签等）采用不同的预处理策略。
• 特征工程： 我们设计了丰富的特征，包括词频、词语相似度、实体识别、分类信息等，并探索了不同的特征组合策略。
• 模型训练： 我们尝试了不同的神经网络结构和训练算法，并通过调参和交叉验证优化了模型参数。

实践成果

通过持续的技术探索和优化，大众点评搜索相关性模型取得了显著的成果：

• 离线评估： 在离线评估中，我们的模型在 MAP 和 NDCG 指标上均取得了大幅提升，优于 BM25+ 模型和 DSSM 模型。
• 线上 A/B 测试： 在线上 A/B 测试中，我们的模型显着提升了用户点击率和转化率，提升幅度达到两位数。
• 用户体验优化： 我们的模型有效改善了搜索结果的排序准确性和相关性，为用户提供了更加高效便捷的搜索体验。

总结与展望

大众点评搜索相关性技术探索与实践是一项持续性的工作。我们将继续深入研究相关性计算领域的前沿技术，探索更多创新性的算法和模型，不断优化我们的搜索引擎，为用户提供更加精准、优质的搜索服务。

我们相信，随着人工智能技术的不断发展，搜索相关性计算也将迎来新的突破。未来，我们期待通过将深度学习、自然语言处理等技术与搜索相关性模型相结合，进一步提升搜索体验，为用户创造更加智能化、个性化的搜索服务。

附录