扫描分享
本文共字,预计阅读时间。
据MS官网显示,来自中国人民大学的郑爽、新加坡国立大学的朱玉婷、大连理工大学的叶鑫、美团的Liang Shen,合作撰写的论文“ Generative Search: Evidence from a Large-Scale Field Experiment ”在国际管理学顶刊《Management Science》线上正式发表。
摘要
Generative search is an emerging search paradigm that integrates Generative AI (GenAI) into traditional search engines by presenting users with AI-generated responses before conventional search results. Whereas keyword-based search requires consumers to translate their underlying needs into effective keyword queries, generative search lets users express those intentions directly in natural language, a shift made possible by GenAI’s new mode of information presentation. This shift moves the consumer-search engine interaction upstream to the stage of problem formulation, rendering empirically observable a previously hidden phase of search behavior: the mapping from problem formulation to keyword articulation. Yet, it remains empirically unknown whether generative search increases consumer purchases and how search behavior changes when it can begin from expressed intent rather than keywords. Using a large-scale field experiment conducted on Meituan, a leading Chinese technology platform, this paper provides empirical evidence on the effectiveness of generative search. We find that generative search significantly increases consumer purchases. Further analysis reveals that generative search facilitates more effective and diverse keyword queries and reduces exploratory browsing and clicking, while concentrating evaluation within relevant categories and merchants. The empirical evidence is most consistent with a mechanism in which AI-generated answers provide information about consumers’ underlying needs, while also expanding awareness of relevant attributes and shifting attention toward more relevant categories. These findings provide empirical insights for future consumer search models that allow search to originate at the intention-expressing stage.
生成式搜索是一种新兴搜索范式,它将生成式人工智能(GenAI)融入传统搜索引擎,在常规搜索结果之前向用户呈现AI生成的回答。基于关键词的搜索要求消费者将其潜在需求转化为有效关键词查询,而生成式搜索则允许用户以自然语言直接表达这些意图,这一转变得益于GenAI全新的信息呈现方式。该转变将消费者与搜索引擎的交互前移至问题表述阶段,使以往隐藏的搜索行为阶段——从问题表述到关键词表达的映射——得以实证观察。然而,生成式搜索是否会增加消费者购买,以及当搜索能够从表达意图而非关键词开始时搜索行为如何变化,在实证上仍不明确。本文利用在中国领先科技平台美团开展的大规模实地实验,为生成式搜索的有效性提供了实证证据。我们发现,生成式搜索显著增加了消费者购买。进一步分析表明,生成式搜索促进了更有效且更多样化的关键词查询,减少了探索性浏览与点击,同时将评估集中于相关品类和商户。实证证据与如下机制最为一致:AI生成的回答提供了有关消费者潜在需求的信息,同时拓展了对相关属性的认知,并将注意力转向更相关的品类。这些发现为未来允许搜索从意图表达阶段开始的消费者搜索模型提供了实证启示。
介绍
生成式搜索是将生成式人工智能嵌入传统搜索引擎的新搜索方式,它在普通搜索结果前先展示AI生成的回答。传统关键词搜索要求用户把潜在需求转化为关键词,而生成式搜索允许用户直接用自然语言表达意图。这样,搜索交互提前到“表达问题”阶段,使过去难以观察的“从问题到关键词”的过程变得可研究。但生成式搜索能否促进购买、又如何改变搜索行为,仍缺少实证证据。该文正是在电商平台情境下研究这一问题。
研究在美团开展大规模田野实验。2024年9月5日至10月5日,共6,451,767名曾提交过意图表达查询的消费者被随机分到生成式搜索组和关键词搜索组。处理组只在输入意图表达查询时触发AI回答,普通关键词查询仍显示默认结果。结果显示,生成式搜索显著提高购买:订单数增加0.174%,订单率增加0.072%,人均总交易额增加0.261%。对9万名消费者的子样本分析发现,用户停留时间减少约3.64%,总查询和不同查询分别增加约1.33%和1.36%,意图表达查询减少0.84%,含此类查询的会话减少0.68%,关键词查询增加约1.31%;浏览商户和品类分别减少1.87%和1.58%,点击独特商户和品类分别减少2.25%和1.96%,但每品类点击商户数增加,整体点击率提高0.61个百分点,独特点击率变化不显著。
研究采用随机对照田野实验,只在搜索结果页加入生成式搜索,其他界面和后端算法不变,以识别因果效应。意图表达查询由美团基于LongCat大语言模型微调的分类器识别,准确率94%。AI回答包括直接自然语言回答和相关搜索关键词;分析排除由相关搜索引发的会话,这类点击仅约2%。随机化检查用Welch t检验和Pearson卡方检验,组间特征无显著差异。购买效应通过组均值比较和Welch t检验评估,解释为ITT,即按随机分组估计,不论用户是否实际使用。子样本使用用户层面回归,核心变量为是否属于生成式搜索组,并报告稳健标准误;进一步以分组分配作为实际暴露的工具变量,用2SLS估计ATT,即实际使用效应,结果大于ITT且方向一致。
研究表明,生成式搜索能显著提升消费者购买,并改变搜索行为。它让用户提交更多样、更有效的关键词查询,从模糊意图表达转向具体关键词;同时减少探索性浏览和点击,把评估集中在相关品类和商户。最符合证据的机制是信息提供:AI回答帮助用户理解自身需求、扩展对相关属性的认识,并促使注意力转向品类信息;说服、AI规避、界面拥挤、新奇效应等替代解释与完整证据不符。该文为平台投资生成式搜索提供依据,也为从意图表达阶段开始的消费者搜索模型提供经验启示。局限是未观察AI回答内容、样本教育水平偏高、效应为ITT且受大模型成本约束,外推需谨慎。
非常感谢您的报名,请您扫描下方二维码进入沙龙分享群。
非常感谢您的报名,请您点击下方链接保存课件。
点击下载金融科技大讲堂课件本文系未央网专栏作者发表,属作者个人观点,不代表网站观点,未经许可严禁转载,违者必究!首图来自图虫创意。
本文为作者授权未央网发表,属作者个人观点,不代表网站观点,未经许可严禁转载,违者必究!首图来自图虫创意。
本文版权归原作者所有,如有侵权,请联系删除。首图来自图虫创意。
京公网安备 11010802035947号