APP推广合作
联系“鸟哥笔记小乔”
智能人机交互技术的春晚大考
2022-02-20 14:00:00


1月初的一个早晨,京东智能客户服务产品部紧急开会,进行关于尚未对外公布的“X项目”的初讨论。

1月5日,这个神秘的X项目对外公布,京东成为央视2022年春晚独家互动合作伙伴,保留项目“给全国人民发红包”由京东承包了。


没人会低估春晚的力量。即使是多次经历京东618、京东11.11等高并发数亿级流量洪峰的团队,在全国十几亿观众面前仍然保持着紧张、谨慎、兢业。


“当时面临很多未知,唯一确定的是,系统的稳定性和并发量要做到极致。”京东智能客服言犀团队的软件开发工程师彭定邦告诉「深响」,团队里许多成员跟他有着相似的第一反应, “有点懵,又很紧张,也蛮兴奋”。


春节前的京东内部


团队最初的“懵”来自于这个任务的绝对难度。春晚有近13亿的观众规模,脉冲式的流量高峰使其成为互联网大厂技术能力的试炼场。红包互动的峰值达到数亿级别,加上愈加复杂的交互场景以及需要保障全国人民使用体验的责任,都让团队压力重重。


京东云自主研发的京东智能客服言犀(下称言犀)在这场“战役”中的重要性不言而喻——

言犀是京东结合语音语义、知识获取与推理、情感智能、人机对话与交互、多模态内容智能、决策智能等AI技术和与全链条客户服务场景深度融合打造的系列智能服务产品,已经在成熟支持电商等京东集团内部业务,能力也开始输出给外部的合作伙伴。


作为与用户直接联络接触的端口,言犀是超大规模流量的“接待员”,除了应对常规客服问询,在春节春晚的特殊背景下,言犀还需要做得更多:回答用户“春晚活动规则”、“如何查看春晚奖励”、“如何使用春晚红包”。又因为是消费红包,言犀要为红包使用的售后、物流环节提供服务,还要针对春节这个对所有华人来说特殊的时间节点做节日氛围渲染。

这场春晚注定是京东智能交互服务的“成人礼”,年货节启动至春晚结束,言犀共计服务5.5亿次,为16.5万商家提供1亿次服务,物流大件外呼累计290万通,将能力最大化展现给了全国人民。


言犀团队如何在短时间内完成任务抗住考验?此次项目背后有怎样积年累月技术和产品服务经验沉淀?在AI商业化进入快车道,带来更多想象力的当下,京东智能客服的能力如何外延拓展?


灯火通明的京东园区

春晚倒计时


嘀嗒,嘀嗒,嘀嗒,春晚倒计时开始。 留给团队的时间不到一个月。


时间紧张,激动的情绪必须平复下来,各项部署和拉齐开始争分夺秒地进行,言犀团队内部成立“SWAT快速反应部队”备战。这是一个由内部经验丰富的核心业务骨干组成的小组,包括算法、产品、工程以及测试整个条线的工作人员。


其中有经历过20次备战的京东老员工,也有年轻的新鲜血液:负责系统研发的梁仕强、马浩,架构师彭定邦,负责应答机器人算法的俞晓光,负责春晚策略设计、优化的产品经理李杨晶、关力,负责质量保障和性能压测的张大建......这个名单很长。

京东集团副总裁何晓冬对项目进行前期部署


得益于数次京东618、京东11.11等大促的经验,言犀团队节奏稳健,周六启动、周日盘点、周一就拉齐团队进行了计划制定。但是相比往年的大促,春晚还是有其特殊性,难点拆解下来主要有三点:


首先是对流量动态和峰值的预测。


经过与业务方以及有过春晚红包项目经验的团队的交流,考虑到春晚流量峰值巨大,且相较大促累计持续时间更长,当晚包含7轮互动活动。为了保险起见,团队需完成的目标是达到可以一秒内同时承接上万人的咨询。


用何晓冬的话说,“这次春晚项目应该属于人机对话与交互应用的珠穆朗玛峰了”。


作为业内顶级的AI科学家,何晓冬见证了深度学习及人工智能技术迎来新一轮爆发,也经历了数个618、11.11,但春晚却是第一次。

其次,在智能客服自主应答的完成度上,面向全国人民的春晚项目需要更高。


虽然言犀已经在服务京东超5亿的消费者以及商家,平日里,可以承担起六七成的咨询量,做到独立接待。但是春晚的峰值让大规模人员调度成为不可能的事,因此,95%的咨询量都将由机器人来支撑,而且要做到“接的起、答得上、答得好”。这无疑是对言犀整套系统性能、架构的挑战。


第三,在体验和功能上,虽然言犀已经可以支撑内部业务需求。但是春晚是个之前从未做过的场景,对模型的通用性和迁移性而言是考验。


而且,言犀在春晚不仅仅是个App客服的角色,还要修炼新技能跟用户互动营造节日氛围,比如对对联、猜灯谜等,让科技的呈现更有年味儿。


科技与年味儿


虽说任务艰巨,但是士气高涨,毕竟春晚项目对于每个技术人来说也是不可多得的一次锻炼机会。办公室里挂起了数条红底横幅,“一起干件大事,不负每份热爱”,“智能客服就看言犀,对话服务永不宕机”......


这个除夕夜,很多京东人早早就做好了留守公司保障春晚项目的准备。亲人在家看春晚,自己在“守护”他们的红包,也是一种团圆。


值班员工给父母拜年

“从容”才是关键词


春晚红包从来不缺戏剧性的故事,历届春晚互动合作伙伴除了获得充足的流量,同时也会带来不小的技术压力。


反观京东的部署,其关键词或许是“从容”。


多年以来,京东内部要求大促备战常态化,面对京东618、京东11.11,甚至春晚,团队并不会有超常规的动作。常态化方案的应对,200%重视的心态。“我们的系统随时可以上大战场,来之即战,战之必胜,这是现在这个团队所具备的能力。”京东智能客服前台产品与运营部总经理刘丹在与「深响」的对话中表示。

言犀团队在工作中


从容不迫的态度背后是技术和经验沉淀带来的底气。哪有什么天赋异禀,不过是百炼成钢。


面对春晚的流量洪峰,以及春晚活动叠加日常网购业务的复杂场景,京东做到了“开源节流”,通过云原生技术,实现快速弹性的资源配备,全过程没有增加一台服务器。


资源有效利用对各个环节的运行而言是最底层的保障,让齿轮真正转动了起来,在应用、体验上游刃有余地去做研发。


接到任务之后,摆在言犀团队眼前的问题就是如何拆解本次任务?


言犀的算法工程师俞晓光详细解释了背后的秘密:


第一,言犀长期积累的数据强化技术就发挥了作用,通过深度生成模型,结合大模型预训练、意图一致性约束、多任务学习、受限解码等技术,能够无中生有地产出海量语料,大大提升了模型的覆盖度和识别意图的精准度。


第二,模型本身有泛化、迁移能力,意思是说,可以从其他领域积累的知识点基础上进行调整。这跟人的学习过程可以类比,从小学到大学,每一步并非完全从零开始,而是在之前的知识和思考模式基础上进阶。


言犀通过模型蒸馏、模型量化、优化线上实时推理引擎等方式,将大规模预训练语言模型蒸馏为轻量级预训练模型,从而在保证效果不出现显著损失的前提下,模型的推理速度和并发性能得到10倍左右的提升,最终在资源、性能、效果三者取得一个比较好的平衡点。


在春晚之前的一次对话中,当被问到对于这次项目的准备能打几分时,俞晓光自信地说“当然是100分”。


作为在智能客服团队8年的元老,他一路看着言犀从“小孩”到“成人”的进化,从摸索着做简单的文本一问一答,到产生有上下文能力的真正对话,到能力继续外延,可以做到识别意图,主动服务。言犀变得越来越流畅,越来越“聪明”。而春晚这个特殊的项目,就是言犀的一次“成人礼”。


技术团队的备战


AI的情感智能也是这次近几年言犀发力的重点目标之一。智能客服这类服务被用户诟病的无非就是两点,一是不够准确,二是太机械化。随着言犀的IQ在提升,EQ也在进步。


“京东的情感智能,是在解决问题的能力之上提供温暖。”言犀的产品经理李杨晶说。


举个简单的例子,这种带有人情味的服务体现在,当用户催促快递时,客服不仅仅会说“请不要着急,我正在帮您催”,也会主动在某个时间点接触用户,告诉他物流的进展或是送上代金券作为补偿。在这次春晚红包项目中,言犀也有识别情绪的能力,像人一样去安抚、开玩笑,但都建立在能解决问题的基础之上。


按着制定好节奏走,从容,但不松懈。打磨持续进行中,团队通过一轮轮压测发现问题,优化系统瓶颈,也为春晚设计了多个应急预案。在正式上线前,团队进行了不止7次压测。


春晚尚未来到的时候,让子弹再飞一会儿。

春晚不是起点,也不是终点


《难忘今宵》熟悉的旋律响起,晚会圆满结束,近2000名在公司度过除夕夜的京东工程师们悬着的心也随之放下。


春晚4个多小时,京东APP红包累计互动量达691亿次,顺利通过这次最强考验。不少网友马上在社交媒体上晒出自己抢到的红包和使用订单,分享“薅”到了羊毛的开心。把红包和优惠顺畅地给到全国人民,不就是这半个多月以来这群京东人备战的目标吗?


但对于言犀来说,这既不是起点,也不是终点。


着眼整个智能客服行业,因其成本低、可24小时在线、服务标准化等天然优势,普及范围逐年扩大,应用场景多元,行业规模不断扩大。据艾媒咨询数据显示,2020年中国人工智能核心产业规模达到1500亿元,预计2030年将达到1万亿元,随之,2021年中国智能客服行业整体市场规模预计超过了400亿元。智能客服作为企业AI应用的重要分支,保守估计占比20%。


许多正处于数字化浪潮中行业也将智能客服作为降本增效的手段之一。政务、金融、零售等等行业的客户希望看到应答能力更强、解决问题效率更高的智能客服,并与原有的数字化系统形成耦合。


随着行业的发展,智能客户服务还不止于传统客服。


它可以满足服务、营销、运营一体化需求,并且能够贯穿服务客户的全生命周期。随着AI技术的成熟,客户服务从一个传统上的成本项走向利润的创造,可以与营销、获客相结合,提升用户粘性。还可以通过人机协作,提供最好的客户体验。


要满足这样的需求,技术、行业认知、服务,都是必要条件。


近年来,京东科技智能客户服务产品部从微软、苹果等科技巨头吸收人才,在各大国际级学术会议发表论文220余篇,创造了260余项技术突破和创新,获得国内外权威科技奖项60余个,多次获得人工智能领域国际大赛冠军,团队也在实战中历练,不断优化算法和模型。


经过多年沉淀,言犀这套智能对话与交互系统,已经涵盖了“在线咨询机器人”、“语音外呼”、“语音导航”、“语音应答”、“数字人”以及面向商家的“京小智”服销一体化智能SaaS产品。  


行业认知层面,言犀首先经过京东内部业务的验证,在零售场景具有极强的优势。而且在2019年开启商业化后, 通过一个又一个实际案例,在政务、金融、零售、泛互等各个行业积累、完善有强复用性的场景经验。

言犀为京东首个智能数字人客服芊言

提供了智能多模态交互技术


为满足客户快速部署的需求,言犀系统高度模块化,能与原业务系统兼容,从而能高效交付。随着商业化步伐的加快,边际成本递减效益越来越明显,更低的部署成本让言犀的大规模商用成为可能。例如针对春晚活动的知识库配置,提供了一套全自动分析的流程,完善了线上识别、实时数据挖掘、新语料的解决方案,3分钟即可快速上线,保障了活动期间识别和应答无空白区域。


春晚项目是最新的实证。成功抗住春晚这个史上最高的智能人机对话与交互的SaaS流量洪峰是京东AI技术产品化发展路上的一个里程碑。总结京东的这场备战,坚实的底层技术支持、先进的算法模型、运营和产品体验的精细化、团队的备战经验和精神, 缺一不可。


一次春晚,也让更多人了解到了智能客服产品现在的水平和能力,“他们”早就不是人们印象中的那个“听不懂话的客服了”。


随着AI不断深入和落地,像京东这样有业务、有场景的公司正在展示出更大的智能未来前景。一方面是对前沿技术的迅速应用,另一方面则是在落地应用和数据迭代中,创造出更强的模型和研究成果。


言犀将如何进化?技术人的攻坚和场景需求正在不断碰撞出新的火花。


深响
分享到朋友圈
收藏
收藏
评分

综合评分:

我的评分
Xinstall 15天会员特权
Xinstall是专业的数据分析服务商,帮企业追踪渠道安装来源、裂变拉新统计、广告流量指导等,广泛应用于广告效果统计、APP地推与CPS/CPA归属统计等方面。
20羽毛
立即兑换
超级nice便签砖
超级超级超级奈斯!
1000羽毛
立即兑换
一书一课30天会员体验卡
领30天VIP会员,110+门职场大课,250+本精读好书免费学!助你提升职场力!
20羽毛
立即兑换
深响
深响
发表文章1333
深响是一支TMT领域新锐研究机构,由资深媒体人与投行人组成的精品团队,致力于深度研究全球范围内的商业案例,以优质的内容为行业与读者创造价值。
确认要消耗 羽毛购买
智能人机交互技术的春晚大考吗?
考虑一下
很遗憾,羽毛不足
我知道了

我们致力于提供一个高质量内容的交流平台。为落实国家互联网信息办公室“依法管网、依法办网、依法上网”的要求,为完善跟帖评论自律管理,为了保护用户创造的内容、维护开放、真实、专业的平台氛围,我们团队将依据本公约中的条款对注册用户和发布在本平台的内容进行管理。平台鼓励用户创作、发布优质内容,同时也将采取必要措施管理违法、侵权或有其他不良影响的网络信息。


一、根据《网络信息内容生态治理规定》《中华人民共和国未成年人保护法》等法律法规,对以下违法、不良信息或存在危害的行为进行处理。
1. 违反法律法规的信息,主要表现为:
    1)反对宪法所确定的基本原则;
    2)危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一,损害国家荣誉和利益;
    3)侮辱、滥用英烈形象,歪曲、丑化、亵渎、否定英雄烈士事迹和精神,以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉;
    4)宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动;
    5)煽动民族仇恨、民族歧视,破坏民族团结;
    6)破坏国家宗教政策,宣扬邪教和封建迷信;
    7)散布谣言,扰乱社会秩序,破坏社会稳定;
    8)宣扬淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪;
    9)煽动非法集会、结社、游行、示威、聚众扰乱社会秩序;
    10)侮辱或者诽谤他人,侵害他人名誉、隐私和其他合法权益;
    11)通过网络以文字、图片、音视频等形式,对未成年人实施侮辱、诽谤、威胁或者恶意损害未成年人形象进行网络欺凌的;
    12)危害未成年人身心健康的;
    13)含有法律、行政法规禁止的其他内容;


2. 不友善:不尊重用户及其所贡献内容的信息或行为。主要表现为:
    1)轻蔑:贬低、轻视他人及其劳动成果;
    2)诽谤:捏造、散布虚假事实,损害他人名誉;
    3)嘲讽:以比喻、夸张、侮辱性的手法对他人或其行为进行揭露或描述,以此来激怒他人;
    4)挑衅:以不友好的方式激怒他人,意图使对方对自己的言论作出回应,蓄意制造事端;
    5)羞辱:贬低他人的能力、行为、生理或身份特征,让对方难堪;
    6)谩骂:以不文明的语言对他人进行负面评价;
    7)歧视:煽动人群歧视、地域歧视等,针对他人的民族、种族、宗教、性取向、性别、年龄、地域、生理特征等身份或者归类的攻击;
    8)威胁:许诺以不良的后果来迫使他人服从自己的意志;


3. 发布垃圾广告信息:以推广曝光为目的,发布影响用户体验、扰乱本网站秩序的内容,或进行相关行为。主要表现为:
    1)多次发布包含售卖产品、提供服务、宣传推广内容的垃圾广告。包括但不限于以下几种形式:
    2)单个帐号多次发布包含垃圾广告的内容;
    3)多个广告帐号互相配合发布、传播包含垃圾广告的内容;
    4)多次发布包含欺骗性外链的内容,如未注明的淘宝客链接、跳转网站等,诱骗用户点击链接
    5)发布大量包含推广链接、产品、品牌等内容获取搜索引擎中的不正当曝光;
    6)购买或出售帐号之间虚假地互动,发布干扰网站秩序的推广内容及相关交易。
    7)发布包含欺骗性的恶意营销内容,如通过伪造经历、冒充他人等方式进行恶意营销;
    8)使用特殊符号、图片等方式规避垃圾广告内容审核的广告内容。


4. 色情低俗信息,主要表现为:
    1)包含自己或他人性经验的细节描述或露骨的感受描述;
    2)涉及色情段子、两性笑话的低俗内容;
    3)配图、头图中包含庸俗或挑逗性图片的内容;
    4)带有性暗示、性挑逗等易使人产生性联想;
    5)展现血腥、惊悚、残忍等致人身心不适;
    6)炒作绯闻、丑闻、劣迹等;
    7)宣扬低俗、庸俗、媚俗内容。


5. 不实信息,主要表现为:
    1)可能存在事实性错误或者造谣等内容;
    2)存在事实夸大、伪造虚假经历等误导他人的内容;
    3)伪造身份、冒充他人,通过头像、用户名等个人信息暗示自己具有特定身份,或与特定机构或个人存在关联。


6. 传播封建迷信,主要表现为:
    1)找人算命、测字、占卜、解梦、化解厄运、使用迷信方式治病;
    2)求推荐算命看相大师;
    3)针对具体风水等问题进行求助或咨询;
    4)问自己或他人的八字、六爻、星盘、手相、面相、五行缺失,包括通过占卜方法问婚姻、前程、运势,东西宠物丢了能不能找回、取名改名等;


7. 文章标题党,主要表现为:
    1)以各种夸张、猎奇、不合常理的表现手法等行为来诱导用户;
    2)内容与标题之间存在严重不实或者原意扭曲;
    3)使用夸张标题,内容与标题严重不符的。


8.「饭圈」乱象行为,主要表现为:
    1)诱导未成年人应援集资、高额消费、投票打榜
    2)粉丝互撕谩骂、拉踩引战、造谣攻击、人肉搜索、侵犯隐私
    3)鼓动「饭圈」粉丝攀比炫富、奢靡享乐等行为
    4)以号召粉丝、雇用网络水军、「养号」形式刷量控评等行为
    5)通过「蹭热点」、制造话题等形式干扰舆论,影响传播秩序


9. 其他危害行为或内容,主要表现为:
    1)可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好影响未成年人身心健康的;
    2)不当评述自然灾害、重大事故等灾难的;
    3)美化、粉饰侵略战争行为的;
    4)法律、行政法规禁止,或可能对网络生态造成不良影响的其他内容。


二、违规处罚
本网站通过主动发现和接受用户举报两种方式收集违规行为信息。所有有意的降低内容质量、伤害平台氛围及欺凌未成年人或危害未成年人身心健康的行为都是不能容忍的。
当一个用户发布违规内容时,本网站将依据相关用户违规情节严重程度,对帐号进行禁言 1 天、7 天、15 天直至永久禁言或封停账号的处罚。当涉及欺凌未成年人、危害未成年人身心健康、通过作弊手段注册、使用帐号,或者滥用多个帐号发布违规内容时,本网站将加重处罚。


三、申诉
随着平台管理经验的不断丰富,本网站出于维护本网站氛围和秩序的目的,将不断完善本公约。
如果本网站用户对本网站基于本公约规定做出的处理有异议,可以通过「建议反馈」功能向本网站进行反馈。
(规则的最终解释权归属本网站所有)

我知道了
恭喜你~答对了
+5羽毛
下一次认真读哦
成功推荐给其他人
+ 10羽毛
评论成功且进入审核!审核通过后,您将获得10羽毛的奖励。分享本文章给好友阅读最高再得15羽毛~
(羽毛可至 "羽毛精选" 兑换礼品)
好友微信扫一扫
复制链接