APP推广合作
联系“鸟哥笔记小乔”
推荐系统概述:猜你喜欢是怎么产生的?
2020-03-13 15:48:32

导读:本系列文章将从最简单的概念开始,逐步讲解推荐系统的发展历程和最新实践。以产品经理的视角,阐述推荐系统涉及的算法,技术和架构。本章是第一章,将先概括性介绍推荐系统。

推荐系统是迄今为止,人工智能,大数据和云计算等前沿技术应用得最全面的产品场景之一。它是众多前沿技术的结晶,集百家之大成,复杂而微妙。但抽茧剥丝后,它又跟众多的科学那样,简洁而优美。像“猜你喜欢“这样的功能,已经数见不鲜,陪伴我们多年了。但这个功能具体是怎么实现的呢?我想通过这篇文章跟大家聊一聊。

在介绍推荐系统之前,先简单介绍下人工智能技术。

一、解决人工智能问题的两种思路

人工智能的算法,涵盖了概率,统计,高等数学,计算机,大数据等多个学科的知识,抽象且复杂。这里不打算给人工智能做内涵和外延的定义性解释,而是从更具象的角度来阐述这个问题。

机器智能和飞上蓝天,都是人类千百年来的梦想,而且这个两个尖端科学都经历了直接仿生的思路失败后,改变思路获得了突破。

因为看见鸟能飞,最早制造飞行器的思路,都是模仿鸟的结构。达芬奇是个伟大的艺术家,同时也是个能工巧匠,他设计了一个非常巧妙且像鸟的飞行器,但似乎并没有什么用。历史上第一个真正驾驶飞行器飞上蓝天的人,是把飞行器做的最不像鸟的莱特兄弟。飞机的诞生,建立在流体力学的基础上。

类似地,历史上,人工智能有两种主要的思路。一种是早期的主流思路:模仿人类学习的过程,将事物的特性描述给机器,从而让机器获得跟人类等同的认知。按照这种思路,要让机器识别出猫来,就类似于要告诉机器:猫有四条腿,两只眼睛,身上有柔软的毛等等特征。因为人就是这样认识猫的。但是这种思路从1956年开始,被研究了十年之后依然毫无进展而被搁置。

另一种是现在的思路:让机器自己从数据中学习,从而获得类似人类的认知。所以,我们现在看到的人工智能术语名称,主要都是机器学习(Machine Learning),深度学习(Deep Learning),强化学习(Reinforcement Learning)等。按照这个思路,我们要识别出猫,只要给机器一系列图片,并标记好哪些是猫,哪些不是猫。机器通过图像数据训练模型,然后再用训练好的模型把猫识别出来。

推荐系统的思路也是这样,通过让机器学习每个用户的点击,购买,分享,收藏和负反馈等代表用户喜好和厌恶的数据,以让机器知道用户的偏好,从而实现对用户可能喜欢的物品进行推荐。

二、人工智能的三个过程

按机器学习的思路,人工智能的实践都可以简单地分为三个过程:数据,学习和决策。

首先,机器需要感知的事物对象,就要通过数据。这个数据有可能是现实世界中的实际数值,如温度,湿度,股票价格等等。也有些是数字化的文件,如图像,语音等。

对于大多数的数据,机器并不能直接就“读懂”他们,而需要我们用算法来从这些数据中提取特征。

比如在深度学习图片识别领域,需要用多层神经网络抽取出图像的基础特征。实践表明,高阶特征可由低阶特征组合而成。下图中,最底层的正交边经过组合后,就可以得到脸,车,大象和椅子。反过来讲,任意图片,经过多层神经网络特征抽取之后,都可以得到相似的基础特征。所以可以简单地认为,基础特征的不同组合形成了不同的的图像,提取出图像的基础特征和组合参数就能识别图像。

由于数据形式不同,推荐系统算法并不能像图像识别算法那样直接通过堆叠神经元层级来抽取特征。推荐系统抽取特征的过程需要不同类别算法的辅助。如推荐系统需要构建用户画像和物品画像,要用算法或规则先把用户的偏好标签和物品的特征标签都打好,计算好权重,然后再输入模型进行学习。

再者,学习则是机器通过算法,通过大量的数据不断迭代调优,训练模型的过程。

最后,决策就是通过训练好的模型进行预测或分类等。这些都比较好理解。

一个推荐系统,会由很多个模型构成。小到一个用户画像标签的预测模型,大到推荐的排序模型都可以拆解成数据→学习→决策的过程。这便是解决问题的思路。

因为不同性别的用户在物品偏好上有较大的不同。对于很多平台,预测性别是个必选的工作。这是个有监督学习问题,我们可以这样解决:

数据。首先挑选跟用户的性别有关数据。假设挑选了头像,昵称,手机型号,用户APP安装列表和点击记录等数据。然后将用户数据中这些字段和已知性别的数据挑选出来。

学习。挑选一个模型进行学习拟合。一般地可以选择逻辑回归模型,或者决策树类的模型进行拟合。

预测。用已学好的模型对未知性别的用户进行预测。

    三、推荐系统的作用

    介绍完人工智能的感知,学习和决策三个过程,下面开始介绍推荐系统。在互联网商业平台上,如今日头条,快手,淘宝等,存在供给和需求双方,双方的代表是用户(User)和物品(Item)。没有推荐系统的时候,用户和物品的连接方式一般有三种主要方式:

    物品经小编推荐给了用户

    用户自己搜索了需要的物品

    物品被用户A推荐给了用户B

    这三种连接方式满足了大多数的需求,也一直运行良好。不过移动互联网时代,手机屏幕小,单屏可曝光内容也少了很多。特别是在流量越来越难获取的当下,平台的主动推荐单纯靠运营人员编辑,局限性就比较明显:

    运营大多推荐大众喜欢的物品,长尾物品得不到足够曝光。

    大众商品不等于人人喜欢,存在推荐不精准而导致的流量浪费。

    推荐数目有限,内容不能无限下拉,用户看完即走。

    为了解决以上这些问题,我们引进了推荐系统。

    四、推荐系统的工作流程

    从本质上讲,推荐的过程,就是根据不同的用户偏好,对物品进行排序,然后择优推荐。

    极端情况下,如果只有10个物品需要推荐,我们为每个用户都针对这10个物品进行全排序就可以了,这不需要很大的计算资源。

    但是,当被推荐物品达到上百万个的时候,我们就不可能给每个用户都进行全排序了。一般来说,推荐结果要在收到用户请求后,10毫秒左右的时间就给出,做物品全排序这么短时间是不可能达成的。所以推荐的时候,只能对部分物品进行排序。

    推荐系统一般做点击预估较多,我们这里以点击预估为例。系统给用户做推荐,一般按照以下流程进行:

    如上图所示,给用户做出推荐响应的过程分为三个:

    召回:从百万以上内容池中快速初筛出候选集。

    初排:根据点击率预估给候选集初步排序。

    精排:根据需要调整排序。

    先说召回。收到用户请求后,我们需要一些快速的算法或者规则,从上百万甚至上亿的物品库中将最有可能的物品初步筛选出来。这个筛选的过程就叫做召回(Recall),也有些互联网公司将这个过程叫做匹配(Matching)。召回完成后,就可以得到几百个推荐候选集。一个推荐系统一般有多个召回算法或者召回规则,这叫做多路召回。如:

    基于用户画像标签召回。

    基于地理位置信息召回。

    基于物品协同过滤召回。

    基于热门商品召回。

    再说初排。召回过程完成后,得到的候选集就被输入排序模型进行排序。模型将预测每个物品被用户点击的概率,且按照点击概率高到低进行排序。但是这个排序结果一般不是最终推荐给用户的结果,所以这个过程叫初排。初排后,一般会产生几十个推荐结果给下一步。

    最后,我们看下精排。前面提到人工智能的两种思路。但是,在第二种思路大行其道的今天,并不是第一种思路就消失殆尽了。在推荐系统中,还需要策略产品经理设定一些专家规则。在算法还没有学习到某方面知识的时候,用这些规则告诉机器如何处理一些问题。精排就是需要使用规则的场景之一。

    精排一般是对排序的结果进行额外的筛查,降权或升权处理的过程。下面是一些常见的精排时处理:

    对推荐结果的进行调整,保持每次推荐的多样性。如一口气推荐了10款华为手机,而且都靠的很近,这个时候就需要将结果减少,如只要前两个,而且打散。

    出于商业目的,对一些物品进行流量扶持,将推荐结果中该类物品排到前面。甚至某些物品不管有没有被推荐,都直接插入并置顶。

    对有违规风险,或者已经下架,或者该用户不喜欢的物品进行过滤

    精排结束后,一般会产生8-10个结果直接推荐给用户。这就是整个推荐的过程。

    五、结语

    最后,总结一下,本章有两个重要点:

    人工智能问题实践中,一般有三个步骤:数据,学习和决策。面对我们需要让机器学习的问题,首先我们要找到机器需要的数据,并做好特征提取。数据准备好后,再通过选择或构建模型让机器学习。

    推荐系统给用户做推荐时,会经过三个步骤:召回,初排和精排。

    预告,下章将会讲解协同过滤算法。敬请期待!谢谢!

    -END-

    鸟哥笔记,职场成长,小马鱼,运营入门,内容运营,规划,成长

    菠萝王子
    分享到朋友圈
    收藏
    收藏
    评分

    综合评分:

    我的评分

    测一测

    人工智能的实践都可以简单地分为三个过程,第二个过程是?
    正确
    正确
    正确
    已提交
    Xinstall 15天会员特权
    Xinstall是专业的数据分析服务商,帮企业追踪渠道安装来源、裂变拉新统计、广告流量指导等,广泛应用于广告效果统计、APP地推与CPS/CPA归属统计等方面。
    20羽毛
    立即兑换
    一书一课30天会员体验卡
    领30天VIP会员,110+门职场大课,250+本精读好书免费学!助你提升职场力!
    20羽毛
    立即兑换
    顺丰同城急送全国通用20元优惠券
    顺丰同城急送是顺丰推出的平均1小时送全城的即时快送服务,专业安全,准时送达!
    30羽毛
    立即兑换
    菠萝王子
    菠萝王子
    发表文章3
    来自产品经理的推荐系统,人工智能,大数据知识分享
    确认要消耗 羽毛购买
    推荐系统概述:猜你喜欢是怎么产生的?吗?
    考虑一下
    很遗憾,羽毛不足
    我知道了

    我们致力于提供一个高质量内容的交流平台。为落实国家互联网信息办公室“依法管网、依法办网、依法上网”的要求,为完善跟帖评论自律管理,为了保护用户创造的内容、维护开放、真实、专业的平台氛围,我们团队将依据本公约中的条款对注册用户和发布在本平台的内容进行管理。平台鼓励用户创作、发布优质内容,同时也将采取必要措施管理违法、侵权或有其他不良影响的网络信息。


    一、根据《网络信息内容生态治理规定》《中华人民共和国未成年人保护法》等法律法规,对以下违法、不良信息或存在危害的行为进行处理。
    1. 违反法律法规的信息,主要表现为:
        1)反对宪法所确定的基本原则;
        2)危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一,损害国家荣誉和利益;
        3)侮辱、滥用英烈形象,歪曲、丑化、亵渎、否定英雄烈士事迹和精神,以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉;
        4)宣扬恐怖主义、极端主义或者煽动实施恐怖活动、极端主义活动;
        5)煽动民族仇恨、民族歧视,破坏民族团结;
        6)破坏国家宗教政策,宣扬邪教和封建迷信;
        7)散布谣言,扰乱社会秩序,破坏社会稳定;
        8)宣扬淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪;
        9)煽动非法集会、结社、游行、示威、聚众扰乱社会秩序;
        10)侮辱或者诽谤他人,侵害他人名誉、隐私和其他合法权益;
        11)通过网络以文字、图片、音视频等形式,对未成年人实施侮辱、诽谤、威胁或者恶意损害未成年人形象进行网络欺凌的;
        12)危害未成年人身心健康的;
        13)含有法律、行政法规禁止的其他内容;


    2. 不友善:不尊重用户及其所贡献内容的信息或行为。主要表现为:
        1)轻蔑:贬低、轻视他人及其劳动成果;
        2)诽谤:捏造、散布虚假事实,损害他人名誉;
        3)嘲讽:以比喻、夸张、侮辱性的手法对他人或其行为进行揭露或描述,以此来激怒他人;
        4)挑衅:以不友好的方式激怒他人,意图使对方对自己的言论作出回应,蓄意制造事端;
        5)羞辱:贬低他人的能力、行为、生理或身份特征,让对方难堪;
        6)谩骂:以不文明的语言对他人进行负面评价;
        7)歧视:煽动人群歧视、地域歧视等,针对他人的民族、种族、宗教、性取向、性别、年龄、地域、生理特征等身份或者归类的攻击;
        8)威胁:许诺以不良的后果来迫使他人服从自己的意志;


    3. 发布垃圾广告信息:以推广曝光为目的,发布影响用户体验、扰乱本网站秩序的内容,或进行相关行为。主要表现为:
        1)多次发布包含售卖产品、提供服务、宣传推广内容的垃圾广告。包括但不限于以下几种形式:
        2)单个帐号多次发布包含垃圾广告的内容;
        3)多个广告帐号互相配合发布、传播包含垃圾广告的内容;
        4)多次发布包含欺骗性外链的内容,如未注明的淘宝客链接、跳转网站等,诱骗用户点击链接
        5)发布大量包含推广链接、产品、品牌等内容获取搜索引擎中的不正当曝光;
        6)购买或出售帐号之间虚假地互动,发布干扰网站秩序的推广内容及相关交易。
        7)发布包含欺骗性的恶意营销内容,如通过伪造经历、冒充他人等方式进行恶意营销;
        8)使用特殊符号、图片等方式规避垃圾广告内容审核的广告内容。


    4. 色情低俗信息,主要表现为:
        1)包含自己或他人性经验的细节描述或露骨的感受描述;
        2)涉及色情段子、两性笑话的低俗内容;
        3)配图、头图中包含庸俗或挑逗性图片的内容;
        4)带有性暗示、性挑逗等易使人产生性联想;
        5)展现血腥、惊悚、残忍等致人身心不适;
        6)炒作绯闻、丑闻、劣迹等;
        7)宣扬低俗、庸俗、媚俗内容。


    5. 不实信息,主要表现为:
        1)可能存在事实性错误或者造谣等内容;
        2)存在事实夸大、伪造虚假经历等误导他人的内容;
        3)伪造身份、冒充他人,通过头像、用户名等个人信息暗示自己具有特定身份,或与特定机构或个人存在关联。


    6. 传播封建迷信,主要表现为:
        1)找人算命、测字、占卜、解梦、化解厄运、使用迷信方式治病;
        2)求推荐算命看相大师;
        3)针对具体风水等问题进行求助或咨询;
        4)问自己或他人的八字、六爻、星盘、手相、面相、五行缺失,包括通过占卜方法问婚姻、前程、运势,东西宠物丢了能不能找回、取名改名等;


    7. 文章标题党,主要表现为:
        1)以各种夸张、猎奇、不合常理的表现手法等行为来诱导用户;
        2)内容与标题之间存在严重不实或者原意扭曲;
        3)使用夸张标题,内容与标题严重不符的。


    8.「饭圈」乱象行为,主要表现为:
        1)诱导未成年人应援集资、高额消费、投票打榜
        2)粉丝互撕谩骂、拉踩引战、造谣攻击、人肉搜索、侵犯隐私
        3)鼓动「饭圈」粉丝攀比炫富、奢靡享乐等行为
        4)以号召粉丝、雇用网络水军、「养号」形式刷量控评等行为
        5)通过「蹭热点」、制造话题等形式干扰舆论,影响传播秩序


    9. 其他危害行为或内容,主要表现为:
        1)可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好影响未成年人身心健康的;
        2)不当评述自然灾害、重大事故等灾难的;
        3)美化、粉饰侵略战争行为的;
        4)法律、行政法规禁止,或可能对网络生态造成不良影响的其他内容。


    二、违规处罚
    本网站通过主动发现和接受用户举报两种方式收集违规行为信息。所有有意的降低内容质量、伤害平台氛围及欺凌未成年人或危害未成年人身心健康的行为都是不能容忍的。
    当一个用户发布违规内容时,本网站将依据相关用户违规情节严重程度,对帐号进行禁言 1 天、7 天、15 天直至永久禁言或封停账号的处罚。当涉及欺凌未成年人、危害未成年人身心健康、通过作弊手段注册、使用帐号,或者滥用多个帐号发布违规内容时,本网站将加重处罚。


    三、申诉
    随着平台管理经验的不断丰富,本网站出于维护本网站氛围和秩序的目的,将不断完善本公约。
    如果本网站用户对本网站基于本公约规定做出的处理有异议,可以通过「建议反馈」功能向本网站进行反馈。
    (规则的最终解释权归属本网站所有)

    我知道了
    恭喜你~答对了
    +5羽毛
    下一次认真读哦
    成功推荐给其他人
    + 10羽毛
    评论成功且进入审核!审核通过后,您将获得10羽毛的奖励。分享本文章给好友阅读最高再得15羽毛~
    (羽毛可至 "羽毛精选" 兑换礼品)
    好友微信扫一扫
    复制链接