卢松松博客

谈谈我做过的关键词聚类

 人参与 | 时间:2014年06月04日 09:20

导读:@食堂老板:很多SEO傻子们以为百度的搜索技术在网页搜索,百度对于竞价推广的搜索相关技术对于个人而言其实更值得研究和更具有商业价值。

谈谈我做过的关键词聚类 好文分享

首先,如果单纯拿出一堆词就让我分类,这个我真做不到,我不知道有没有人能做到,反正我做不到。做关键词分类,对我而言,一定有一些基础信息,基础数据作为背景。

案例1:百度商业词聚类模型

现在看新闻,大家经常讨论一个话题,百度医疗行业的收入贡献比是多少,其实,我爆个大料给大家,在2005年甚至2006年之前,百度自己都不掌握这类数据。

当时百度有一个简单的客户分类,是客服提交的,然后我们看了一下消费的行业分布,结果显示超过50%属于其他分类,这个结果基本上就没法看了。

然后我就琢磨,用商业词能不能直接聚类为行业,当时我在产品部门,合作反欺诈点击的工程师是张怀亭(此人似乎现在还在百度),这是个算法高手,他当年的毕业论文就是关联规则和聚类算法,我就去请教他,他说了一堆,我大部分没听懂,但大概要点知道了一些,然后找他要了论文看了看,也没太看明白,凭借自己粗浅的理解我就动手了,然后这个还真做成了。

出发点是 假设客户本身具有行业属性(如果这个假设不存在,那就没辙了),我认为每个客户提交的关键词,彼此是有关联的。某两个关键词如果同时被不同的客户提交,其关联性就会随之增加,这个是最基本的一个定义,叫做共同推举数。也是最容易算的一个值。

但是仅仅依赖于共同推举数有一个问题,就是会导致很多词都和热门词关联,这是不合理的,我记得当时好像是某网上书城的推荐购买那一栏,明显都是热门书籍,似乎也是基于共同推举数做的关联。

问题1:A和B有50个共同推举,A和C有30个共同推举,但是B这个词是热门词,共有2000个客户提交;而C是冷门词,只有50个客户提交,请问A和B的关联度高还是A和C的关联度高?

问题2:客户1 提交了10000个词(类似阿里,中青旅真的是这么提交的);客户2提交了20个词,客户1所提交的10000个词的彼此关联度和客户2之间提交的是否一致?

考虑这两个问题,做权值调整,(其实我记得还有一个权值,很久的事情了,搞不清了)然后计算词与词的关联值。

那么,权值怎么定? 呵呵,实话说,拍脑袋,不过拍完了要校验。

实现程序只用了不到一个下午,然后跑一遍程序大约1个小时到2个小时(那时候百度的商业词还没那么多,客户也没现在呢么多,我的程序其实效率不够好)。然后我做了一个web展示界面,就是任意输入一个词,列出其关联词及关联值,目测坏案例,分析参数的问题,然后修改参数,再跑一遍。。。 跑了n多遍,大约两三天时间,觉得结果差不多了,词与词的关联建立起来了,考虑第二步,聚类。(当时认识了很多奇葩的商业词,大开眼界,对互联网行业认识彻底改观,比如白小姐,黄大仙,咳咳、咳咳,这个领域就不能再说了)

聚类的想法极为简单,把每个行业的代表词(与很多词关联的)抽取出来,当作核心词,然后基于词的关联(延展一级关联、二级关联、三级关联,比如A与B关联,B月C关联,C与D关联,计算彼此权值衰减,得出A与D的关联)。尽可能把所有词聚合到核心词上,作成行业词表。

最开始核心词我从库里挑与其他词关联度较高的有20多个,然后多级权值衰减也是拍脑袋想的,然后跑一遍,看两个指标,第一、覆盖率是多少;第二、准确率如何,选取每个行业关联度最低的词(坏案例的密度较高,有些词会同时被两个行业核心词关联,但权值计算会出问题,导致被并入错误的行业)去看,选择没有被关联上的词去看,分析权值的问题。然后修改衰减参数,增加核心词。这个程序我也是写了一个下午,但是调试权值和增加核心词,干了一个礼拜。

然后,百度商业分析部终于可以推出,基于行业的收入报表。我自豪的说一句,百度做收入行业分布,是基于我的关键词分类算法开始的,当然,今天他们鸟枪换炮了,我的算法效率不够(初期还行,到更大的词规模和更多客户就不行了),覆盖率和准确度并不十分完美(坏案例还是一直存在的,不过尽可能控制在消费总额的 10%以内,对热门词比较准,但对一些长尾控制不住)。不过、我是在产品部门干的这个活,呵呵。

后来,这个模型还用于智能起价。下面说一下智能起价的八卦。

智能起价其实是百度一个失败的商业尝试,对业务的伤害非常大,但是初期的设计理念并没有大问题,百度当时基于关键词的竞价(当时的竞价模式非常简单,别跟我说现在百度的竞价模式不这样,我明白),对商业价值的挖掘是有缺陷的,比如一些超级热门词,3毛一个点击也是卖不掉的(比如电影,小游戏)。是不是可以便宜点卖呢?对一些非常长尾但是价值很高的词,因为发现的客户少,所以起价很低,而其商业价值并不弱,比如 “最新型绿色干洗机报价” 这样的长尾词可能参与竞价的只有一两个客户,但是其商业价值不会低于“干洗机”这样的高价词。所以,智能起价真正的目的,是给热门非商业词降价,给冷门长尾商业词提价。 那么我就提出一个观点,关键词的起价应与他关联词的平均点击价格相关。然后他们拿这个模型去跟领导讲,很快就通过了。(牢骚一句,赵某童鞋去讲的,被领导问毛了,就说算法是技术部门的,他也不是很清楚,他去讲的时候明明是我提供的原型! 不过后来技术部门又做了一版,但那是后话了。) 智能起价模型失败的原因,有两个原因,第一,他们上的时候为了提高对非商业词的覆盖率,硬把关键词包含规则加上去了。导致了一些坏案例。(比如平板,平板电脑,并不是一个行业)。当时效果很不好,领导很不爽,批评我的坏案例太多,列了一堆,我挨个去查,所列的没有一个是我算法算出来的,都是词包含包进去的。其实这个问题还不算严重,词包含固然有坏案例,但是影响面极为有限;第二个问题更严重,就是领导太急迫了,这个事情我的建议是,起价权值低一点(通过算法计算每个词关联平均价格,然后关联平均价格*起价参数=该词起价,这是基本公式,起价参数全凭个人判断),看效果慢慢调整,结果领导一上来设的相当高,所以,客户极大不爽,各种擦屁股持续了几个月。百度那个季度实在可怜。

凤巢之后,智能起价终于寿终正寝。凤巢的方案更完美,更综合,这是必须承认的。

案例2:搜索词/指数词的聚类

当然,也可以基于搜索网民的提交来计算关联度,但是首先,网民的搜索行为,并不如客户提交商业词行为那样具有分类属性。其次,我当时的处理能力也搞不定这样的数据规模的关联计算。(好吧,现在也不大搞得定。)

那么基于什么呢?基于关键词+搜索量。

这事又是张怀亭帮忙,我在百度合作最多的工程师就是怀亭,当时他帮我做所有搜索记录的整理,包括汇总和反刷处理(除了一些ip,客户端标记清理外,最重要的还有一个规则,是基于渠道分布和客户端分布规则,正常的搜索词,来自于不同渠道的比例应该是遵循一个合理分布比例的,所谓渠道包括百度官网,hao123,其他联盟渠道等等,如果严重不遵守这个比例,基本就是刷指数了,但这个规则没有应用到百度指数上,至少当时没应用到,原因似乎是这样的,当时几乎所有榜单上的热门女星,似乎都有经纪公司或粉丝团的刷榜行为。)所以当时我手里有百度所有搜索词的搜索数据(清理掉刷指数的数据),而且每日更新。

那么怎么分类呢?如果做全分类,我真做不到,但是热门词是可以做的。这里有一个要点,就是每个热门关键词,都不是孤立存在的。而这些热门词的相关词(基于词包含)里,会携带一些表明其行业属性的词根,然后可以回溯这个热门词的行业属性。(对了,我上面不是说词包含有坏案例么,咳咳,这个,别求全责备。只有词和搜索量,还要做分类,有些坏案例也只能手工调整了。)

举例,

一个热门游戏,比如 神仙道, 会有大量诸如 神仙道攻略, 神仙道新服,神仙道道具,神仙道外挂 等等相关词。通过这些相关词的词根(可以对词根标记分类属性)回溯原词,以及原词所有相关词的分类。比如电视剧,常见词根有 “第**集,最新集。”,一个小说,常见词根有“第**章”,“最新章节” 等。

当然,还有一个情况,有些词是多含义的,比如典型如苹果(IT产品,电影,水果)。武林外传(电视剧,游戏)等。通过词根的分析,并基于不同词根下的搜索量加权,得到该词的搜索属性,偏向哪个领域,或各个领域的比例,是的,不是很精确,但是还是有一定价值的。

实现方法就是,针对每个未分类的热门词,去遍历包含他的所有词,然后基于预先定义的分类词根去套,对包含每个分类词根的长尾词根据搜索量加权,汇总,得到该热门词的分类属性,以及覆盖包含该热门词的所有长尾词的分类属性。

这个算法思路,不适合对长尾词挖掘(含有行业属性词根的长尾词可以覆盖,但是毕竟覆盖率不够),但是对百度热榜可以有很好的帮助,对热门词的挖掘和自动分类还是有一定把握的,当时不少人抱怨我说百度热榜更新不及时,一些新游戏都很火了也进不了热榜,我就拉着百度热榜的产品经理和技术分享过,还提供过原型代码,然后也没有然后了。

至少当时,我能不断看到网民搜索行为的分类比例(百度长尾词太多,我的模型覆盖搜索量只有50%左右),以及变化趋势,比如眼看着视频类的搜索比例快速增长。

又是一篇自吹为主的文章,那个,啥也不说了,您凑活看吧。

文章来源:caoz的梦呓

顶: 0踩: 0

来源:,欢迎分享,(QQ/微信:13340454)

必填

选填

选填

◎已有 30 人评论,微信:QQ13340454

1楼美女高清  2014-02-08 20:37:14
累觉不爱
顶: 0踩: 0 回复
2楼囧事  2014-01-03 10:27:32
这真是令人窒息的心痛
顶: 0踩: 0 回复
3楼笑话大全爆笑  2012-11-22 12:44:36
巨冷。。。
顶: 0踩: 0 回复
4楼旅途者  2012-11-21 09:33:43
苏菲一统天下了?……
顶: 0踩: 0 回复
5楼高清美女图片  2015-10-29 06:32:20
这个看了一堆,总感觉没看明白大部分看不懂
顶: 0踩: 0 回复
6楼抗疲劳保健品  2015-03-29 20:14:37
找个关键词真费劲
顶: 0踩: 0 回复
7楼共你  2014-09-21 16:33:01
规划股应该
顶: 0踩: 0 回复
8楼高隔间  2014-06-21 22:37:29
看不懂。高大上啊
顶: 0踩: 0 回复
9楼去长阳  2014-06-19 16:14:56
完全看不懂。好高深的样子。佩服。研究的好深啊!
顶: 0踩: 0 回复
10楼深圳保姆网  2014-06-16 13:16:45
牛B人物写牛B文章给牛人看
可惜我不是牛人,看不懂
顶: 0踩: 0 回复
11楼香港虚拟主机  2014-06-11 08:54:56
权重才是王道,关键词是硬道理啊
顶: 0踩: 0 回复
12楼朝阳人  2014-06-09 08:34:48
暂时没什么收获,日后再来。
顶: 0踩: 0 回复
13楼皮线光缆  2014-06-07 10:37:50
百度不承认权值,楼主也能扯到权值上去,真牛。
顶: 0踩: 0 回复
14楼网购世界商城  2014-06-06 21:27:55
我认为做关键词都要认真分析之后才能优化,这样才效果
顶: 0踩: 0 回复
15楼不不网赚博客  2014-06-06 13:15:24
完全看不懂。作者牛B
顶: 0踩: 0 回复
16楼日本料理加盟  2014-06-05 17:43:52
真心看不懂,可能是作者太牛逼的缘故
顶: 0踩: 0 回复
17楼ningqun  2014-06-04 21:21:56
追随前几楼……我也没看懂
顶: 0踩: 0 回复
18楼米号  2014-06-04 20:50:20
占位学习大佬的经验
顶: 0踩: 0 回复
19楼mm88网址导航  2014-06-04 19:15:59
关键词重要啊
顶: 0踩: 0 回复
20楼虚拟主机推荐  2014-06-04 12:19:57
不错呀! 很有用
顶: 0踩: 0 回复
21楼态度网  2014-06-04 12:00:06
貌似我没看懂 其它的童鞋们呢?
顶: 0踩: 0 回复
22楼尚丽女性门户  2014-06-04 11:41:28
想表达什么呢?
顶: 0踩: 0 回复
23楼山丘  2014-06-04 11:37:07
一语道破了机制,为什么?
顶: 0踩: 0 回复
24楼苹果维修博客  2014-06-04 11:00:15
太深奥了
顶: 0踩: 0 回复
25楼个人博客  2014-06-04 10:59:10
这个我就占位吧~ 不吐槽了……
顶: 0踩: 0 回复
26楼不一样博客  2014-06-04 10:30:16
这难道就是传说中的关键词挖掘技术!
顶: 0踩: 0 回复
27楼riverzhu  2014-06-04 10:26:11
看了很久很久,还是没有看懂,果然还是大屌丝一名
顶: 0踩: 0 回复
28楼投资移民  2014-06-04 10:21:12
没看懂,看来还需要加强学习啊
顶: 0踩: 0 回复
29楼诺伊网  2014-06-04 10:18:07
这个看了一堆,总感觉没看明白
顶: 0踩: 0 回复
30楼捡豆腐blog  2014-06-04 10:16:40
王婆卖瓜,自夸自擂
顶: 0踩: 0 回复
31楼宿迁论坛  2014-06-04 10:02:32
个人感觉写的太深奥,看不懂
顶: 0踩: 0 回复
32楼济南钟子豪  2014-06-04 10:01:21
大部分看不懂
顶: 0踩: 0 回复
33楼吴星  2014-06-04 09:57:05
这个导语。。。做 sem 的人有懂算法的吗?
顶: 0踩: 0 回复
34楼虚拟币  2014-06-04 09:34:16
竟然有一篇技术类的文章。
顶: 0踩: 0 回复