今天我们来简单介绍一下搜索引擎的整个工作流程的第二个系统:数据分析系统,这也是搜索引擎网页抓取收录系统之后的一个系统。搜索引擎数据分析系统主要用于处理抓取回来的网页。下面是关于这个系统的几个主要的知识点和主要流程:数据分析系统是怎么样处理这些网页的呢?
1、提取文字
我们都知道网页中包含了各种代码(Html、javascript等),这些东西无法用于排名计算,所以数据分析系统首先要做的就是删除掉这些代码,提取出文字内容。下面图1为提取文字之前,图2为提取文字之后:
今天我们来简单介绍一下搜索引擎的整个工作流程的第二个系统:数据分析系统,这也是搜索引擎网页抓取收录系统之后的一个系统。搜索引擎数据分析系统主要用于处理抓取回来的网页。下面是关于这个系统的几个主要的知识点和主要流程:数据分析系统是怎么样处理这些网页的呢?
1、提取文字
我们都知道网页中包含了各种代码(Html、javascript等),这些东西无法用于排名计算,所以数据分析系统首先要做的就是删除掉这些代码,提取出文字内容。下面图1为提取文字之前,图2为提取文字之后: