大数据毕设分享旅游大数据可视化管理系统(源码分享)_开源

# 0 简介

今天学长向大家介绍适合作为毕设的项目：

毕设分享旅游大数据可视化管理系统(源码分享)

项目获取：

https://gitee.com/sinonfin/algorithm-sharing

1旅游大数据可视化管理系统

可视化样式

2 绪论

2.1 研究背景

当今时代信息资源日益丰富大量，信息资源的利用对社会的发展起着主要作用，运用信息技术协助产业设计越来越成为行业发展的重要趋势。

旅游产业是典型的体验服务产业，在任何发展阶段，信息反馈的准确性与及时性都具有非凡的意义。大数据的3v特征，海量的数据规模(volume)、快速的数据流转和动态的数据体系(velocity)、多样的数据类型(variety)都能够很好地满足旅游产业对信息的各方面需求。从现阶段发展来看，旅游大数据在系统了解旅游市场构成、细分市场特征、消费者需求和竞争者状况，保证品牌市场个性化方面以及在统计分析消费者行为、兴趣偏好和产品的市场口碑，有针对性地制订旅游产品和营销计划方面;在帮助企业管理者掌握旅游行业潜在的市场需求推进旅游行业收益管理等方面得到了有效应用，大数据分析技术在定制旅游上的应用更是逐渐发展成为一种全新的旅游生产方式。本文通过分析国内旅游市场现状、大数据的应用特点以及现有定制旅游网站产品服务的模式及特征，试图通过某种方式理解旅游用户的真正需求，从而帮助实现定制旅游网站的产品及服务设计最优。

2.2 研究现状

“定制旅游”是旅游市场发展的需要，同样是高度同质化的在线旅游市场发展的结果。它是以旅游者为主导进行旅游行动流程的设计，通常根据旅游者的消费能力，以满足其个性化的需求为原则，，设计出最大限度符合旅游者心理预期产品的一种旅游方式。定制旅游发展到现在不仅包括面向垂直细分人群的旅游产品设计更衍生出多种在线旅游产品平台模式。通过资料研究，现有基于大数据的定制旅游网站一般为两种模式。

其一，“反向定制”旅游网站模式。基于庞大的用户数据，进行旅游用户群行为的预测，从而根据旅游用户群体的喜好或消费倾向，制订相应主题的旅游产品。

其二，自主旅游定制模式。由旅游者提出具体求，旅游平台进行对接。“反向定制”模式创造性地结合了多样化与标准化，在满足客户个性化需求的同时，能够降低定制成本，加快定制速度。而自主旅游定制模式要求网站能够第一时间对用户需求做出反应，这里是指利用大数据和智能化技术，为用户一键生成出游路线计划。两种模式的定制旅游突破了传统旅游典型的标准化产品和服务，向人们展示了一种更便捷、更主动的旅行方式，在产品或服务的设计过程中，行程计划根据用户的需求定制，使旅行的灵活性极大增强，有效提升了旅游质量。自主定制旅游更突出科技的高效精准，大数据挖掘技术代替旅游用户本人做了行前大量的准备、调研工作，能够节省用户更多的时间成本。

然而，通过实例分析，现有定制旅游网站在概念层面以及满足用户个性化需求层面上存在不同程度的局限性。所谓“定制”是指个人属性强烈的产品，“反向定制”突出反映产品设计中人们普遍关注一个在线旅游用户群体，而较少从旅游用户个体的角度进行关联分析的现状;自主旅游模式更是从用户简单的几步倾向选择出发，进行用户求片面妄断。两种旅游定制模式严格意义上无法真正触及每个旅游个体用户的真正心理，无法实现真正的个性化定制。

2.3 开发环境

本文用到的开发环境如下：

idea 2018.3
hadoop 2.7.2
zookeeper 3.4.10
hive 1.2.1
hbase 1.3.1
echarts 5.1.1

3 数据抓取和清洗

3.1 相关技术

jsoup

java中支持的爬虫框架有很多，比如webmagic、spider、jsoup等。我们使用jsoup来实现一个简单的爬虫程序。

jsoup拥有十分方便的api来处理html文档，比如参考了dom对象的文档遍历方法，参考了css选择器的用法等等，因此我们可以使用jsoup快速地掌握爬取页面数据的技巧。

数据抓取

利用jsoup抓取旅游网站数据

通过jsoup对网页中有用的数据进行解析，之后我们将得到想要的数据。获取城市所有信息，首先需要获取到城市名称也就是获取所有<dd></dd>标签中的所有a链接的文本。

3.2 数据清洗

数据清洗是指发现并纠正数据文件中可识别的错误的最后一道程序，包括检查数据一致性，处理无效值和缺失值等。与问卷审核不同，录入后的数据清理一般是由计算机而不是人工完成。

使用jsoup获取到的是整个页面的资源，其中包含html的代码，也就会包含无意义的数据，需将它进行清洗。

获取所有<dd></dd>标签。

elements all_dd = pinyin_filter.getelementsbytag(“dd”);
获取<dd></dd>标签下的所有a标签。

string cityid = stringutil.getnumbers(element.attr(“href”));
获取所有a标签中的文本并添加到hotelcity类中，hotelcity实体类信息如表2-1所示：

表2-1 hotelcity实体类信息

id	int
name	varchar
price	double
lat	double
lon	double
url	varchar
img	varchar
score	double
dpsocre	int
star	varchar
stardesc	varchar
shortname	varchar

核心代码如下：

string headpinyin = dt_headpinyin.text();

hotelcity.setheadpinyin(headpinyin)；

清洗无意义数据

将获取到携程网的城市酒店的html数据（包含所有元素）进行清洗，得到我们需要的标签数据。为了更好的解析数据，我们要将一些无意义的数据进行清洗。jsoup在这里提供了一个方便的清洗数据方法。然后就可以通过jsoup进行数据的清洗。

3.3 获取所有酒店信息

通过分析酒店相关信息是ajax加载存放在json数据中，价格也在同一个json中但是放在另外的位置通过酒店id对应，并且请求方式是post，请求的参数有很多，经检验可只传城市id获取，下面简单介绍通过网络请求将json数据拿到，最后将重要数据进行截取，返回一个清晰重要的json数据，再对json数据进行解析便可得到酒店相关信息。

4 数据存储

4.1 相关技术

hbase

hbase是一个分布式的、面向列的开源数据库，该技术来源于fay
chang所撰写的google论文“bigtable：一个结构化数据的分布式存储系统”。就像bigtable利用了google文件系统（file
system）所提供的分布式数据存储一样，hbase在hadoop之上提供了类似于bigtable的能力。hbase是apache的hadoop项目的子项目。hbase不同于一般的关系数据库，它是一个适合于非结构化数据存储的数据库。另一个不同的是hbase基于列的而不是基于行的模式。

结构介绍

hbase——hadoop
database，是一个高可靠性、高性能、面向列、可伸缩的分布式存储，利用hbase技术可在廉价pc
server上搭建起大规模结构化存储集群。

与fujitsu cliq等商用大数据产品不同，hbase是google bigtable的开源实现，类似google
bigtable利用gfs作为其文件存储系统，hbase利用hadoop
hdfs作为其文件存储系统；google运行mapreduce来处理bigtable中的海量数据，hbase同样利用hadoop
mapreduce来处理hbase中的海量数据；google
bigtable利用chubby作为协同服务，hbase利用zookeeper作为对应。

下图描述hadoop ecosystem中的各层系统。其中,hbase位于结构化存储层，hadoop
hdfs为hbase提供了高可靠性的底层存储支持；hadoop
mapreduce为hbase提供了高性能的计算能力；zookeeper为hbase提供了稳定服务和failover机制。

图3-1 hbase结构图

存储格式

hbase中的所有数据文件都存储在hadoop
hdfs文件系统上，主要包括上述提出的两种文件类型：

hfile，hbase中keyvalue数据的存储格式，hfile是hadoop的二进制格式文件，实际上storefile就是对hfile做了轻量级包装，即storefile底层就是hfile。
hlog file，hbase中wal（write ahead log）的存储格式，物理上是hadoop的sequence
file。

4.2 存储酒店数据

hbaseutil工具类设计

创建hbase表的方法

代码如下：

public static void createtable(string tablename, string... columnnames) throws ioexception {

 startconn();

 //获取表对象操作

 admin admin = conn.getadmin();

 tablename tablenameobj = tablename.valueof(bytes.tobytes(tablename));

 //判断表是否为空

 if (tablename != null && !tablename.isempty()) {

   if (!admin.tableexists(tablenameobj)) {

  htabledescriptor hdr = new htabledescriptor(tablenameobj);

  for (string columnname : columnnames) {

    hdr.addfamily(new hcolumndescriptor(columnname));}

  admin.createtable(hdr);

}

 }

 closeconn();

  }

向指定表插入数据的方法

代码如下：

public static long putdatabytable(string tablename, list<put> puts) throws exception {
  startconn();
  long currenttime = system.currenttimemillis();
  table table = conn.gettable(tablename.valueof(bytes.tobytes(tablename)));
  try {
      table.put(puts);
  } finally {
table.close();
closeconn();
  }
  return system.currenttimemillis() - currenttime;  //返回插入数据花费的时间(毫秒)}

酒店信息表

表名: t_city_hotels_info

列族：cityinfo、hotel_info

列族cityinfo下的列：cityid、cityname、pinyin、collectiontime

列族hotel_info下的列：id、name、price、lon、url、img、address、score、dpscore、dpscore、dpcount、star、stardesc、shortname、issinglerec

从hotel实体类中提取数据并保存到hbase表中。

核心代码如下：

酒店评论信息表

表名: t_hotel_comment

列族：hotel_info、comment_info

列族c hotel_info下的列：hotel_name、hotel_id

列族comment_info下的列：id、baseroomid、baseroomname、checkindate、postdate、content、highlightposition、hashotelfeedback、usernickname

从hotelcomment实体类中提取数据并保存到hbase表中。

核心代码如下：

list<hotel> parsearray = jsonobject.parsearray(readfiletostring, hotel.class);
list<hotel> hongkonghotel = jsonobject.parsearray(hongkong, hotel.class);
parsearray.addall(hongkonghotel);
hbaseutil.putdatabytable("t_city_hotels_info", puts);

mapreduce程序——统计平均价格

mapper阶段

输入类型：< immutablebyteswritable, result>

输出类型：<immutablebyteswritable, doublewritable>

在mapper阶段，从hbase表t_city_hotels_info中读取数据，查询出每个rowkey的列cityinfo:cityname、列hotel_info:price对应的值。将列cityinfo:cityname对应的值设置为输出的k、列hotel_info:price对应的值设置为输出的v。

核心代码如下:

byte[] cityname = value.getvalue(bytes.tobytes("cityinfo"), bytes.tobytes("cityname"));
k.set(cityname);
byte[] byte_price = value.getvalue(bytes.tobytes("hotel_info"), bytes.tobytes("price"));
double doulble_price = double.parsedouble(bytes.tostring(byte_price));
v.set(doulble_price);
context.write(k, v);

reducer阶段

输入类型：<immutablebyteswritable, doublewritable>

输出类型：<immutablebyteswritable, put>

在reducer阶段，从mapper中取出数据，取出具有相同的k的v，求平均值。

将结果输出到hbase表averageprice，将k设置为rowkey,平均值设置为列info: price的值。

核心代码如下：

for (doublewritable value : values) {
sum += value.get();
count++;}
double average = sum / count;
v.addcolumn(bytes.tobytes("info"), bytes.tobytes("price"),	 bytes.tobytes(string.valueof(average)));
context.write(key,v);

driver阶段

hbase提供了tablemapreduceutil的inittablemapperjob和inittablereducerjob两个方法来完成mapreduce的配置。需指定mapper要读取的表以及reducer分析数据后要导入的表。

核心代码如下：

tablemapreduceutil.inittablemapperjob(
"t_city_hotels_info",
new scan(),
apmapper.class,
text.class,
intwritable.class,
job);
//reducer
tablemapreduceutil.inittablereducerjob(
"averageprice",
cwreducer.class,
job);

mapreduce程序——统计词频

word分词是一个java实现的中文分词组件，提供了多种基于词典的分词算法。能准确识别英文、数字，以及日期、时间等数量词，能识别人名、地名、组织机构名等未登录词。通过hbase的mapreduce进行数据分析，得到词频较高的数量并进行汇总。

mapper阶段

输入类型：< immutablebyteswritable, result>

输出类型：<text, intwritable>

在mapper阶段，从hbase表t_hotel_comment中读取数据，查询出每个rowkey的列comment_info:
content对应的值。将列comment_info:
content对应的值设置为输出的k、该词出现次数指定为1并设置为v。

核心代码如下:

private static byte[] family = "comment_info".getbytes();
private static byte[] column = "content".getbytes();
byte[] value = result.getvalue(family, column);
string word = new string(value,"utf-8");
if(!word.isempty()){
string filter = emojiparser.removeallemojis(word);
list<word> segs = wordsegmenter.seg(filter);
for(word cont : segs) {
text text = new text(cont.gettext());
intwritable v = new intwritable(1);
context.write(text,v);
}
}

reducer阶段

输入类型：<text, intwritable>

输出类型：<immutablebyteswritable, put>

在reducer阶段，从mapper中取出数据，取出具有相同的k的v，求和。将结果输出到hbase表countword，将k设置为rowkey,求和结果设置为列word_info:
count的值。

核心代码如下：

int sum=0;
for(intwritablevalue:values){
sum+=value.get();
}
put put=new put(bytes.tobytes(key.tostring()));
put.addcolumn(family,column,bytes.tobytes(sum));
context.write(null,put);

driver阶段

需指定mapper要读取的表以及reducer分析数据后要导入的表。

核心代码如下：

//mapper
tablemapreduceutil.inittablemapperjob(
"t_hotel_comment",
new scan(),
cwmapper.class,
text.class,
intwritable.class,
job);
//reducer
tablemapreduceutil.inittablereducerjob(
"countword",
cwreducer.class,
job);

5 数据可视化

可视化图表设计

酒店价格分布图

本设计采用echarts作为可视化数据展示框架，并采用柱状图展示酒店价格分布，
最终效果如图5-1所示。

图 5-1 酒店价格分布图

酒店平均价格对比图

酒店平均价格对比图，最终效果如图5-2所示。

图 5-2 酒店平均价格对比图

酒店房型统计图

酒店房型统计图，最终效果如图5-3所示。

图 5-3 酒店房型统计图

数据可视化展示

通过echarts框架可以轻松实现数据的可视化展示，下图是根据echarts统计绘制的图表信息。

图 54 携程网数据分析

大数据毕设分享旅游大数据可视化管理系统(源码分享)

2024年08月02日 • 开源 •我要评论

1旅游大数据可视化管理系统

2 绪论

2.1 研究背景

2.2 研究现状

2.3 开发环境

3 数据抓取和清洗

3.1 相关技术

jsoup

数据抓取

利用jsoup抓取旅游网站数据

3.2 数据清洗

清洗无意义数据

3.3 获取所有酒店信息

4 数据存储

4.1 相关技术

hbase

结构介绍

存储格式

4.2 存储酒店数据

hbaseutil工具类设计

酒店信息表

酒店评论信息表

mapreduce程序——统计平均价格

mapreduce程序——统计词频

5 数据可视化

相关技术

echarts

可视化图表设计

酒店价格分布图

酒店平均价格对比图

酒店房型统计图

数据可视化展示

相关文章:

Kafka入门到精通(二)-安装Zookeeper

第18届全国大学生智能汽车竞赛四轮车开源讲解【4】--控制

开源小项目-基于STM32F103的频率测量实现 V1.1（ADC+TIM+DMA+FFT）

发表评论


验证码：

大数据毕设分享 旅游大数据可视化管理系统(源码分享)

2024年08月02日 • 开源 •我要评论

1旅游大数据可视化管理系统

2 绪论

2.1 研究背景

2.2 研究现状

2.3 开发环境

3 数据抓取和清洗

3.1 相关技术

jsoup

数据抓取

利用jsoup抓取旅游网站数据

3.2 数据清洗

清洗无意义数据

3.3 获取所有酒店信息

4 数据存储

4.1 相关技术

hbase

结构介绍

存储格式

4.2 存储酒店数据

hbaseutil工具类设计

酒店信息表

酒店评论信息表

mapreduce程序——统计平均价格

mapreduce程序——统计词频

5 数据可视化

相关技术

echarts

可视化图表设计

酒店价格分布图

酒店平均价格对比图

酒店房型统计图

数据可视化展示

相关文章:

Kafka入门到精通(二)-安装Zookeeper

第18届全国大学生智能汽车竞赛四轮车开源讲解【4】--控制

开源小项目-基于STM32F103的频率测量实现 V1.1（ADC+TIM+DMA+FFT）

发表评论

大数据毕设分享旅游大数据可视化管理系统(源码分享)