临汾山东漯河饰品美体美文
投稿投诉
美文创意
爱情通信
用品婚姻
爱好看病
美体软件
影音星座
瑜伽周边
星座办公
饰品塑形
搞笑减肥
幼儿两性
智家潮品
漯河衢州
兴义眉山
桂林阳泉
玉溪简阳
山东遂宁
永城新余
梧州洛阳
泸州温州
临汾清远
营口常熟
浙江大连
桐乡宜昌

MRSApacheZeppelin,让数据分析更便捷

2月22日 寒霜坞投稿
  摘要:选择轻量化、免运维、低成本的大数据云服务是业界趋势,如果搭建Zeppelin再同步自建一套Hadoop生态成本太高!因此我们通过结合华为云MRS服务构建数据中台。
  本文分享自华为云社区《MRS大数据平台结合ApacheZeppelin让数据分析更便捷云社区华为云》,作者:dullman。
  ApacheZeppelin:一款大数据分析和可视化工具,可以让数据分析师在一个基于Web的notebook中,采用不同语言对不同数据源中的数据进行交互式分析,并对结果进行可视化图表的展示。
  云服务MRS:华为云提供的一站式大数据平台,包含Hudi、ClickHouse、Spark、Flink、Kafka、Hive、HBase等丰富的大数据组件,完全兼容开源生态。本文介绍如何搭建Zeppelin并连接Hive、HBase进行简单的数据开发。为什么写这篇文章?Zeppelin相关的文章虽然很多,但是都没有与实际大数据平台结合的实践案例指导。Zeppelin的搭建存在不少坑,因此记录下部署中的各个问题,为后人填坑。选择轻量化、免运维、低成本的大数据云服务是业界趋势,如果搭建Zeppelin再同步自建一套Hadoop生态成本太高!因此我们通过结合华为云MRS服务构建数据中台。环境准备ApacheZeppelin0。9。0安装包MRS3。1。0普通集群(包含Hive、HBase组件)ECScentos7。6安装MRS客户端
  MRS客户端提供java、python开发环境,也提供开通集群中各组件的环境变量:Hadoop、Hive、HBase、flink等。
  参见登录ECS安装集群外客户端安装Zeppelin使用Xftp等工具导入主机并采用以下命令安装在optzeppelin目录。tarzxvfzeppelin0。9。0binall。tgzmvzeppelin0。9。0binalloptzeppelin配置Zeppelin环境变量,在profile文件中加入变量vietcprofileexportZEPPELINHOMEoptzeppelinexportPATHZEPPELINHOMEbin:ZEPPELINHOMEbin:PATH导入环境变量sourceetcprofile编辑zeppelinenv。sh文件,加入JAVAHOME,这里需要替换成自己的环境变量cdoptzeppelinconfcpzeppelinenv。sh。templatezeppelinenv。shsourceopthadoopclientbigdataenvechoexportJAVAHOMEopthadoopclientJDKjdk8u201zeppelinenv。sh编辑zeppelinsite。xml文件,将zeppelin。server。port8080替换成18081(可自定义,也可以不改);将zeppelin。anonymous。allowed参数的true修改为falsecdoptzeppelinconfcpzeppelinsite。xml。templatezeppelinsite。xmlvizeppelinsite。xmlpropertynamezeppelin。server。portnamevalue18081valuedescriptionServerport。descriptionpropertypropertynamezeppelin。anonymous。allowednamevaluefalasevaluedescriptionAnonymoususerallowedbydefaultdescriptionproperty编辑shiro。ini文件,新增用户developusercpshiro。ini。templateshiro。inivishiro。ini
  在〔users〕下新增用户developuser,密码Huawei123,权限admindevelopuserHuawei123,admin
  运行Zeppelin(并检查启动参数)cdoptzeppelinbinzeppelindaemon。shstart
  psefgrepzeppelin
  关闭防火墙,允许端口18081(此为测试环境,生产环境建议采取更安全措施)systtemctlstopfirewalld完成以上配置,并启动成功后,在浏览器中输入地址zeppelinip:18081(zeppelinip为安装zeppelin的HD客户端IP),即可看到如下界面。
  使用developuser登录,就可以基于note进行大数据的交互式开发了!
  Zeppelin连接Hive
  1、将Zeppelin中jdbc依赖的jar包替换成MRS客户端中HiveBeelinelib中的jar包,保证hiveInterpreter依赖的Jar包存在cpfoptBigdataclientHiveBeelinelib。jaroptzeppelininterpreterjdbc
  2、修改Zeppelin配置,添加ClientHiveUrl
  查询CLIENTHIVEURLsourceopthadoopclientbigdataenvechoCLIENTHIVEURI
  编辑interpreter。json,位置usrzeppelinconfinterpreter。json,修改JDBCdefault。url,default。driver。jdbc:{id:jdbc,name:jdbc,group:jdbc,properties:{default。url:{name:default。url,value:jdbc:hive2:192。168。1。188:24002,192。168。1。234:24002,192。168。1。241:24002;serviceDiscoveryModezooKzooKeeperNamespacehiveserver2,type:string,description:TheURLforJDBC。},default。user:{name:default。user,value:gpadmin,type:string,description:TheJDBCusername},default。password:{name:default。password,value:,type:password,description:TheJDBCuserpassword},default。driver:{name:default。driver,value:org。apache。hive。jdbc。HiveDriver,type:string,description:JDBCDriverName}
  3、重启zeppelinbinzeppelindaemon。shrestart
  4、创建Notebook,选择defaultinterpreter为jdbc
  5、在notebook上使用HiveSQL进行查询查询数据库
  创建Hive表jdbccreateexternaltablestu(sidstring,snamestring)rowformatdelimitedfieldsterminatedby‘’;
  Zeppelin连接HBase
  1、将Zeppelin中hbase依赖的jar包替换成MRS客户端中HBase中的jar包,保持jar的一致先将optzeppelininterpreterhbase目录下原本的Jar包移走cdoptzeppelininterpreterhbasemkdirhbaseoldjarmvhbase。jarhbaseoldjarmvhadoop。jarhbaseoldjarmvzookeeper3。4。6。jarhbaseoldjar再将opthadoopclientHBasehbaselib下的jar包拷贝至optzeppelininterpreterhbase。cpfopthadoopclientHBasehbaselib。jarusrzeppelininterpreterhbase
  2、修改Zeppelin配置
  编辑zeppelinenv。sh,加入hbase环境变量exportHBASEHOMEopthadoopclientHBasehbase
  编辑interpreter。json,位置optzeppelinconfinterpreter。json,修改hbase。homehbase。home:{name:hbase。home,value:opthadoopclientHBasehbase,type:string}
  3、重启zeppelinbinzeppelindaemon。shrestart
  4、配置Interpreter
  从web界面右上角菜单中Interpreter中进入,配置Interpreter
  选择Hbase,修改如下配置,并保存配置。hbase。home:optclientHBasehbase
  5、创建note进行数据开发
  页面选择Notebookcreatenewnote
  自定义Note名称,例如hbaseNote,并指定Interpreter为HBase。
  编辑Note,点击右侧执行按钮(三角标志)hbasecreate‘test6’,‘cf’put‘test6’,‘row1’,‘cf:a’,‘value1’
  若在创建Interpreter未指定defaultInterpreter,需要在note最前面加上hbase进行指定。
  6、在FusionInsight客户端下查看刚刚通过Zeppelin创建的hbase表test6和数据
  其他Hadoop生态组件在云服务MRS上的实践参考
  使用商业智能软件Superset分析MRS数据之最佳实践
  基于云服务MRS构建DolphinScheduler2调度系统
  开源工作流引擎Azkaban在MRS中的实践
  分布式调度平台Airflow在华为云MRS中的实践
  点击下方,第一时间了解华为云新鲜技术
  华为云博客大数据博客AI博客云计算博客开发者中心华为云
投诉 评论

68岁赵雅芝身穿运动服脚踩滑板车活力十足,网友直呼太少女了吧女神赵雅芝近日在社交平台上晒出一组自己的运动照片,并配文:尝试新的运动,总会带来无与伦比的成就感。图源网照片中的赵雅芝老师头戴白色棒球帽,身穿浅色运动服,露出大长腿……国乒完成更新换代!孙颖莎王艺迪成女队惊喜,男乒1人掉队挺遗憾国乒男队青黄不接的原因在谁?随着成都世乒赛的来临,关于国乒参赛阵容的讨论一直热烈,虽然国乒没有正式对外公布参赛名单,但是由于8月12日是截止时间,国乒已经将名单上报给国际乒联,……中国排名前十的科技公司,华为榜上有名,第一名中国航空工业国家的科技发展是国家的重中之重,企业的科技发展领先性对于国家和人民来说都是意义非凡的,那你知道我国都有那些实力雄厚的科技公司吗?接下来就让小编给大家揭晓中国排名前十的科技……红枣阿胶红糖蛋黄菠菜真能补血(铁)么?缺铁性贫血是最常见的一种营养性贫血,第四次全国营养调查结果显示我国缺铁性贫血患病率仍高达10,婴幼儿、儿童、育龄期妇女(尤其孕产妇)、老人是高发人群。我在本地营养健康进社区活动……单节狂轰37分净胜21分,快船打疯了,奇兵11分,泰伦卢笑开NBA季前赛,快船队对阵马卡比。第一节结束,快船队以3716领先。两队实力差距太大了,尽管快船队并没有派出最强阵容,也打得对手落花流水,仅一节时间,胜负悬念就被杀死了,剩下的时……巨幕观影程碑,海信将大屏电视竞争上拉至120英寸时尚3C快讯4月25日,在春季新品发布会上,海信视像进一步向上扩展了电视大屏的尺寸,推出120吋全色激光电视,重新定义巨幕视听体验上限。据悉,海信此次推出的120英寸全色……iPhone大更新来了!6项神功能抢先看戴口罩终于能解锁iPhone用户3月将迎来重大更新,目前已在测试中iOS15。4预计在3月苹果春季发布会时正式开放更新,主要功能包括,戴上口罩后能正常解锁FaceID及验证移动支付等6大功能。……更多科技型中小微企业将脱颖而出当听到党的二十大报告中提到科技型中小微企业时,宁夏小牛自动化设备有限公司创始人王小牛忍不住伸手点赞。作为中小微企业成长为小巨人的代表,他深知在字字千钧的报告中被提及意味着什么。……热血传奇为行会会员准备的专属荣耀武器和身份象征,你有拥有过吗昔日不在,荣耀依旧,大家好我是废话。如果说在传奇游戏里面最牛掰的组织是啥,那就是行会了,可是许多传奇玩家都知道一个战力强盛的行会,会长都有一把象征实力和荣耀的武器,那便就是大家……MRSApacheZeppelin,让数据分析更便捷摘要:选择轻量化、免运维、低成本的大数据云服务是业界趋势,如果搭建Zeppelin再同步自建一套Hadoop生态成本太高!因此我们通过结合华为云MRS服务构建数据中台。本……中亚新地标落成迎客【原标题】撒马尔罕丝绸之路国际旅游中心开放综合乌兹别克斯坦当地媒体消息,当地时间8月23日,米尔济约耶夫总统出席撒马尔罕丝绸之路国际旅游中心的开放仪式。该旅游中心预计每年……我们为什么要喝牛奶?真的懂喝牛奶吗?我们为什么要适当的喝些牛奶?牛奶是日常生活中比较常见的饮品,是一种比较健康的饮品,含有较高的营养价值,牛奶中含有比较多的蛋白质、脂肪、乳糖、钙质等营养成分,蛋白质是一种高……
美国电影安吉拉怀孕记关注后可查看更多电影信息,这里值得关注。预告片欣赏:影片概况:又名:无豆瓣评分:5。7时间:2009国别:美国分类:喜剧片长:1……对话芯驰国产芯片不能只做低端替代芯片短缺困扰了汽车行业两年多之久,似乎并没有被时间所治愈。在不少业内人士看来,前段时间美国签署的《芯片与科学法案》,对国内的汽车芯片产业冲击较大,目前,不管是芯片上游ED……国家能源局最新数据!相当于近4个三峡电站记者从国家能源局获悉:今年前7月,全国新增发电装机容量8443万千瓦,比上年同期多投产1618万千瓦。其中,风电和太阳能发电新增装机容量同比增加,水电、火电和核电新增装机同比减……传承石油精神坚持绿色发展推进转型升级4亿吨原油是这样炼成的临淄融媒讯近日,从中国石化齐鲁石化公司传出喜讯:截至今年7月19日,齐鲁石化公司自1966年建厂以来,累计加工原油达4亿吨,完成工业总产值14276亿元,实现利税2251亿元,……新生儿为什么容易吐奶?溢奶吐奶呛奶区别我家妹妹之前也经常吐奶,有次还呛到从鼻孔流出来,看着就心疼,经过每次吐奶总结的经验,后面妹妹就没再吐过奶啦,现在我也把吐奶的应对方案分享给各位爸爸妈妈,整理在图里,做到心……阳能动力!Lightyear0官图来袭,WLTP续航625公当下汽车行业正在加快进入新能源时代,但在很多人印象当中,新能源车型就等同于电动汽车,但这种观念存在一定偏颇。除此以外,氢动力技术也得到越来越多车企的重视。而荷兰一家公司更是在日……早上是养肝的黄金时期,常吃这4类食物,增加肝活力,肝脏更健康一日之计在于晨,那些非常注重养生的人都非常注重早餐。早上除了可以呼吸新鲜的空气,吃一顿营养丰富的早餐更加重要。肝脏是疏泄全身血脉精气的一个关窍,早晨是养肝的黄金时期,因此早餐吃……猪蹄以后就这样吃,软烂脱骨入口喷香,比外面的好吃,太解馋了说到猪蹄就没有人不喜欢的,连减肥人士都爱吃,口感好,吃着不腻,满满都是胶原蛋白。当然了,这有个前提,那就是做得好吃。如果外观好看,但是啃不动那它就不是好猪蹄,最好的就是要老少皆……美媒预测2K23大前锋能力值前十字母力压杜兰特浓眉只有91北京时间8月29日,FadeawayWorld预测了联盟十佳大前锋球员在2K23中的能力值,其中字母哥高居第一,杜兰特紧随其后,浓眉排在第三,但预测能力值仅为91。详情如下:……从球探报告看国内球星天赋,姚明阿联天赋太棒,大郅生不逢时从曾凡博、张镇麟等年轻球员参加夏季联赛可以看出中国男篮已经走向复兴了,年轻球员们正在积极努力地追逐前辈们的步伐,而周琦经过了澳洲联赛的磨砺之后现在已经具备了打NBA的水准,他现……看完她的夏季穿搭,才明白什么叫做简简单单却超显气质,好美穿得越复杂越好看,这是很多人的误区,平时生活中往往是基础款和简单的服饰穿在身上会更有魅力,而且我们在平时生活中也会考虑到自己的身材或者是自己的颜值,气质是否能够驾驭一件好看的服……他赢了比尔盖茨,以1318亿美元成为世界首富2018年福布斯全球富豪榜中,他以1318亿美元的财富再一次位于第一名!他就是亚马孙的创始人:杰夫贝佐斯!作为世界首富,贝佐斯被冠上了最特别首富称号,据说是因为他不……
友情链接:中准网聚热点快百科快传网快生活快软网快好知文好找