• 参会报名
  • 会议介绍
  • 会议日程
  • 会议嘉宾
  • 参会指南
  • 邀请函下载

首页 > 商务会议 > IT互联网会议 > 2018Hadoop大数据平台开发与案例分析高级工程师实战培训班(11月珠海班) 更新时间:2018-11-07T16:57:51

大会站点分布:
(点击可切换)
2018Hadoop大数据平台开发与案例分析高级工程师实战培训班(11月珠海班)
收藏3人
分享到

2018Hadoop大数据平台开发与案例分析高级工程师实战培训班(11月珠海班) 已过期

会议时间:2018-11-20 08:00至 2018-11-24 18:00结束

会议地点: 珠海  详细地址会前通知  

会议规模:暂无

主办单位: 中国软件产业培训网

发票类型:增值税普通发票 增值税专用发票

行业热销热门关注看了又看 换一换

        会议介绍 会议内容 主办方介绍


        2018Hadoop大数据平台开发与案例分析高级工程师实战培训班(11月珠海班)

        2018Hadoop大数据平台开发与案例分析高级工程师实战培训班(11月珠海班)宣传图

        需求理解

        Hadoop 设计之初的目标就定位于高可靠性、高可拓展性、高容错性和高效性,正是这些设计上与生俱来的优点,才使得Hadoop 一出现就受到众多大公司的青睐,同时也引起了研究界的普遍关注。

        对电信运营商而言,用户上网日志包含了大量用户个性化需求、喜好信息,对其进行分析和挖掘,能更好地了解客户需求。传统经营分析系统小型机加关系型数据库的架构无法满足对海量非结构化数据的处理需求,搭建基于X86的Hadoop 平台,引入大数据处理技术的方式,实现高效率、低成本、易扩展的经营分析系统混搭架构成为电信运营商最为倾向的选择。本课程将全面介绍Hadoop平台开发和运维的各项技术,对学员使用该项技术具有很高的应用价值。

        培训课程架构与设计思路

        (1)培训架构:

        本课程分为三个主要部分:

        第一部分:重点讲述大数据技术在的应用,使学员对大数据技术的广泛应用有清晰的认识,在这环节当中会重点介绍Hadoop技术在整个大数据技术应用中的重要地位和应用情况。

        第二部分:具体对hadoop技术进行模块化分拆,从大数据文件存储系统技术和分布式文件系统平台及其应用谈起,介绍Hadoop技术各主要应用工具和方法,以及在运维维护当中的主流做法,使学员全面了解和掌握Hadoop技术的精华。

        第三部分:重点剖析大数据的应用案例,使学员在案例当中对该项技术有更深入的感观印象

        (2)设计思路:

        本课程采用模块化教学方法,以案例分析为主线,由浅入深、循序渐进、由理论到实践操作进行设计。

        (3)与企业的贴合点:

        本课程结合企业转型发展及大数据发展战略,围绕企业大数据业务及行业应用市场拓展发展目标,重点讲授Hadoop的应用技术,提升企业IT技术人员的开发和运维能力,有很强的贴合度。

        培训时间及地点

        2018年11月20日-11月24日  珠海 (20日报到)

        报道地点:珠海华侨宾馆大厅(拱北迎宾南路2106号),请学员自带笔记本电脑。
        住宿标准:标准/双人房/大床房/268元/间,高级/双人房/大床房/288元/间。​​​​​​​

        培训对象

        业务支撑建设维护室、业务维护室、经营分析室人员;网络部、网管中心、网优中心从事大数据相关工作的人员

        培训目标

        掌握大数据处理平台(Hadoop、Spark、Storm)技术架构、以及平台的安装部署、运维配置、应用开发;掌握主流大数据Hadoop平台和Spark实时处理平台的技术架构和实际应用;利用Hadoop+Spark对行业大数据进行存储管理和分析挖掘的技术应用;讲解Hadoop生态系统组件,包括Storm,HDFS,MapReduce,HIVE,HBase,Spark,GraphX,MLib,Shark, ElasticSearch等大数据存储管理、分布式数据库、大型数据仓库、大数据查询与搜索、大数据分析挖掘与分布式处理技术


        颁发证书

        参加相关培训并通过考试的学员,可以获得:

        工业和信息化部全国网络与信息技术项目管理中心颁发的-《大数据开发高级工程师证书》。该证书可作为专业技术人员职业能力考核的证明,以及专业技术人员岗位聘用、任职、定级和晋升职务的重要依据。注:请学员带一寸彩照2张(背面注明姓名)、身份证复印件一张。

        查看更多

        中国软件产业培训网

        为响应国家“人才兴国、科教兴国”战略,缓解中国软件技术人才需求日益紧张的现状,推动中国软件业的发展,培养一批高素质的软件专业人才,在工信部以及相关领导的大力支持下2008年成立了中国软件产业培训网(简称“软博教育”),软博教育自成立以来即定位于软件技术专业人才培养实训机构,专注致力于软件技术人才的培养,是中国科学院计算技术研究所教育中心合作培训机构,也是工信部人才交流中心唯一指定的全国计算机专业技术人才培训基地”,“国家人力资源和社会保障部——全国信息化人才培养工程项目(即国家“653工程”)指定培养机构”, 中国软件产业培训网(中联软博(北京)科技有限公司)--率先在国内开展高级软件架构等IT高端培训的公开课。多年来持续不断的投入精力创新课程体系,至今已在国内开展公开课培训的课程达十几门,分别涵盖软件架构、软件设计、项目管理、质量管理、需求工程、运营管理等领域,也根据企事业单位的实用需求, 通过定制培训方案,培训后的技术服务,将企业单位的信息化投资的效益发挥到最高点。目前中心已经与几百家企事业单位建立了长期的培训合作关系, 深得用户信赖和好评。

        会议日程 (最终日程以会议现场为准)


        时间

        培训内容

        教学方式

        第一天

        上午

        第一部分:移动互联网、大数据、云计算相关技术介绍

        第二部分:大数据的挑战和发展方向

        理论讲授+案例分析

        下午

        第三部分:大数据文件存储系统技术和分布式文件系统平台及其应用

        第四部分:Hadoop文件系统HDFS最佳实战

        理论讲授+案例分析+小组讨论

        第二天

        上午

        第五部分:Hadoop运维管理与性能调优

        第六部分:NOSQL数据库Hbase与Redis

        理论讲授+案例分析+实战演练

        下午

        第七部分:类SQL语句工具——Hive

        第八部分:数据挖掘SPARK建模基础介绍

        理论讲授+案例分析+实战演练

        第三天

        上午

        第九部分:Kafka基础介绍

        第十部分:大数据典型应用与开发案例分析:互联网数据运营

        理论讲授+案例分析

        下午

        第十一部分:当前数据中心的改造和转换分析-以国内外运营商、互联网公司为例

        第十二部分:课程总结与问题答疑

        评估培训

        理论讲授+案例分析+小组讨论

        详细培训内容介绍

        课程模块

        课程主题

        主要内容及案例和演示

        模块一

        移动互联网、大数据、云计算相关技术介绍

        数据中心与云计算技术应用

        智慧城市与云计算技术应用

        移动互联网、大数据与云计算关联技术

        移动云计算的生态系统及产业链

        大数据技术在运营商、金融业、银行业、电子商务行业、零售业、制造业、政务信息化、互联网、教育信息化等行业中的应用实践

        国内外主流的大数据解决方案介绍

        当前大数据解决方案与传统数据库方案的剖析比较

        Cloudera Hadoop 大数据平台方案剖析

        开源的大数据生态系统平台剖析

        模块二

        大数据的挑战和发展方向

        大数据时代的挑战

        战略决策能力

        技术开发和数据处理能力

        组织和运营能力

        大数据时代的发展方向

        云计算是基础设施架构

        大数据是灵魂资产

        分析、挖掘是手段

        发现和预测是最终目标

        大数据挖掘在各行业应用情况

        电信行业应用及案例分析

        互联网行业应用及案例分析

        金融行业应用及案例研究

        销售行业应用案例分析

        模块三

        大数据文件存储系统技术和分布式文件系统平台及其应用

        Hadoop的发展历程

        Hadoop大数据平台架构

        基于Hadoop平台的PB级大数据存储管理与分析处理的工作原理与机制

        Hadoop 的核心组件剖析

        分布式文件系统HDFS

        概述、功能、作用、优势

        应用范畴、应用现状

        发展趋势

        分布式文件系统HDFS架构及原理

        核心关键技术

        设计精髓

        基本工作原理

        系统架构

        文件存储模式

        工作机制

        存储扩容与吞吐性能扩展

        分布式文件系统HDFS操作

        SHELL命令操作

        I/O流式操作

        文件数据读取、写入、追加、删除

        文件状态查询

        数据块分布机制

        数据同步与一致性

        元数据管理技术

        主节点与从节点工作机制

        大数据负载均衡技术

        HDFS大数据存储集群管理技术

        Hadoop生态系统组件

        Storm

        HDFS

        MapReduce

        HIVE

        HBase

        Spark

        GraphX

        MLib

        Shark

        模块四

        Hadoop文件系统HDFS最佳实战

        HDFS的设计

        HDFS的概念

        数据块

        namenode和datanode

        联邦HDFS

        HDFS的高可用性

        命令行接口

        Hadoop文件系统

        Java接口

        从Hadoop URL读取数据

        通过FileSystem API读取数据

        写入数据

        目录

        查询文件系统

        删除数据

        数据流

        剖析文件读取

        剖析文件写入

        一致模型

        通过Flume和Sqoop导入数据

        通过distcp并行复制

        Hadoop存档

        使用Hadoop存档工具

        不足

        模块五

        Hadoop运维管理与性能调优

        第二代大数据处理框架

        Yarn的工作原理及

        DAG并行执行机制

        Yarn大数据分析处理案例分析

        Yarn 框架并行应用程序实践

        集群配置管理

        Hadoop集群配置

        Hadoop性能调优与参数配置

        Hadoop机架感知策略与配置

        Hadoop压缩机制

        Hadoop任务负载均衡

        Hadoop 集群维护

        Hadoop监控管理

        HDFS的静态调优技巧

        HDFS 的高吞吐量I/O性能调优技巧

        MapReduce/Yarn的并行处理性能调优技巧

        Hadoop集群的运行故障剖析,以及解决方案

        基于Hadoop大数据应用程序的性能瓶颈剖析与提

        Hadoop 大数据运维监控管理系统 HUE 平台的安装部署与应用配置

        Hadoop运维管理监控系统Ambari平台的安装部配置

        Hadoop 集群运维系统 Ganglia, Nagios的安装部署与应用配置

        模块六

        NOSQL数据库Hbase与Redis

        NOSQL基础

        CAP理论

        Base与ACID

        NOSQL数据库存储类型

        键值存储

        列存储

        文字存储

        图形存储

        HBase分布式数据基础

        安装Hbase

        Hbase应用

        HBase的逻辑数据模型,HBase的表、行、列族、列、单元格、版本、row key排序

        HBase的物理模型,命名空间(表空间)、表模式(Schema)的设计法则

        HBase 主节点HMaster的工作原理,HMaster的高可用配置,以及性能调优

        HBase 从节点RegionServer(分区服务节点)的工作原理,表分区及存储I/O高并发配置,以及性能调优

        HBase的存储引擎工作原理,以及HBase表数据的键值存储结构,以及HFile存储结构剖析

        HBase表设计与数据操作以及数据库管理操作

        HBase集群的安装部署、参数配置和性能优化

        HBase分布式数据库简介、发展历程、应用场景、工作原理、以及应用优势与不足之处

        HBase分布式数据库集群的主从式平台架构和关键技术剖析

        HBase伪分布式和物理集群分布式的控制与运行配置

        HBase从节点RegionServer(分区服务节点)的工作原理,表分区及存储I/O高并发配置,以及性能调优

        HBase的存储引擎工作原理,以及HBase表数据的键值存储结构,以及HFile存储结构剖析

        HBase表设计与数据操作以及数据库管理操作

        HBase集群的安装部署、参数配置和性能优化

        ZooKeeper分布式协调服务系统的工作原理、平台架构、集群部署应用实战

        ZooKeeper集群的原理架构,以及应用配置

        Redis内存数据库介绍,以及业界应用案例

        Redis内存数据库集群架构以及核心技术剖析

        Redis 集群的安装部署与应用开发实战

        模块七

        类SQL语句工具——Hive

        安装Hive

        示例

        运行Hive

        配置Hive

        Hive服务

        Metastore

        Hive与传统数据库相比

        读时模式vs.写时模式

        更新、事务和索引

        HiveQL

        数据类型

        操作与函数

        托管表和外部表

        分区和桶

        存储格式

        导入数据

        表的修改

        表的丢弃

        查询数据

        排序和聚集

        MapReduce脚本

        连接

        子查询

        视图

        用户定义函数

        写UDF

        写UDAF

        模块八

        数据挖掘SPARK建模基础介绍


        Spark简介

        Spark是什么

        Spark生态系统BDAS

        Spark架构

        Spark分布式架构与单机多核架构的异同

        Spark集群的安装与部署

        Spark的安装与部署

        Spark集群初试

        Spark硬件配置

        Spark硬件

        Spark硬件配置流程

        模块九

        Kafka基础介绍

        Kafka介绍

        kafka体系结构

        kafka设计理念简介

        kafka通信协议

        kafka的伪分布安装、集群安装

        kafka的shell操作、java操作

        kafka设计理念*

        kafka producer和consumer开发

        Kafka分布式消息订阅系统的应用介绍、平台架构、集群部署与配置应用实战

        Flume-NG数据采集系统的数据流模型、平台架构、集群部署与配置应用实战

        Hadoop与DBMS之间数据交互工具Sqoop的应用实践,

        Sqoop导入导出数据以及Sqoop集群部署与配置

        Kettle 集群的平台架构、核心技术、部署配置和应用实战

        利用Sqoop实现 MySQL 与 Hadoop 集群之间

        模块十

        大数据典型应用与开发案例分析:互联网数据运营

        案例1:贵州数据交易中心

        交易所交易形式:电子交易

        交易所服务:大数据交易、大数据清洗建模分析、大数据定向采购、大数据平台技术开发

        大数据交易安全性探讨分析

        数据交易中心商业模式探讨分析

        案例2:大数据应用案例:公共交通线路的智能规划

        UrbanInsights:为公交公司提供基于订阅访问的大数据工具以及大数据咨询服务

        Urban Insights数据源、数据收集、数据仓库、数据分析——设计运营线路

        Urban Insights通过互联网数据的运营

        讨论:浙江移动大数据应用与开发方向

        模块十一

        当前数据中心的改造和转换分析-以国内外运营商、互联网公司为例

        流商业大数据解决方案比较

        主流开源云计算系统比较 

        国内外代表性大数据平台比较 

        各厂商最新的大数据产品介绍

        案例分析

        Facebook的SNS平台应用

        Google的搜索引擎应用

        Rackspace的日志处理

        Verizon成立精准市场营销部

        TelefonicaDynamicInsights推出的名为“智慧足迹”的商业服务

        中国联通的“移动通信用户上网记录集中查询与分析支撑系统”

        模块十二


        课程总结与问题答疑

        查看更多

        会议嘉宾 (最终出席嘉宾以会议现场为准)


        张老师:阿里大数据高级专家,国内资深的Spark、Hadoop技术专家、虚拟化专家,对HDFS、MapReduce、HBase、Hive、Mahout、Storm、spark和openTSDB等Hadoop生态系统中的技术进行了多年的深入的研究,更主要的是这些技术在大量的实际项目中得到广泛的应用,因此在Hadoop开发和运维方面积累了丰富的项目实施经验。近年主要典型的项目有:某电信集团网络优化、中国移动某省移动公司请账单系统和某省移动详单实时查询系统、中国银联大数据数据票据详单平台、某大型银行大数据记录系统、某大型通信运营商全国用户上网记录、某省交通部门违章系统、某区域医疗大数据应用项目、互联网公共数据大云(DAAS)和构建游戏云(Web Game Daas)平台项目等。

        查看更多

        参会指南 会议门票


        会务费:6800元/人,含教材、培训费、考证费以及学习用具等费用,食宿统一安排,费用自理。

        9月上海班

        10月贵阳班​​​​​​​

        12月北京班

        2019年1月杭州班

        查看更多

        温馨提示
        酒店与住宿: 为防止极端情况下活动延期或取消,建议“异地客户”与活动家客服确认参会信息后,再安排出行与住宿。
        退款规则: 活动各项资源需提前采购,购票后不支持退款,可以换人参加。

        活动家为本会议官方合作
        报名平台,您可在线购票

        会议支持:

        • 会员折扣
          该会议支持会员折扣
          具体折扣标准请参见plus会员页面
        • 芝麻信用
          芝麻信用超过650分,可享受先开发票后付款特权。
        • 会员返积分
          每消费1元累积1个会员积分。
          仅PC站支持。
        • 会员积分抵现
          根据会员等级的不同,每抵用1元可使用的积分也不一样,具体可参见PLUS会员页面。 仅PC站支持。
        该会议支持会员优惠 去开通

        会议地点

        快捷下单

        微信扫一扫
        使用小程序快捷下单

        部分参会单位

        主办方没有公开参会单位

        邮件提醒通知

        分享到微信 ×

        打开微信,点击底部的“发现”,
        使用“扫一扫”即可将网页分享至朋友圈。

        录入信息

        请录入信息,方便生成邀请函