大数据Hadoop面试题!(附答案解析)
hadoop常见面试问题

hadoop常见面试问题
以下是一些Hadoop常见的面试问题:
1. Hadoop是什么?它在大数据领域中的作用是什么?
2. Hadoop的核心组件有哪些?它们各自的作用是什么?
3. HDFS是什么?它有哪些特点和优势?
4. MapReduce是什么?它是如何工作的?
5. YARN是什么?它在Hadoop中的作用是什么?
6. 在Hadoop中如何处理数据倾斜?有哪些常见的数据倾斜问题需要避免?
7. Hadoop集群的部署和配置需要注意哪些问题?
8. 如何优化Hadoop集群的性能?有哪些常见的性能调优方法?
9. 在Hadoop中如何进行数据迁移?有哪些常见的迁移策略?
10. 如何进行Hadoop的安全性配置和管理?有哪些常见的安全措施需要采取?
11. Hadoop和Spark的区别和联系是什么?在什么情况下应该选择Hadoop或Spark?
12. 在Hadoop中如何进行数据清洗和预处理?有哪些常用的工具和库可以使用?
13. 如何使用Hadoop进行机器学习和数据挖掘?有哪些常见的算法和应用场景?
14. Hadoop的版本演进和兼容性问题需要注意哪些方面?
15. 你如何在Hadoop上进行大数据实时流处理?有哪些常用的流处理框架可以选择和使用?。
大数据行业面试题目及答案

大数据行业面试题目及答案一、概述大数据行业在近年来迅速发展,对于求职者来说,面试是进入这个行业的重要一步。
本文将为大家介绍一些常见的大数据行业面试题目及其答案,希望能够帮助大家更好地准备与应对面试。
二、技术问题1. 什么是大数据?大数据的特点是什么?大数据是指规模庞大、复杂度高且难以通过传统方式进行处理的数据集合。
其特点包括数据量巨大、多样性、高速度和价值密度低。
2. 大数据处理的常用方法有哪些?常用的大数据处理方法包括分布式存储与计算、数据挖掘和机器学习、并行计算和分布式文件系统等。
3. 请介绍一下Hadoop生态系统。
Hadoop生态系统是由Apache基金会开发和维护的一套开源大数据处理平台。
它包括HDFS(分布式文件系统)、MapReduce(分布式计算框架)和YARN(资源管理器)等核心组件。
4. 什么是MapReduce?它的工作原理是什么?MapReduce是一种分布式计算模型,其工作原理基于分治法和函数式编程思想。
它将任务分解成多个子任务,并通过Map和Reduce两个阶段完成数据的处理和计算。
5. 数据清洗在大数据处理中的重要性是什么?数据清洗是指通过对数据集进行去噪、去重、填充缺失值等处理,使数据变得规整、干净、可用。
在大数据处理过程中,数据清洗是确保数据质量和结果准确性的重要步骤。
三、业务问题1. 你认为大数据对于企业有哪些价值?大数据可帮助企业进行市场分析、精准营销、客户关系管理、商业智能等方面的工作,提升企业的运营效率和决策能力,创造更大的商业价值。
2. 在大数据分析中,常用的数据挖掘技术有哪些?常用的数据挖掘技术包括分类、聚类、关联规则挖掘、预测和异常检测等。
3. 请介绍一下数据湖(Data Lake)的概念和作用。
数据湖是指以一种原始、未经加工和结构化的方式存储大量数据的存储库。
它可以集中存储各种类型和格式的数据,为数据科学家和分析师提供快速而灵活的查询和访问,以支持数据分析和决策。
大数据Hadoop面试题(附答案解析)

大数据Hadoop面试题(附答案解析)在大数据开发岗位的需求下,工资待遇水涨船高,不少编程人员在面对职业瓶颈期的时候,会选择转编程方向发展。
你是否已经意识这是你人生中的一个重要转机?能不能抓住这个时代的机遇,就在于你对大数据信息的应用和获取。
而如何成为大数据时代的弄潮儿,掌握当下最紧缺的软件技能是关键!谷歌、阿里巴巴、百度、京东都在急需掌握hadoop技术的大数据人才!无论你精通大数据的哪一项类,都将在未来职场脱颖而出!传智播客上海校区为大家准备了一些面试问题,希望可以帮助到大家更多大数据知识请关注传智播客上海校区或登录传智播客官网了解更多视频01单选题1、下面哪个程序负责HDFS数据存储?a)NameNodeb)Jobtrackerc)Datanoded)econdaryNameNodee)taktracker答案Cdatanode2、HDfS中的block默认保存几份?a)3份b)2份c)1份d)不确定答案A默认3份a)MartinFowlerb)KentBeckc)Dougcutting答案CDougcutting4、下列哪个程序通常与NameNode在一个节点启动?a)SecondaryNameNodeb)DataNodeb)DataNodec)TakTrackerd)Jobtrac ker答案:D此题分析:hadoop的集群是基于mater/lave模式,namenode和jobtracker属于mater,datanode和taktracker属于lave,mater只有一个,而lave 有多个SecondaryNameNode内存需求和NameNode在一个数量级上,所以通常econdary,NameNode(运行在单独的物理机器上)和NameNode运行在不同的机器上。
JobTracker和TakTracker,JobTracker对应于NameNode,TakTracker对应于DataNode,DataNode和NameNode是针对数据存放来而言的,JobTracker和TakTracker是对于MapReduce执行而言的,mapreduce中几个主要概念,mapreduce整体上可以分为这么几条执行线索:obclient,JobTracker与TakTracker。
Hadoop 100道面试题及答案解析

3.6误)3.7Hadoop支持数据的随机读写。
(错) (8)NameNode负责管理metadata,client端每次读写请求,它都会从磁盘中3.8读取或则会写入metadata信息并反馈client端。
(错误) (8)NameNode本地磁盘保存了Block的位置信息。
(个人认为正确,欢迎提出其它意见) (9)3.93.10 3.11DataNode通过长连接与NameNode保持通信。
(有分歧) (9)Hadoop自身具有严格的权限管理和安全措施保障集群正常运行。
(错误)93.12 3.13 3.14Slave节点要存储数据,所以它的磁盘越大越好。
(错误) (9)hadoop dfsadmin–report命令用于检测HDFS损坏块。
(错误) (9)Hadoop默认调度器策略为FIFO(正确) (9)100道常见Hadoop面试题及答案解析目录1单选题 (5)1.1 1.2 1.3 1.4 1.5 1.6 1.7下面哪个程序负责HDFS数据存储。
(5)HDfS中的block默认保存几份? (5)下列哪个程序通常与NameNode在一个节点启动? (5)Hadoop作者 (6)HDFS默认Block Size (6)下列哪项通常是集群的最主要瓶颈: (6)关于SecondaryNameNode哪项是正确的? (6)2 3多选题 (7)2.12.22.32.42.5下列哪项可以作为集群的管理? (7)配置机架感知的下面哪项正确: (7)Client端上传文件的时候下列哪项正确? (7)下列哪个是Hadoop运行的模式: (7)Cloudera提供哪几种安装CDH的方法? (7)判断题 (8)3.13.23.3Ganglia不仅可以进行监控,也可以进行告警。
(正确) (8)Block Size是不可以修改的。
(错误) (8)Nagios不可以监控Hadoop集群,因为它不提供Hadoop支持。
大数据面试题试卷

大数据面试题及答案汇总版第1部分选择题1.1 Hadoop选择题1.1.1 HDFS1.下面哪个程序负责 HDFS 数据存储?A.NameNodeB.JobtrackerC.DatanodeD.secondaryNameNodeE.tasktracker2. HDFS 中的 block 默认保存几份?A.3份B.2份C.1份D.4份3. 下列哪个程序通常与NameNode 在一个节点启动?A. SecondaryNameNodeB.DataNodeC.TaskTrackerD. Jobtracker4. HDFS 默认 Block Size(新版本)A. 32MBB.64MBC.128MBD.256MB5. Client 端上传文件的时候下列哪项正确A. 数据经过 NameNode 传递给 DataNodeB.Client 端将文件切分为Block,依次上传C.Client 只上传数据到一台 DataNode,然后由 NameNode 负责 Block 复制工作6. 下面与 HDFS 类似的框架是?A.NTFSB.FAT32C.GFSD.EXT37. 的8. 的1.1.2 集群管理1. 下列哪项通常是集群的最主要瓶颈A. CPUB.网络C.磁盘IOD.内存2. 关于SecondaryNameNode 哪项是正确的?A.它是 NameNode 的热备B.它对内存没有要求C.它的目的是帮助NameNode 合并编辑日志,减少NameNode 启动时间D.SecondaryNameNode 应与 NameNode 部署到一个节点3. 下列哪项不可以作为集群的管理?A. Puppet B.Pdsh C.ClouderaManager D.Zookeeper4. 配置机架感知的下面哪项正确A. 如果一个机架出问题,不会影响数据读写B.写入数据的时候会写到不同机架的 DataNode 中C.MapReduce 会根据机架获取离自己比较近的网络数据5. 下列哪个是 Hadoop 运行的模式A. 单机版B.伪分布式C.分布式6. Cloudera 提供哪几种安装 CDH 的方法A. Cloudera manager B.Tarball C.Yum D.Rpm7.1.2 Hbase选择题1.2.1 Hbase基础1. HBase 来源于哪篇博文? CA TheGoogle File SystemBMapReduceCBigTableD Chubby2. 下面对 HBase 的描述是错误的? AA 不是开源的B 是面向列的C 是分布式的D 是一种 NoSQL 数据库3. HBase 依靠()存储底层数据 AA HDFSB HadoopC MemoryDMapReduce4. HBase 依赖()提供消息通信机制 A AZookeeperB ChubbyC RPCD Socket5. HBase 依赖()提供强大的计算能力 DAZookeeperB ChubbyC RPCDMapReduce6. MapReduce 与 HBase 的关系,哪些描述是正确的? B、CA 两者不可或缺,MapReduce 是 HBase 可以正常运行的保证B 两者不是强关联关系,没有 MapReduce,HBase 可以正常运行CMapReduce 可以直接访问 HBaseD 它们之间没有任何关系7. 下面哪些选项正确描述了HBase 的特性? A、B、C、DA 高可靠性B 高性能C 面向列D 可伸缩8. 下面哪些概念是 HBase 框架中使用的?A、CA HDFSB GridFSCZookeeperD EXT39. D1.2.2 Hbase核心1. LSM 含义是?AA 日志结构合并树B 二叉树C 平衡二叉树D 长平衡二叉树2. 下面对 LSM 结构描述正确的是? A、CA 顺序存储B 直接写硬盘C 需要将数据 Flush 到磁盘D 是一种搜索平衡树3. LSM 更能保证哪种操作的性能?BA 读B 写C 随机读D 合并4. LSM 的读操作和写操作是独立的?AA 是。
大数据面试题试卷

⼤数据⾯试题试卷⼤数据⾯试题及答案汇总版第1部分选择题1.1 Hadoop选择题1.1.1 HDFS1.下⾯哪个程序负责 HDFS 数据存储?A.NameNodeB.JobtrackerC.DatanodeD.secondaryNameNodeE.tasktracker2. HDFS 中的 block 默认保存⼏份?A.3份B.2份C.1份D.4份3. 下列哪个程序通常与NameNode 在⼀个节点启动?A. SecondaryNameNodeB.DataNodeC.TaskTrackerD. Jobtracker4. HDFS 默认 Block Size(新版本)A. 32MBB.64MBC.128MBD.256MB5. Client 端上传⽂件的时候下列哪项正确A. 数据经过 NameNode 传递给 DataNodeB.Client 端将⽂件切分为Block,依次上传C.Client 只上传数据到⼀台 DataNode,然后由 NameNode 负责 Block 复制⼯作6. 下⾯与 HDFS 类似的框架是?A.NTFSB.FAT32C.GFSD.EXT37. 的8. 的1.1.2 集群管理1. 下列哪项通常是集群的最主要瓶颈A. CPUB.⽹络C.磁盘IOD.存2. 关于SecondaryNameNode 哪项是正确的?A.它是 NameNode 的热备B.它对存没有要求C.它的⽬的是帮助NameNode 合并编辑⽇志,减少NameNode 启动时间D.SecondaryNameNode 应与 NameNode 部署到⼀个节点3. 下列哪项不可以作为集群的管理?A. Puppet B.Pdsh C.ClouderaManager D.Zookeeper4. 配置机架感知的下⾯哪项正确A. 如果⼀个机架出问题,不会影响数据读写B.写⼊数据的时候会写到不同机架的 DataNode 中C.MapReduce 会根据机架获取离⾃⼰⽐较近的⽹络数据5. 下列哪个是 Hadoop 运⾏的模式A. 单机版B.伪分布式C.分布式6. Cloudera 提供哪⼏种安装 CDH 的⽅法A. Cloudera manager B.Tarball C.Yum D.Rpm7.1.2 Hbase选择题1.2.1 Hbase基础1. HBase 来源于哪篇博⽂? CA TheGoogle File SystemBMapReduceCBigTableD Chubby2. 下⾯对 HBase 的描述是错误的? AA 不是开源的B 是⾯向列的C 是分布式的D 是⼀种 NoSQL 数据库3. HBase 依靠()存储底层数据 AC MemoryDMapReduce4. HBase 依赖()提供消息通信机制 A AZookeeperB ChubbyC RPCD Socket5. HBase 依赖()提供强⼤的计算能⼒ DAZookeeperB ChubbyC RPCDMapReduce6. MapReduce 与 HBase 的关系,哪些描述是正确的? B、CA 两者不可或缺,MapReduce 是 HBase 可以正常运⾏的保证B 两者不是强关联关系,没有 MapReduce,HBase 可以正常运⾏CMapReduce 可以直接访问 HBaseD 它们之间没有任何关系7. 下⾯哪些选项正确描述了HBase 的特性? A、B、C、DA ⾼可靠性B ⾼性能C ⾯向列D 可伸缩8. 下⾯哪些概念是 HBase 框架中使⽤的?A、CA HDFSB GridFSCZookeeperD EXT39. D1.2.2 Hbase核⼼1. LSM 含义是?AA ⽇志结构合并树B ⼆叉树C 平衡⼆叉树D 长平衡⼆叉树2. 下⾯对 LSM 结构描述正确的是? A、CC 需要将数据 Flush 到磁盘D 是⼀种搜索平衡树3. LSM 更能保证哪种操作的性能?BA 读B 写C 随机读D 合并4. LSM 的读操作和写操作是独⽴的?AA 是。
大数据专员面试题目(3篇)

第1篇一、基础知识与概念理解1. 题目:请简述大数据的基本概念及其与普通数据的主要区别。
解析:考察应聘者对大数据基本概念的理解。
应聘者应能够解释大数据的规模(大量、多样、快速)、价值密度低、处理和分析的技术和方法等特点,并说明大数据与普通数据在数据量、处理方式、分析目标等方面的区别。
2. 题目:大数据的五个V指的是什么?解析:考察应聘者对大数据特征的理解。
大数据的五个V分别是Volume(数据量)、Velocity(数据速度)、Variety(数据多样性)、Veracity(数据真实性)和Value(数据价值)。
应聘者应能够解释每个V的具体含义。
3. 题目:请简述Hadoop生态系统中的主要组件及其功能。
解析:考察应聘者对Hadoop生态系统的了解。
应聘者应能够列举Hadoop生态系统中的主要组件,如Hadoop分布式文件系统(HDFS)、Hadoop YARN、Hadoop MapReduce、Hive、Pig、HBase等,并解释每个组件的基本功能和作用。
4. 题目:请简述数据仓库和数据湖的区别。
解析:考察应聘者对数据仓库和数据湖的理解。
应聘者应能够解释数据仓库和数据湖在数据存储、处理、查询等方面的差异,以及它们在数据分析中的应用场景。
二、数据处理与分析5. 题目:请简述ETL(提取、转换、加载)过程在数据处理中的作用。
解析:考察应聘者对ETL过程的了解。
应聘者应能够解释ETL在数据预处理、数据清洗、数据转换等方面的作用,以及ETL工具在数据处理中的应用。
6. 题目:请描述数据切分、增量同步和全量同步的方法。
解析:考察应聘者对数据同步的理解。
应聘者应能够解释数据切分、增量同步和全量同步的概念,并举例说明在实际应用中的具体操作方法。
7. 题目:请简述数据挖掘中的分类、聚类和预测方法。
解析:考察应聘者对数据挖掘方法的了解。
应聘者应能够列举数据挖掘中的分类、聚类和预测方法,如决策树、K-means、支持向量机、神经网络等,并解释每种方法的基本原理和应用场景。
大数据相关面试题

一、选择题1.以下哪个不是大数据的特征?A.体积大(Volume)B.价值密度低(Value)C.速度快(Velocity)D.准确性高(Accuracy)(正确答案:D)2.Hadoop是一个能够对大量数据进行分布式处理的软件框架,其核心设计之一是?A.HDFS(Hadoop Distributed File System)B.HBaseC.MapReduce(正确答案)D.Hive3.在大数据处理中,以下哪项技术通常用于实时流数据处理?A.Apache HadoopB.Apache SparkC.Apache Kafka(正确答案)D.Apache Hive4.NoSQL数据库相比于传统的关系型数据库,其主要优势是什么?A.更强的数据一致性B.更适合存储结构化数据C.更高的写入和读取速度(正确答案)D.更复杂的查询功能5.以下哪个工具常用于大数据可视化?A.Apache PigB.Tableau(正确答案)C.Apache FlinkD.Apache Cassandra6.在数据仓库中,星型模式(Star Schema)的设计主要是为了?A.提高数据查询速度(正确答案)B.增加数据冗余C.简化数据更新操作D.提升数据安全性7.以下哪个不是机器学习在大数据分析中常见的应用?A.预测分析B.数据清洗(正确答案)C.用户行为分析D.推荐系统8.在进行大数据处理时,数据科学家通常使用哪种语言进行数据处理和分析?A.JavaB.Python(正确答案)C.C++D.JavaScript。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
在大数据开发岗位的需求下,工资待遇水涨船高,不少编程人员在面对职业瓶颈期的时候,会选择转编程方向发展。
你是否已经意识这是你人生中的一个重要转机?能不能抓住这个时代的机遇,就在于你对大数据信息的应用和获取。
而如何成为大数据时代的弄潮儿,掌握当下最紧缺的软件技能是关键!谷歌、阿里巴巴、百度、京东都在急需掌握hadoop 技术的大数据人才!无论你精通大数据的哪一项类,都将在未来职场脱颖而出!传智播客上海校区为大家准备了一些面试问题,希望可以帮助到大家更多大数据知识请关注传智播客上海校区或登录传智播客官网了解更多视频01 单选题1、下面哪个程序负责HDFS 数据存储?a)NameNodeb)Jobtrackerc)Datanoded)secondaryNameNodee)tasktracker答案 C datanode2、HDfS 中的block 默认保存几份?a)3 份b)2 份c)1 份d)不确定答案 A 默认3份3、Hadoop 作者?a)Martin Fowlerb)Kent Beckc)Doug cutting答案 C Doug cutting4、下列哪个程序通常与NameNode 在一个节点启动?a)SecondaryNameNodeb)DataNodeb)DataNodec)TaskTrackerd)Jobtracker答案:D此题分析:hadoop 的集群是基于master/slave 模式,namenode 和jobtracker 属于mast er,datanode 和tasktracker 属于slave,master 只有一个,而slave 有多个SecondaryNameNode 内存需求和NameNode 在一个数量级上,所以通常secondary ,NameNode(运行在单独的物理机器上)和NameNode 运行在不同的机器上。
JobTracker 和TaskTracker,JobTracker 对应于NameNode,TaskTracker 对应于DataNode,DataNode 和NameNode 是针对数据存放来而言的,JobTrack er 和TaskTracker 是对于MapReduce 执行而言的,mapreduce 中几个主要概念,mapreduce 整体上可以分为这么几条执行线索:obclient,JobTracker 与Ta skTracker。
JobClient会在用户端通过JobClient类将应用已经配置参数打包成jar文件存储到hdfs,并把路径提交到Jobtracker,然后由JobTracker 创建每一个Task(即Ma pTask 和ReduceTask)并将它们分发到各个TaskTracker 服务中去执行。
JobTr acker 是一个master 服务,软件启动之后JobTracker 接收Job,负责调度Job 的每一个子任务task 运行于TaskTracker 上,并监控它们,如果发现有失败的t ask 就重新运行它。
一般情况应该把JobTracker 部署在单独的机器上。
TaskTrac ker 是运行在多个节点上的slaver 服务。
TaskTracker 主动与JobTracker 通信,接收作业,并负责直接执行每一个任务。
TaskTracker 都需要运行在HDFS 的D ataNode上。
5、下列哪项通常是集群的最主要瓶颈:a)CPUb)网络c)磁盘IOd)内存答案:C 磁盘此题解析:首先集群的目的是为了节省成本,用廉价的pc 机,取代小型机及大型机。
小型机和大型机有什么特点?1. cpu 处理能力强2. 内存够大。
所以集群的瓶颈不可能是a 和d3. 网络是一种稀缺资源,但是并不是瓶颈。
4. 由于大数据面临海量数据,读写数据都需要io,然后还要冗余数据,hadoop一般备3份数据,所以IO 就会打折扣。
6、HDFS 默认Block Sizea)32MBb)64MBc)128MB答案:B7、关于SecondaryNameNode 哪项是正确的?a)它是NameNode 的热备b)它对内存没有要求c)它的目的是帮助NameNode 合并编辑日志,减少NameNode 启动时间d)SecondaryNameNode 应与NameNode 部署到一个节点。
答案:C02 多选题1、下列哪项可以作为集群的管理?a)Puppetb)Pdshc)Cloudera Managerd)Zookeeper答案:ABD2、配置机架感知的下面哪项正确:a)如果一个机架出问题,不会影响数据读写b)写入数据的时候会写到不同机架的DataNode 中c)MapReduce 会根据机架获取离自己比较近的网络数据答案:ABC3、Client 端上传文件的时候下列哪项正确?a)数据经过NameNode 传递给DataNodeb)Client 端将文件切分为Block,依次上传c)Client 只上传数据到一台DataNode,然后由NameNode 负责Block 复制工作答案:B此题分析:lient 向NameNode 发起文件写入的请求。
NameNode 根据文件大小和文件块配置情况,返回给Client 它所管理部分Data Node 的信息。
Client 将文件划分为多个Block,根据DataNode 的地址信息,按顺序写入到每一个DataNode 块中。
4、下列哪个是Hadoop 运行的模式:a)单机版b)伪分布式c)分布式答案:ABC5、Cloudera 提供哪几种安装CDH 的方法?a)Cloudera managerb)Tarballc)Yumd)Rpm答案:ABCD03 判断题1、Ganglia 不仅可以进行监控,也可以进行告警。
正确此题分析:此题的目的是考Ganglia 的了解。
严格意义上来讲是正确。
ganglia 作为一款最常用的Linux 环境中的监控软件,它擅长的的是从节点中按照用户的需求以较低的代价采集数据。
但是ganglia 在预警以及发生事件后通知用户上并不擅长。
最新的ganglia 已经有了部分这方面的功能。
但是更擅长做警告的还有Nagios。
Nagios,就是一款精于预警、通知的软件。
通过将Ganglia 和Nagios 组合起来,把Ganglia 采集的数据作为Nagios 的数据源,然后利用Nagios 来发送预警通知,可以完美的实现一整套监控管理的系统。
2、Block Size 是不可以修改的。
错误此题分析:它是可以被修改的Hadoop 的基础配置文件是hadoop-default.xml,默认建立一个Job 的时候会建立Job 的Config,Config 首先读入hadoop-defaul t.xml 的配置,然后再读入hadoop-site.xml 的配置(这个文件初始的时候配置为),hadoop-site.xml 中主要配置需要覆盖的hadoop-default.xml 的系统级配置。
3、Nagios 不可以监控Hadoop 集群,因为它不提供Hadoop 支持。
错误此题分析:Nagios 是集群监控工具,而且是云计算三大利器之一4、如果NameNode 意外终止,SecondaryNameNode 会接替它使集群继续工作。
错误此题分析:SecondaryNameNode 是帮助恢复,而不是替代,如何恢复,可以查看5、Cloudera CDH 是需要付费使用的。
错误此题分析:第一套付费产品是Cloudera Enterpris,Cloudera Enterprise 在美国加州举行的Hadoop 大会(Hadoop Summit) 上公开,以若干私有管理、监控、运作工具加强Hadoop 的功能。
收费采取合约订购方式,价格随用的Hadoop 叢集大小变动。
6、Hadoop 是Java 开发的,所以MapReduce 只支持Java 语言编写。
错误此题分析:rhadoop 是用R 语言开发的,MapReduce 是一个框架,可以理解是一种思想,可以使用其他语言开发。
7、Hadoop 支持数据的随机读写。
错误此题分析:lucene是支持随机读写的,而hdfs 只支持随机读。
但是HBase 可以来补救。
HBase提供随机读写,来解决Hadoop 不能处理的问题。
HBase自底层设计开始即聚焦于各种可伸缩性问题:表可以很“高”,有数十亿个数据行;也可以“宽”,有数百万个列;水平分区并在上千个普通商用机节点上自动复制。
表的模式是物理存储的直接反映,使系统有可能提高高效的数据结构的序列化、存储和检索。
8、NameNode 负责管理metadata,client 端每次读写请求,它都会从磁盘中读取或则会写入metadata 信息并反馈client 端。
错误此题分析:NameNode 不需要从磁盘读取metadata,所有数据都在内存中,硬盘上的只是序列化的结果,只有每次namenode 启动的时候才会读取。
1)文件写入Client 向NameNode 发起文件写入的请求。
NameNode 根据文件大小和文件块配置情况,返回给Client 它所管理部分Data Node 的信息。
Client 将文件划分为多个Block,根据DataNode 的地址信息,按顺序写入到每一个DataNode 块中。
2)文件读取Client 向NameNode 发起文件读取的请求。
9、NameNode 本地磁盘保存了Block 的位置信息。
个人认为正确,欢迎提出其它意见此题分析:DataNode是文件存储的基本单元,它将Block存储在本地文件系统中,保存了Block的Meta-data,同时周期性地将所有存在的Block信息发送给NameN ode。
NameNode返回文件存储的DataNode的信息。
Client读取文件信息。
10、DataNode 通过长连接与NameNode 保持通信。
这个有分歧:具体正在找这方面的有利资料。
下面提供资料可参考。
首先明确一下概念:(1)长连接Client方与Server方先建立通讯连接,连接建立后不断开,然后再进行报文发送和接收。
这种方式下由于通讯连接一直存在,此种方式常用于点对点通讯。
(2)短连接Client方与Server每进行一次报文收发交易时才进行通讯连接,交易完毕后立即断开连接。
此种方式常用于一点对多点通讯,比如多个Client连接一个Server.11、Hadoop 自身具有严格的权限管理和安全措施保障集群正常运行。
错误此题分析:hadoop只能阻止好人犯错,但是不能阻止坏人干坏事。
12、Slave 节点要存储数据,所以它的磁盘越大越好。