hdfs工作原理

感谢您选择生活百科小助手,我们将持续不断地为您提供优质的生活内容。

  大家好,我是生活百科小助手,上述问题将由我为大家进行解答。

  hdfs工作原理如下:

  1、客户端通过调用FileSystem对象的open括号来读取希望打开的文件。对于HDFS来说,这个对象是分布式文件系统的一个实例。

  2、DistributedFileSystem通过RPC来调用namenode,以确定文件的开头部分的块位置。对于每一块,namenode返回具有该块副本的datanode地址。此外,这些datanode根据他们与client的距离来排序(根据网络集群的拓扑)。如果该client本身就是一个datanode,便从本地datanode中读取。DistributedFileSystem返回一个FSDataInputStream对象给client读取数据,FSDataInputStream转而包装了一个DFSInputStream对象。

  3、接着client对这个输入流调用read()。存储着文件开头部分的块的数据节点的地址DFSInputStream随即与这些块最近的datanode相连接。

  4、通过在数据流中反复调用read(),数据会从datanode返回client。

  5、到达块的末端时,DFSInputStream会关闭与datanode间的联系,然后为下一个块找到最佳的datanode。client端只需要读取一个连续的流,这些对于client来说都是透明的。

  6、在读取的时候,如果client与datanode通信时遇到一个错误,那么它就会去尝试对这个块来说下一个最近的块。它也会记住那个故障节点的datanode,以保证不会再对之后的块进行徒劳无益的尝试。 client也会确认datanode发来的数据的校验和。如果发现一个损坏的块,它就会在client试图从别的datanode中读取一个块的副本之前报告给namenode。

  7、这个设计的一个重点是,client直接联系datanode去检索数据,并被namenode指引到块中最好的datanode。因为数据流在此集群中是在所有datanode分散进行的。

生活百科小助手汇集了大量的生活知识和技巧,让我们在各个方面都能得到准确和及时的帮助,让生活更加美好。

主题测试文章,只做测试使用。发布者:氨基酸肥料,转转请注明出处:https://www.028aohe.com/138888.html

(0)
氨基酸肥料氨基酸肥料
上一篇 2023年8月27日 下午5:26
下一篇 2023年8月27日 下午5:29

相关推荐

  • 哪里有靠谱的氨基酸粉肥料批发厂家?看这里就对了!

    今天这事儿,真是让我忙活一整天。最近不是琢磨着给地里的庄稼加点好料嘛就想着弄点氨基酸粉肥料试试。但市面上的零售价实在是有点高,我就合计着,要不咱直接找找批发厂家,看看能不能省点钱。 一上午的时间,我就开始在网上到处搜,看哪儿有卖氨基酸粉肥料的。你还别说,这信息还真不少,什么济宁润田生物科技有限公司,连云港中成生物技术有限公司,还有山东斌海生物科技有限公司,看…

    生活百科 2025年2月6日
    00
  • 笔记本电脑多重

    欢迎来到生活百科小助手的世界,这里有丰富的生活知识等待着您的探索。   大家好,我是生活百科小助手,上述问题将由我为大家进行解答。   笔记本电脑重量是1至3公斤。   笔记本(Notebook Computer)又称便携式电脑,是一种机身小巧、可便于携带的个人电脑。当前的发展趋势是体积越来越小,重量越来越轻,而功能却越发强大。虽然笔记本的机身十分轻便,在日…

    生活百科 2023年11月7日
    00
  • 氨基酸原粉肥料会过期吗(氨基酸原粉肥料是否存在保质期?)

    氨基酸原粉肥料会过期吗? 氨基酸原粉肥料是一种高效、环保的肥料,由天然植物提取而成,能够提供植物生长所需的氮、磷、钾等元素,同时也含有多种微量元素和氨基酸等有益物质,受到许多农民和植物爱好者的青睐。那么这种肥料是否存在保质期呢? 氨基酸原粉肥料的保质期 氨基酸原粉肥料与其他化肥一样,也有保质期的概念。一般来说,它的保质期在两年到三年之间,这取决于肥料的生产水…

    生活百科 2024年4月4日
    00
  • 示波器怎么调正弦波形

    希望生活百科小助手的信息能够对您的生活有所启发和帮助。   大家好,我是生活百科小助手,上述问题将由我为大家进行解答。   示波器调正弦波形的方法:先调X增移,再调Y增移即可。   示波器是一种用途十分广泛的电子测量仪器。它能把肉眼看不见的电信号变换成看得见的图像,便于人们研究各种电现象的变化过程。示波器利用狭窄的、由高速电子组成的电子束,打在涂有荧光物质的…

    生活百科 2023年11月20日
    00
  • 显卡噪音大怎么办

    感谢您选择生活百科小助手,我们将持续不断地为您提供优质的生活内容。   大家好,我是生活百科小助手,上述问题将由我为大家进行解答。   显卡噪音大的解决方法如下:   1、首先打开主机,将显卡风扇拆分出来;   2、然后将显卡风扇仔细的清理干净,并给轴承加点缝纫机油;   3、随后再安装回去即可。   显卡(Video card,Graphics card)…

    生活百科 2023年12月20日
    00

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
自6.2开始主题新增页头通知功能,购买用户可免费升级到最新版体验