基于改进HDFS的冠字号小文件分布式存储研究

来源 :电脑知识与技术 | 被引量 : 0次 | 上传用户:huangyp2002
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对冠字号小图片存储到HDFS系统中带来的访问瓶颈问题,改进了原有的HDFS系统,新提出的分布式系统机制是充分基于文件相关性(File Correlation)进行合并处理的HDFS(FCHDFS)。由于HDFS中所有的文件都是由单一的主节点服务器托管-NameNode,每个存储到HDFS的文件在NameNode主存储器中都需要存储它的元数据,这必然导致小文件数量越大HDFS性能就越差。存储和管理大量的小文件,对NameNode是一个沉重的负担。可以存储在HDFS的文件数量是受到NameNode的内存大小
其他文献
今日之中国。竞争之激烈,前所未有,同样.媒体也面临着激烈的市场竞争,有地域之间的媒体竞争.也有不同地域之间的媒体竞争。不管怎样的竞争。媒体都有一个基本功能,即坚持正确的舆论
假设( Xi,Yi)1≤ i≤ N 为一组平稳遍历函数型样本,Yi为取值于实数空间R的随机变量,Xi 为取值于半度量空间F。文章考虑在 Xi条件下关于Y i分位数回归函数的估计量,主要利用N-W核回