成长型公司如何构建存储架构

标签: 综合新闻 | 发表时间:2013-06-21 12:22 | 作者:
出处:http://www.oschina.net/?from=rss

big data problem

随着大数据时代的到来,合理构建可持续的存储架构已经成为企业数据中心IT主管们面临的头号难题之一。经常有人问我,如何为成长型公司的大型系统部 署存储架构,尤其是当这些大型系统承载视频、音频、或社交类网站时,该如何构建存储架构?以下介绍一些我们常选择的方法及各自的优点。

构建存储架构时,要考虑许多问题,最明显的如存储容量、访问速度、缓存选择方案、服务器共享方式、访问协议及访问方法、安全及备份等等。

首先,我们认为最好的存放地址是存放在云中,这些服务存放在云中会很安全,如Amazon S3,阿里云OSS,或 Qiniu’s 的动态系统。但是,若你是自己想存储数据的话,你可以选择不同类型的存储容量。

DAS - 直接附加存储,也称为本地硬盘存储,是一种最普遍、速度最快也是最为经济的存储解决方案。现在已经有4TB的硬盘,再加上标准机箱可以有6-8个这样的硬 盘,所以,若服务器是RAID5 配置的话,很容易就能达到20TB 以上。同时使用多个服务器的话,也很容易就能达到100TB,但是管理起来并不容易。所以,DAS是本地数据库存储、NFS共享存储及其它简单系统最好的 存储选择方案。要想找一个比较简单的存储方案,这不失为一项最佳选择。

NAS – 网络附加存储也比较盛行,由两部分组成。最常见的情况就是 简单的服务器之间的NFS 共享,这种存储方式采用上文所述的大型TB硬盘,能存储简单的共享图片甚至视频,也能够达到十几TB 的存储量。

NAS 的第二种解决方案,则是商业解决组件,如NetAppFiler, 其存储容量可达几百TB,是一个强大的NFS解决方案,这些通常运用于大型系统,但是缺点是,当系统扩展受成本限制时,对此类存储进行扩展会花费很大的成本。

SAN - 存储区域网络,常被认为是NAS的“大哥”。但是,由于其成本太大且难以管理,所以,互联网行业通常不选择此解决方案。此外,该种存储不能够很好的响应互联网公司的共享需求,因为这种方案只连接几台高IO要求服务器如Oracle数据库联系在一起。

群集存储 - 在不用NFS 的情况下,这种方式越来越多的被用于解决共享问题。这种存储方案最好的优势在于,由于是群集存储,所以可以允许存储冗余存在,而这在DAS 或NAS系统中是很难实现的。常用的群集存储方式包括RedHat公司拥有的GlusterFS, 以及MogileFS。

这些系统通常管理起来很复杂,而且也有很多限制,如文件存放,空间管理及访问方法。例如,GlusterFS 就是由客户端进行管理,且以FUSE挂载,而MogileFS则根本无法挂载,因为它采用的是库驱动API,由PHP进行访问的等等。

群集存储容量可以扩大,甚至扩展到100TB,通常用于中等大小的图片或视频系统,前提是已经知道了它的限制和复杂性。

分布式存储 – 是群集系统的一个远房“表亲”,完全分布式的系统和Google File System比较接近, 在这个系统中,所有的文件、分布、复制、空间等都自动由系统进行管理。客户通常通过内核驱动程序安装该系统,整个分布式系统就像是SAN或NAS一样工作。

这些通常都是功能强大的商业化系统,如北京的Loongstore(龙存科技)。它们通常至少需要几个服务器才能开展工作,因为他们通常需要一个或更多的集群,并且其他服务器作为管理服务器来运行,除多个集群之外,多个存储节点也可以。但是,他们可以扩展到1PB甚至更大,是大型系统扩展的理想选择,并具有很高的冗余特性及极高的性能。

Flickr 或 Evernote 的API存储 – 可达500TB 甚至1PB, 对于某些特定存储需求,如图片存储,甚至可能用到几个基于文件的API系统,尽管大多数情况下是用于用户目录的增长。Flickr和Evernote 都发布了各自的系统架构,基本上都是基于HTTP文件存储的分布式集中管理系统。

在 这些系统中,客户端调用目录寻找文件,然后获得一个URL反馈,指向在服务器或群集服务器上的需要进行读/写的文件。然后,客户端再发一个HTTP请求来 读取这个文件,这个请求由单个服务器或一个小的群集服务器(使用复制或冗余RAID)进行处理,从本质上来说,这是一个共享存储系统,可以无限制扩展。但 是,同其它共享存储系统一样,都面临着文件移动,管理难等挑战。

Amazon S3 使用的就是类似于这样的一个系统,使用基于HTTP的存储及你的内部目录了解你的文件存储地址。

Facebook - 最优秀的扩展案例就是Facebook系统, 该系统设计用于存放几十亿的文件,每秒处理几百万的请求。 该系统有点像 NFS/GFS 系统,在硬盘格式、有线网络格式上都采用了最佳的选择方案,在网络和硬盘上采取最短的文件传输路径。你不会想在不久的将来构建一个这样的系统,但是,花时 间去研究一下,你会发现很有趣。

您会发现,成长型公司可选择多种不同的存储方式。但是,只有前几种存储方案对于成长型公司是比较实际的,DAS, NAS及群集存储。每种存储方案有其各自的优缺点。云络科技很高兴与您一起选择、构建并运行最适合您的解决方案。

文章来自 IT经理网

相关 [成长 公司 架构] 推荐:

成长型公司如何构建存储架构

- - 开源中国社区最新新闻
随着大数据时代的到来,合理构建可持续的存储架构已经成为企业数据中心IT主管们面临的头号难题之一. 经常有人问我,如何为成长型公司的大型系统部 署存储架构,尤其是当这些大型系统承载视频、音频、或社交类网站时,该如何构建存储架构. 以下介绍一些我们常选择的方法及各自的优点. 构建存储架构时,要考虑许多问题,最明显的如存储容量、访问速度、缓存选择方案、服务器共享方式、访问协议及访问方法、安全及备份等等.

20家成长最快的移动新创公司

- - 互联网分析
近日一家叫Mattermark的公司发布了一份榜单,列举了成长最快的20家移动新创公司. Mattermark公司由连续创业家Danielle Morrill创建,他们专门对有风投背景的新创企业,进行大量的研究和数据分析. Mattermark 发布的榜单,关注那些能够持续增长的新创公司,而这也是投资人所关注的.

中大型移动互联网公司技术架构选择

- - 五四陈科学院
以下内容由 [五四陈科学院]提供. 总结这些年经验,进行构架演进的方向选择时,大致要做到下面的目标:. 可快速开发部署 (五分钟写出来一个经过测试的hello world并可访问/调用,并可在公网访问). 天然可扩展(业务层无状态,尽可能全部放到最后). 自动化(内存不足了,除了报警,应该自动加点机器进去; 新的项目,基础代码应该都不用写,自动生成即可).

[转]各大互联网公司架构演进之路汇总

- - 鸟窝
原文地址: 各大互联网公司架构演进之路汇总 by HollisChuang. 请转载时务必保留文章的上述原始出处. 支付宝和蚂蚁花呗的技术架构及实践. 支付宝的高可用与容灾架构演进. 聚划算架构演进和系统优化 (视频+PPT). 淘宝交易系统演进之路 (专访). 淘宝技术发展历程和架构经验分享(视频+PPT)(2.3日更新).

解密大型互联网公司产品经理们的成长路径

- - 博客园_知识库
  由于各种因素,被一家叫X雷公司产品总监约聊(也就成为带我入道的导师),两小时后情投意和,我便开启了我互联网产品经理职业之旅.   第一天到公司,穿上我刚去东门百货买的西装,各种正能量只灌大动脉,在漂亮的前台MM带领下进入了传说中的互联网公司办公区,小激动之后环视了四周,为什么连个女生都没有,为什么不是西装,为什么他们的人字拖和我油光闪闪的头层牛皮鞋的带入显得格格不入,为什么办公区的玻璃上全是流程图和公式,有没有公德心啊,清洁阿姨怎么看你们.

创业公司需要基础架构团队吗?[极牛编辑修改版]

- - 唐福林-博客雨
关于「真格 · 极牛技术分享」. 「真格 · 极牛技术分享」- 极牛为真格基金投资公司打造的定期技术分享交流活动,采用“微信群分享 + 线下沙龙”的方式,分享和讨论新技术优秀应用实践、知名创业项目架构分析、技术工具评测和分析等技术话题. 极牛愿与真格基金投资公司一起努力,共同提高中国创业技术含金量,打造一流技术能力.

在美国公司架构中,LLC、LLP 和 Corporation 有哪些区别?

- - IT瘾-zhihu
我提供一个新角度,在这三种架构各自能满足创立者什么样的需求层面来解释的他们的区别:. 假设张大爷和李大妈在纽约时代广场跳舞时相识,打算一起开个小店,卖打卤囊(pizza)和大饼夹一切(汉堡),. 如果不专门进行注册的话,这样的商业单位在法律上被默认为“普通合伙” (Partnership). 一般合伙在制度设计上有以下几个局限:.

证券公司交易系统架构演进探析 - jimshi - 博客园

- -
券商作为证券市场的中介机构,承担了为广大投资者提供证券交易通道的市场责任. 你知道交易指令是如何传递到交易所并最终成交的吗. 上图是一个典型的券商交易系统逻辑架构,手机App、网上交易等系统称为渠道系统,职责是为投资者提供交易渠道,并对指令做初步的要素检查,最终所有合法交易指令都会发送到集中交易系统进行统一业务逻辑处理.

阿里李纯:从架构师到CTO,成长没有一蹴而就

- - 运维派
从程序员成长为架构师,需要几年. 从架构师升任CTO,又需要几年. 成长没有一蹴而就,鸡汤喝再多,终究是要回到现实,脚踏实地. 2016年底,已经担任CTO两年多时间的李纯走上飞机,踏上了前往美国硅谷的旅途. 他参加的是由极客邦科技举办的中国技术开放日活动,此次活动聚集了国内互联网顶尖的技术人和创业者,他们会拜访硅谷企业,学习和交流经验.

羡慕嫉妒恨!一起来看互联网公司年终奖及薪资架构

- - 互联网的一些事-关注互联网产品管理,交流产品设计、用户体验心得
  首先来一段子:如果你的朋友是it民工,年底吃饭聚餐就不要AA制了,你请他吧,主动买单是不错的选择. 千万不要当着他的面提年终奖,出国旅游,买房买车等等.   年终奖就像一个巧克力盒子,你永远不知道打开后被分到什么样的巧克力. 每年岁末,花样百出的年终奖都是大家热议的话题,谁也不知道自己会得到一部苹果5S还是五袋子苹果.