就下载 —— 安全下载、无毒手机软件、绿色软件官方下载网站最近更新|下载排行|热门标签|收藏本站

您现在的位置是:就下载 > IT资讯 > 软件应用 > 淘宝技术发展(Java时代:创造技术-TFS)

淘宝技术发展(Java时代:创造技术-TFS)

时间:2014-07-03 13:48:19 来源: 互联网 复制分享

《淘宝技术发展(Java时代:创造技术-TFS)》根据互联网资讯由就下载(www.9xz.net)为您收集整理。
  在讲淘宝文件系统TFS之前,先回顾一下上面几个版本。1.0版的PHP系统运行了将近一年的时间(2003.05-2004.01);后来数据库变成Oracle之后(2004.01-2004.05,叫1.1版本吧),不到半年就把开发语言转换为Java系统了(2004.02-2005.03,叫2.0版本);进行分库、加入缓存、CDN之后我们叫它2.1版本(2004.10-2007.01)。这中间有些时间的重合,因为很多架构的演化并没有明显的时间点,它是逐步进化而来的。

  在描述2.1版本的时候我写的副标题是“坚若磐石”,这个“坚若磐石”是因为这个版本终于稳定下来了,在这个版本的系统上,淘宝网运行了两年多的时间。这期间有很多优秀的人才加入,也开发了很多优秀的产品,例如支付宝认证系统、招财进宝项目、淘宝旅行、淘宝彩票、淘宝论坛等等。甚至在团购网站风起云涌之前,淘宝网在2006年就推出了团购的功能,只是淘宝网最初的团购功能是买家发起的,达到卖家指定的数量之后,享受比一口价更低的价格,这个功能看起来是结合了淘宝一口价和荷兰拍的另一种交易模式,但不幸没有支撑下去。

  在这些产品和功能的最底层,其实还是商品的管理和交易的管理这两大功能。这两大功能在2.1版本里面都有很大的变化。商品的管理起初是要求卖家选择7天到期还是14天到期,到期之后就要下架,必须重新发布才能上架,上架之后就变成了新的商品信息(ID变过了)。另外如果这个期间内成交了,之后再有新货,必须发布一个新的商品信息。这么做有几个原因,一是参照拍卖商品的时间设置,要在某日期前结束挂牌;二是搜索引擎不知道同样的商品哪个排前面,那就把挂牌时间长的排前面,这样就必须在某个时间把老的商品下架掉,不然它老排在前面;第三是成交信息和商品ID关联,这个商品如果多次编辑还是同一个ID的话,成交记录里面的商品信息会变来变去;还有一个不为人知的原因,我们的存储有限,不能让所有的商品老存放在主库里面。这种处理方式简单粗暴,但还算是公平。不过这样很多需求都无法满足,例如同样的商品,我上一次销售的时候很多好评都没法在下一个商品上体现出来;再例如我买过的商品结束后只看到交易的信息,不知道卖家还有没有再卖了。后来基于这些需求,我们在2006年下半年把商品和交易拆开。一个商家的一种商品有个唯一的ID,上下架都是同一个商品。那么如果卖家改价格、库存什么的话,已成交的信息怎么处理?那就在买家每交易一次的时候,都记录下商品的快照信息,有多少次交易就有多少个快照。这样买卖双方比较爽了,给系统带来了什么?存储的成本大幅度上升了!

  存储的成本高到什么程度呢?数据库方面提到过用了IOE,一套下来就是千万级别的,那几套下来就是。另外淘宝网还有很多文件需要存储,我们有哪些文件呢?最主要的就是图片、商品描述、交易快照,一个商品要包含几张图片和一长串的描述信息,而每一张图片都要生成几张规格不同的缩略图。在2010年,淘宝网的后端系统上保存着286亿个图片文件。图片在交易系统中非常重要,俗话说“一张好图胜千言”、“无图无真相”,淘宝网的商品照片,尤其是热门商品,图片的访问流量是非常大的。淘宝网整体流量中,图片的访问流量要占到90%以上。且这些图片平均大小为17.45KB,小于8K的图片占整体图片数量61%,占整体系统容量的11%。这么多的图片数据、这么大的访问流量,给淘宝网的系统带来了巨大的挑战。众所周知,对于大多数系统来说,最头疼的就是大规模的小文件存储与读取,因为磁头需要频繁的寻道和换道,因此在读取上容易带来较长的延时。在大量高并发访问量的情况下,简直就是系统的噩梦。我们该怎么办?

  同样的套路,在某个规模以下,采用现有的商业解决方案,达到某种规模之后,商业的解决方案无法满足,只有自己创造解决方案了。对于淘宝的图片存储来说,转折点在2007年。这之前,一直采用的商用存储系统,应用NetApp公司的文件存储系统。随着淘宝网的图片文件数量以每年2倍(即原来3倍)的速度增长,淘宝网后端NetApp公司的存储系统也从低端到高端不断迁移,直至2006年,即使是NetApp公司最高端的产品也不能满足淘宝网存储的要求。从2006年开始,淘宝网决定自己开发一套针对海量小文件存储的文件系统,用于解决自身图片存储的难题。这标志着淘宝网从使用技术到了创造技术的阶段。

  2007年之前的图片存储架构如下图:

  

 

  章文嵩博士总结了几点商用存储系统的局限和不足:

  首先是商用的存储系统没有对小文件存储和读取的环境进行有针对性的优化;其次,文件数量大,网络存储设备无法支撑;另外,整个系统所连接的服务器也越来越多,网络连接数已经到达了网络存储设备的极限。此外,商用存储系统扩容成本高,10T的存储容量需要几百万,而且存在单点故障,容灾和安全性无法得到很好的保证。

  谈到在商用系统和自主研发之间的经济效益对比,章文嵩博士列举了以下几点经验:

  1.商用软件很难满足大规模系统的应用需求,无论存储还是CDN还是负载均衡,因为在厂商实验室端,很难实现如此大的数据规模测试。

  2.研发过程中,将开源和自主开发相结合,会有更好的可控性,系统出问题了,完全可以从底层解决问题,系统扩展性也更高。

  

 

  3.在一定规模效应基础上,研发的投入都是值得的。上图是一个自主研发和购买商用系统的投入产出比对比,实际上,在上图的交叉点左边,购买商用系统都是更加实际和经济性更好的选择,只有在规模超过交叉点的情况下,自主研发才能收到较好的经济效果。实际上,规模化达到如此程度的公司其实并不多,不过淘宝网已经远远超过了交叉点。

  4.自主研发的系统可在软件和硬件多个层次不断的优化。

  历史总是惊人的巧合,在我们准备研发文件存储系统的时候,google走在了前面,2007年他们公布了GFS( google file system )的设计论文,这给我们带来了很多借鉴的思路。随后我们开发出了适合淘宝使用的图片存储系统TFS( taobao file system )。3年之后,我们发现历史的巧合比我们想象中还要神奇,几乎跟我们同时,中国的另外一家互联网公司也开发了他们的文件存储系统,甚至取的名字都一样——TFS,太神奇了!(猜猜是哪家?)

  2007年6月,TFS正式上线运营。在生产环境中应用的集群规模达到了200台PC Server(146G*6 SAS 15K Raid5),文件数量达到上亿级别;系统部署存储容量:140TB;实际使用存储容量: 50TB;单台支持随机IOPS 200+,流量3MBps。

  要讲TFS的系统架构,首先要描述清楚业务需求,淘宝对图片存储的需求大概可以描述如下:

  文件比较小;并发量高;读操作远大于写操作;访问随机;没有文件修改的操作;要求存储成本低;能容灾能备份。应对这种需求,显然要用分布式存储系统;由于文件大小比较统一,可以采用专有文件系统;并发量高,读写随机性强,需要更少的IO操作;考虑到成本和备份,需要用廉价的存储设备;考虑到容灾,需要能平滑扩容。

  参照GFS并做了适度的优化之后,TFS1.0版的架构图如下:

  

 

  从上面架构图上看:集群由一对Name Server和多台Data Server构成,Name Server 的两台服务器互为双机,就是集群文件系统中管理节点的概念。

  在这个架构中:

  • 每个Data Server运行在一台普通的Linux主机上

  • 以block文件的形式存放数据文件(一般64M一个block)

  • block存多份保证数据安全

  • 利用ext3文件系统存放数据文件

  • 磁盘raid5做数据冗余

  • 文件名内置元数据信息,用户自己保存TFS文件名与实际文件的对照关系–使得元数据量特别小。

  淘宝TFS文件系统在核心设计上最大的取巧的地方就在,传统的集群系统里面元数据只有1份,通常由管理节点来管理,因而很容易成为瓶颈。而对于淘宝网的用户来说,图片文件究竟用什么名字来保存实际上用户并不关心,因此TFS在设计规划上考虑在图片的保存文件名上暗藏了一些元数据信息,例如图片的大小、时间、访问频次等等信息,包括所在的逻辑块号。而在元数据上,实际上保存的信息很少,因此元数据结构非常简单。仅仅只需要一个fileID,能够准确定位文件在什么地方。

  由于大量的文件信息都隐藏在文件名中,整个系统完全抛弃了传统的目录树结构,因为目录树开销最大。拿掉后,整个集群的高可扩展性极大提高。实际上,这一设计理念和目前业界的“对象存储”较为类似,淘宝网TFS文件系统已经更新到1.3版本,在生产系统的性能已经得到验证,且不断得到了完善和优化,淘宝网目前在对象存储领域的研究已经走在前列。

  在TFS上线之前,淘宝网每个商品只允许上传一张图片,大小限定在120K之内,在商品详情里面的图片必须使用外站的服务。那时侯发布一件商品确实非常麻烦,笔者曾经想卖一台二手电脑,先把照片上传到google相册,在发布到淘宝网之后发现google相册被墙了,我的图片别人看不到,当时郁闷的不行。TFS上线后,商品展示图片开放到5张,商品描述里面的图片也可以使用淘宝的图片服务,到现在为止,淘宝网给每个用户提供了1G的图片空间,这下大家都满足了。技术和业务就是这么互相用力的推动着,业务满足不了的时候,技术必须创新,技术创新之后,业务有了更大的发展空间。

换链神器教你如何解决我不想与对方互换链接问题

换链神器解决对方恶意下链投诉方法

换链神器网站列表-数据更新说明

换链神器删除网站说明

换链神器如何暂停网站互换链接?

换链神器使用教程

甜椒刷机助手V3.0QT体验版 2013华丽上线

微软Project 2013专业版RTM60天试用版下载

如何用拍大师进行原创视频创作

拍大师移动版随时随地拍出别样精彩

闹元宵 甜椒刷机助手发布V3.0.5元宵版

2012末日诱惑 再不性感就晚了!

永中Office 2013 个人版正式发布

拍大师之拍我秀秀功能使用教程

Office 2013可支持语言已达106种

好声音在路上,拍大师圆你歌手梦

进军杀毒市场!百度杀毒软件2013正式发布

WPS Office 2012 SP2 专业绿色版

中文触摸recovery,甜椒刷机助手开启刷机新纪元

《OneKey 一键还原》8.0正式版发布

换链神器教你如何解决我不想与对方互换链接问题

换链神器教你如何解决我不想与对方互换链接问题 由于特殊原因,不想与对方进行互换,如何处理? 解决方案: 在互换列表里面选中需要取消互换链接的那行,右击选择,我要下链(输入你的下链理由)点确认即可。 确认后,这条记录将在您的互换...【详细】

http://www.9xz.net/it/ruanjianyingyong/7612.html

换链神器解决对方恶意下链投诉方法

换链神器解决对方恶意下链投诉方法 说明:在没有写明下链理由情况下,直接删除网站链。这种就属于恶意下链。 解决方案:您可以直接互换列表里面选择对方链接一行,右击重新检测一下,如还是提示异常,则人工打开对方网站...【详细】

http://www.9xz.net/it/ruanjianyingyong/7611.html

换链神器网站列表-数据更新说明

换链神器网站列表-数据更新说明 网站列表-数据更新说明 1:系统会每隔24小时对网站所有SEO数据进行自动更新(登陆客户端的情况下)例如:今天早上添加的网站并更新过,到了明天早上八点登陆客户端,系统会自动更新,如果...【详细】

http://www.9xz.net/it/ruanjianyingyong/7610.html

换链神器删除网站说明

换链神器删除网站说明网站列表删除网站说明: 一:删除网站后所有网站之前的数据会保留在服务器(如:换链记录,准时率,被投诉,超时次数等等),再次添加,这些属性会随着网站添加至新的会员属性中。 二:如有误删除...【详细】

http://www.9xz.net/it/ruanjianyingyong/7609.html

换链神器如何暂停网站互换链接?

换链神器如何暂停网站互换链接? 如何暂停网站互换链接? 选择相应的网站,点击“修改”,选择“暂停网站”即可。暂停网站后,该网站不会在互换大厅显示。...【详细】

http://www.9xz.net/it/ruanjianyingyong/7608.html

换链神器使用教程

换链神器使用教程 使用教程第一步登陆“换链神器”进入“网站列表”点击“添加网站”并设置换链匹配条件,添加完网站后系统会在十分钟后自动更新所添加网站SEO数...【详细】

http://www.9xz.net/it/ruanjianyingyong/7607.html

甜椒刷机助手V3.0QT体验版 2013华丽上线

甜椒刷机助手V3.0QT体验版 2013华丽上线   向安卓用户的新年献礼!享受与众不同的刷机体验!   2013新年伊始,甜椒刷机助手为答谢广大安卓手机用户对甜椒的支持与信赖,倾情推了甜椒刷机助手V3...【详细】

http://www.9xz.net/it/ruanjianyingyong/1356.html

微软Project 2013专业版RTM60天试用版下载

微软Project 2013专业版RTM60天试用版下载   微软刚刚放出新近发布的Project Professional 2013的60天试用下载链接。Project 2013专业版将仅适用于Windows 7和Windows 8,并可在32位和64位系统...【详细】

http://www.9xz.net/it/ruanjianyingyong/1355.html

如何用拍大师进行原创视频创作

如何用拍大师进行原创视频创作   之前小编给大家介绍的视频编辑制作软件《拍大师》,小编亲测了该软件的“拍游戏”“拍我秀秀”和“拍照截图”功能...【详细】

http://www.9xz.net/it/ruanjianyingyong/1354.html

拍大师移动版随时随地拍出别样精彩

拍大师移动版随时随地拍出别样精彩   末日过后,2013惊喜连连,PC版拍大师2.0变速版刚刚推出不久,移动版拍大师即闪亮登场,拉开爱拍移动的序幕。本次拍大师移动版先推出了Android系统的安卓...【详细】

http://www.9xz.net/it/ruanjianyingyong/1353.html

闹元宵 甜椒刷机助手发布V3.0.5元宵版

闹元宵 甜椒刷机助手发布V3.0.5元宵版   玩刷机,闹元宵。在一年一度的元宵节到来之际,甜椒发布V3.0.5元宵版,与机友们一起闹元宵。凡使用甜椒刷机助手的用户,每天都能参加幸运大转盘活动,每天...【详细】

http://www.9xz.net/it/ruanjianyingyong/1352.html

2012末日诱惑 再不性感就晚了!

2012末日诱惑 再不性感就晚了! 末日会不会来?玛雅预言会不会真的发生?最近我们都有太多关于末日的想法啦!尽管我们没办法确切的知道到底有没有世界末日,但大多数网友们还是认为不管明天...【详细】

http://www.9xz.net/it/ruanjianyingyong/1351.html

永中Office 2013 个人版正式发布

永中Office 2013 个人版正式发布   无锡永中软件有限公司日前发布了全新的永中Office 2013 个人版,新版本以全新的界面体现清新时尚,即时菜单、智能图表、功能区的压缩和助记符的提供...【详细】

http://www.9xz.net/it/ruanjianyingyong/1350.html

拍大师之拍我秀秀功能使用教程

拍大师之拍我秀秀功能使用教程   之前小编给大家介绍了拍大师这款最简单的视频制作编辑软件,还教大家怎么使用有拍大师的拍游戏视频功能,相信大家看了之后都会使用拍大师的录游戏功...【详细】

http://www.9xz.net/it/ruanjianyingyong/1349.html

Office 2013可支持语言已达106种

  近日,微软在其官方博客上发布消息表示他们已经在Office 2013中加入了对国际用户以及多种语言的支持,其中新加入的语言有位于亚洲地区的印度语、马来...【详细】

http://www.9xz.net/it/ruanjianyingyong/1348.html

好声音在路上,拍大师圆你歌手梦

好声音在路上,拍大师圆你歌手梦   《我是歌手》好声音在路上,拍大师圆你歌手梦!由浙江卫视强力打造的《中国好声音》热度仍没褪去,又一个叫做《我是歌手》的音乐对决综艺秀火了起来,各...【详细】

http://www.9xz.net/it/ruanjianyingyong/1347.html

进军杀毒市场!百度杀毒软件2013正式发布

进军杀毒市场!百度杀毒软件2013正式发布   2012年,百度曾面向泰国市场推出了电脑优化工具Baidu PC Faster,现在,百度终于亮出了大招,正式推出了百度杀毒软件2013(Baidu Antivirus 2013),不过...【详细】

http://www.9xz.net/it/ruanjianyingyong/1346.html

WPS Office 2012 SP2 专业绿色版

WPS Office 2012 SP2 专业绿色版   对于WPS Office系列的办公软件,相信大家都不会陌生,它一直以免费且高效收到广大用户喜爱。最新版WPS Office 2012全新的界面选择、全新的首页模板、...【详细】

http://www.9xz.net/it/ruanjianyingyong/1345.html

中文触摸recovery,甜椒刷机助手开启刷机新纪元

中文触摸recovery,甜椒刷机助手开启刷机新纪元   今日是甜椒刷机助手为刷机界打开新纪元的一天,中文触摸recovery模式发布。中文触摸recovery改变了刷机时候的技术编程显示方式,通过图示的方式显示...【详细】

http://www.9xz.net/it/ruanjianyingyong/1344.html

《OneKey 一键还原》8.0正式版发布

《OneKey 一键还原》8.0正式版发布   龙腾摆尾辞旧岁,金蛇起舞闹新春!OneKey一键还原提前携礼给各位朋友拜年,恭祝各位友人在新的一年里:心想事成,万事如意,阖家幸福!   官方下载地址:Onek...【详细】

http://www.9xz.net/it/ruanjianyingyong/1343.html

上一篇:春运不能承受营销之重 软件大佬们停手吧

本文地址:软件应用 >> http://www.9xz.net/it/ruanjianyingyong/701.html

下一篇:手机进水急救手册 爆米花可用来吸干水分

  • 打印
推荐阅读
推荐内容
热点内容
推荐安卓应用