搜狐云发展中DomeOS的开发与Docker的应用

所属分类: 网站运营 / 建站经验 阅读数: 116
收藏 0 赞 0 分享

2011年初,为解决搜狐内部各部门海量数据存储和数据在线快速读取的问题,北京研发中心利用半年的时间,汇聚国内多位存储方面的顶尖人才自主研发了一整套分布式存储系统,其中包括针对海量小文件的 BFS 存储系统,针对大文件的 Blade Store 存储系统,以及针对元数据的 Blade Cube 存储系统。2012年3月,搜狐云分布式存储系统在经历了无数次测试和优化之后,正式在搜狐内部上线。随后,搜狐内部的绝大部分数据逐渐迁移至搜狐云服务,逐渐覆盖包括搜狐网站,搜狐汽车,搜狐焦点,搜狐新闻客户端,搜狐视频,搜狐相册等产品在内的几乎所有的搜狐内部的服务,实现了北京研发中心最初的承诺“one sohu one storage”。搜狐云服务在公司内部稳定运行的两年间,伴随着公司数据量的增长,其性能和稳定性得到了长期的验证。
与此同时,国内云计算市场虽然巨头林立,小团队丛生,但始终没有令企业满意的云存储服务。对于数据规模较大的企业来说,数据存储的需求极为强烈,数据的安全性,数据的读写性能都直接关系着产品体验,但数据存储的技术门槛又相对较高,导致好多公司每年都要在数据存储上做大量的投入,但效果却不尽如人意。虽然目前市场上有很多优秀的开源存储系统,但由于企业使用环境的差异,在开源系统的重复改造上通常也会浪费掉大量的人力和物力,而且伴随着业务量的增长,开源系统的难以预测性也给企业的数据带来了巨大的隐患。
正是看到国内市场对企业级云存储的强烈需求,搜狐云服务于是开启了从对内服务向对外服务转型的大门。由于通常的开源存储系统的性能在不同的使用环境下有很大的差异,并不能为企业快速解决存储难题,消除安全隐患,所以从一开始,搜狐北京研发中心就没有止步于仅将存储技术共享,而是致力于为客户提供一站式存储解决方案,让客户可以简单便捷的将数据托管至搜狐云服务,由搜狐来为客户的数据安全买单,完全省去客户“重复修复轮子”的烦恼。搜狐云服务的存储设备,全部托管在国内五星级机房,同时在数据传输的各个环节配备有完整的监控系统,能够保证客户的数据异常在第一时间被发现,第一时间恢复,保障客户业务的稳定健康。
为了给企业解决更多的难题,搜狐云还精心打造了国内最专业的云端图像处理系统,帮助企业轻松应对多屏时代的多图烦恼。搜狐云服务的实时图像处理功能,能够帮助企业节约近50%的带宽成本,同时能够提升网页访问速度,给终端用户带去更为快速流畅的体验。此外,搜狐云服务还与国内多家优质的云分发(CDN)平台进行了深入的合作,客户可以从搜狐云服务的平台直接接入多家公司的云分发服务,为网站带去最优质的体验。

搜狐企业级业务编排运维管理系统——DomeOS
DomeOS的技术团队拥有多年的云存储经验,国内领先的图片处理技术以及CDN分发经验。团队经营的主打产品“搜狐云台”拥有业内顶尖的图片压缩技术,为搜狐内部产品和几十家外部企业级用户带来了极致的用户体验。搜狐云台除了可靠地云存储服务、顶尖的图片处理技术,还有人脸检测、黄反图识别、广告图识别等方面的研究。
20151217110952701.png (478×356)

搜狐云台陈伟表示“我们是帮人解决问题的,存储和图片的需求通过搜狐云台得到了很好的解决,但是我们也发现了流程中很多新的问题。”
传统运维模式的问题
  陈伟在GTIC大会会场和大家分享了搜狐云台团队在多年云存储开发运维过程中遇到的问题。
  1. 随着业务快速发展,服务器环境越来越复杂,各种紧急上线,技术债务,临时版本的程序,脚本等,可能长期得不到清理,最终引发问题
  2. 技术平台快速发展,管理依赖是件很麻烦的事,而且影响运维和开发的沟通
  3. 环境统一问题,经常导致上线失败。开发、测试、运维协作困难。
  4. 监控体系不断重构,难以满足需求
  5. 规模小无需自动化,而规模大后再自动化又容易引起问题。
  6. 十分依赖经验丰富的运维人员
Docker的优势和问题
  陈伟总结docker的优势有:
  1. Docker的先进理念:“build、ship、run”。把应用的构建、分发、运行的流程标准化、规范化。
  2. 私有的registry天然就是一个分发仓库,名称+tag的方式也很有利于版本管理,回滚等。
  3. 单进程模型重新梳理了应用的意义。一个应用天生就应该是一个进程为单位的单元。
  4. docker的资源控制和自包含性综合起来,成为了一个很有前景的功能,更加适合使用动态的资源调度的方式来部署服务。
  Docker带来曙光的同时,陈伟表示,docker作为一个新的技术,仍然存在以下问题:
  1. 目前还没看到十分令人满意的网络模式
  2. 传统应用不一定能很好地迁移到docker中
  3. 开发人员有较大的学习成本,需要较长时间适应docker
  4. Docker版本迭代较快,会带来不兼容等问题,而升级docker又需要把上面的服务停掉
  5. 在国内做开发都会遇到的问题,比如:墙、构建性能、分发性能等等
20151217111017243.png (482×360)

陈伟还对比了docker和虚拟机的特点,他着重强调了一点:虚拟机无关应用,是基础架构层面的事情,开发人员不关心这一点;而docker是应用层面的,开发运维的思路都会随之发生变化。
  DomeOS设计
  DomeOS的最主要的理念是“开箱即用”。陈伟表示:“我们不希望DomeOS是一个和我们自身业务结合很紧密的东西,我们把它定位为一个纯工具。”DomeOS团队希望今后的各个使用者能够轻松上手,开箱即用。
  除了开箱即用,DomeOS还具有:开发自运维、全流程全视图、追求效率和利用率的特点。
20151217111034176.jpg (483×358)

DomeOS主要的功能有:集群管理、开发测试、发布回滚、运维监控和应用商店。
  集群管理改造自kubernetes,使用了pods等概念。多数据中心统一管理,自动化调度不超出数据中心范围。此外,DomeOS区分生产环境和开发测试环境,并且有权限要求。
  持续集成是DomeOS的一个创新点,没有使用jenkins等工具,从头设计。持续集成功能使用github、gitlab的API设置hook,获取代码。在开发过程中搜狐云台的技术团队使用了搜狐云台的scs云存储服务,提升了开发效率和服务性能。
  应用商店是DomeOS另一个具备鲜明的docker理念的功能。它能够把一个复杂的分布式系统描述清楚,并能够在可视化界面上进行配置,一键部署。此外,能够实现测试环境直接搭建,生产环境依赖注入,大大提升测试和生产的效率。此外,陈伟还和与会嘉宾分享了DomeOS的网络和磁盘相关的特点以及开发过程中所遇到的问题。
  DomeOS还在持续迭代和实践的过程中,搜狐云台团队希望docker的爱好者和从业者能够关注DomeOS,希望与更多的docker团队交流分享。

搜狐云服务的未来
比起单纯的提供云存储服务,搜狐云更希望能够为打造国内健康的云生态环境贡献力量。未来,搜狐云服务将与业内其他的云计算相关产品展开更为丰富和深入的合作,致力于建设完整的云计算生态合作群体,目前,搜狐云已经与国内多家ISV(独立软件开发商)和SI(服务集成商)达成共识,将携手为客户一站式解决公有云的需求。

更多精彩内容其他人还在看

医疗行业怎么做好网站建设?建站注意事项及经验

踏足互联网,医疗行业可以将自身优势资源整合到网站中去,为大家提供病理知识、在线咨询或者预约就诊服务等。那么如何做好医疗行业的网站建设呢?本期为大家分享一些在建站过程中需要注意的东西和建站经验,希望能给大家带来帮助
收藏 0 赞 0 分享

企业应该怎么策划自己的网站?规划网站注意事项总结

网站建设虽然是一个比较复杂的过程,包括网站策划、网页设计、程序开发、上传网页、发布网站等,那么企业应该怎么策划自己的网站?下面为大家介绍规划网站注意事项,来看看吧
收藏 0 赞 0 分享

大众点评网站的支付系统构建经验分享

大众点评网站的服务器端在迭代的同时保持了很好的扩展性和可用性,这里我们来看一下大众点评网站的支付系统构建经验分享,主要以大众点评的支付渠道网关系统为核心.
收藏 0 赞 0 分享

网易蜂巢的容器运维管理服务使用指南

网易蜂巢提供对Docker容器的警报和性能监控服务,通过图形化面板操作十分简洁,这里前提假设服务器端已经架设在容器中,那么接下来就让我们来看网易蜂巢的容器运维管理服务使用指南
收藏 0 赞 0 分享

为什么认为自助建站不适合SEO?自助建站工具搭建出来的网站对SEO的支持如何?

最近有一个做SEO优化朋友询问为什么自助建站做出来的网站排名很难做上去?自助建站工具搭建出来的网站真的适合SEO吗?本文将提供相关内容供大家了解,希望对大家有所帮助和启发
收藏 0 赞 0 分享

支持支付宝的高性价比美国VPS主机Pzea的购买及使用评测

Pzea一直是低价位VPS的人气之选,在美国三个大城市分别建有机房,且构建于KVM虚拟机之上,性能较为出众,接下来就为大家来分享一下这个支持支付宝的高性价比美国VPS主机Pzea的购买及使用评测
收藏 0 赞 0 分享

网站页面一定需要HTML静态化吗 实战说明静态化的必要性

很多刚开始运营网站的伙伴们都要知道网站内的页面需要进行URL优化吗?如设置静态化等,对此,本文就为大家解析一下网站静态化的必要性,有兴趣的朋友们可以了解下哦
收藏 0 赞 0 分享

移动端界面设计之尺寸基础知识学习

这篇文章主要为大家详细介绍了移动端界面设计之尺寸基础知识,通俗易懂的学习教程帮助大家了解关于移动端设计尺寸的相关知识,感兴趣的小伙伴们可以参考一下
收藏 0 赞 0 分享

如何提高用户体验?优秀的用户体验需要遵守的十大准则

自己的网站做的很漂亮却依然没有排名,这是为什么呢?这个时候,你应该考虑你是否关注到用户体验?而如何提高用户体验又是你要考虑的问题了,本文将提供优秀的用户体验需要遵守的十大准则供大家了解,希望对大家有所帮助和启发
收藏 0 赞 0 分享

DoubleClick Ad Exchange Seller(adx) 为您的广告代码生成异步代码的方法

这篇文章主要介绍了DoubleClick Ad Exchange Seller(adx) 为您的广告代码生成异步代码的方法,需要的朋友可以参考下
收藏 0 赞 0 分享
查看更多