OpenStack的源码分析在网上已经非常多了,针对各个部分的解读亦是非常详尽。这里我根据自己的理解把之前读过的Swift源码的一些要点记录一下,希望给需要的同学能带来一些帮助。
一、Swift的整体框架图
如上图,Swift的源码目录结构。其中proxy是前端的业务接入进程。account、container和object目录分别是账户、容器 和对象的业务处理逻辑进程。common目录是一些通用工具代码。common中比较重要的有:哈希环的处理逻辑。接下来会依次介绍各个进程的源码逻辑和 一些关键点机制。
各个业务进程或模块之间的逻辑关系可以参考《Openstack Swift简介》文中的架构图。
二、Proxy进程的业务处理
首先需要掌握基于PasteDeploy的堆栈式WSGI架构。根据PasteDeploy定义的各个层,可以很快理清配置文件定义的代码流程,从 middleware到server。找到最外层的middleware,即是业务的入口。对于proxy进程,可以简单给出业务时序图:
每一层的分工非常清晰,如在proxy进程默认配置文件中,最上层是做异常处理,所有的业务流程抛出的未处理的异常,在这里都将得到处理。
Proxy进程会分析请求的URI(account、container和object组成的资源路径)和请求方法(put、del等)来分析当前 请求的资源的具体类型,然后分贝找到控制该资源的controller,由controller来分发请求到具体的资源server。分发到原则是一致性 哈希环。一致性哈希环在系统初始化时由工具生成,在《Swift 和 Keystone单机安装总结》一文中有具体的操作步骤。
在《Openstack Swift简介》从理论上面介绍了具体的节点寻找过程。采用md5值加移位的方式来确定part,然后找到所有的虚拟节点。具体的代码为:
- container_partition,containers=self.app.container_ring.get_nodes(
- self.account_name,self.container_name)
- defget_nodes(self,account,container=None,obj=None):
- @H_502_44@"""
- Getthepartitionandnodes
- foranaccount/container/object.
- Ifanodeisresponsible
- formorethanonereplica,itwill
- onlyappearinthe
- outputonce.
- :paramaccount:accountname
- :param
- container:containername
- :paramobj:objectname
- :returns:atupleof(partition,listofnodedicts)
- Eachnodedictwillhaveatleastthefollowingkeys:
- ======
- ===============================================================
- iduniqueinteger
- identifieramongstdevices
- weightafloatofthe
- relativeweightofthisdeviceascomparedto
- others;
- thisindicateshowmanypartitionsthebuilderwilltry
- toassign
- tothisdevice
- zoneintegerindicating
- whichzonethedeviceisin;agiven
- partition
- willnotbeassignedtomultipledeviceswithinthe
- samezone
- iptheipaddressofthe
- device
- portthetcpportofthedevice
- devicethedevice'snameondisk(sdb1,for
- example)
- Metageneraluse@H_502_44@'extra'
- field;forexample:theonlinedate,the
- hardware
- description
- ======
- ===============================================================
- @H_502_44@"""
- part=self.get_part(account,
- container,obj)
- returnpart,
- self._get_part_nodes(part)
- defget_part(self,obj=None):
- @H_502_44@"""
- Getthepartitionforan
- account/container/object.
- :paramaccount:accountname
- :param
- container:containername
- :paramobj:objectname
- :returns:thepartitionnumber
- @H_502_44@"""
- key=hash_path(account,container,obj,raw_digest=True)
- iftime()>;self._rtime:
- self._reload()
- part=struct.unpack_from(@H_502_44@'>;I',key)[0]>>
- self._part_shift
- returnpart
- def_get_part_nodes(self,part):
- part_nodes=[]
- seen_ids=set()
- forr2p2din
- self._replica2part2dev_id:
- if
- part<;len(r2p2d):
- dev_id=
- r2p2d[part]
- ifdev_id
- notinseen_ids:
- part_nodes.append(self.devs[dev_id])
- seen_ids.add(dev_id)
- returnpart_nodes
然后根据quorum原则来决定当前请求至少需要几个节点成功即可返回。如NWR分别为322,则至少需要2个节点写成功,才能确保此次写成功。体现在公用的make_request方法中:
原文链接:http://mobile.51cto.com/hot-448613.htm