１、ＳａａＳ服务模型
云计算主要可以分为底层架构即服务（ＩａａＳ）、平台即服务（ＰａａＳ）和软件即服务（ＳａａＳ）。在云计算中的ＳａａＳ模型如图１所示［７］。ＳａａＳ层管理ＳａａＳ提供商提供给租户的所有服务的应用。ＰａａＳ层包含映射和调度政策，以将租户的服务质量需求转换为底层架构参数，并分配虚拟机以处理租户的服务请求。ＩａａＳ层控制虚拟机的实际的初始化和销毁。ＩａａＳ层，如ＡｍａｚｏｎＥＣ２ｓｅｒｖｉｃｅ［８］，提供多种类型的虚拟机，其处理能力、内存及Ｉ／Ｏ性能均不一样，客户可以购买所需要的虚拟机实例，并按实际使用收费。这样，ＳａａＳ应用可以按实际需求，动态提取所需要的底层资源。在ＳａａＳ服务模型下，ＰａａＳ平台为ＳａａＳ服务提供底层资源运行环境，并对ＳａａＳ服务对应的底层资源进行监控和管理。当租户请求到来时，ＰａａＳ平台获取租户请求信息，将请求发送到ＳａａＳ服务对应的底层资源，使租户请求得到服务。当租户请求增长，现有的底层资源已不能处理租户请求时，ＰａａＳ平台则需要为ＳａａＳ服务提取新的底层资源。由于ＩａａＳ层创建新的虚拟机，并部署相应的应用实例是需要时间的，为了能提取恰当的资源，在ＰａａＳ平台的资源分配算法中，需要一些值记录ＩａａＳ层正在为ＳａａＳ服务提取的底层资源。当ＩａａＳ层为ＳａａＳ服务创建的底层资源已经生成时，ＰａａＳ平台则对ＳａａＳ服务与底层资源的映射关系及这些状态值进行更新。同时，根据ＳａａＳ服务的底层资源使用状态，ＰａａＳ平台需要定期对底层资源进行更新，当租户请求减少时，及时释放底层资源，以节省成本。一般而言，ＳａａＳ环境下的资源分配算法包括３个部分。一是在租户请求到来时，对租户请求的处理。在该算法中，当现有的资源不能处理租户请求时，则需要提取新的底层资源。二是定期的对底层资源进行更新。对底层资源的定期更新，是为了在租户请求减少时，及时的释放底层资源，以节省成本。三是当ＩａａＳ层生成了需要提取的新的虚拟机时，ＰａａＳ层对ＳａａＳ服务映射的底层资源及记录正在生成的虚拟机的记录值进行更新。ＳａａＳ提供商与租户需要签订ＳＬＡ协议，以保证ＳａａＳ服务质量，并对违背ＳＬＡ做出赔偿。响应时间是ＳａａＳ服务质量好坏的一个重要标准。ＳＬＡ协议往往需要规定请求响应时间上限，并保证在租户请求中响应时间超出ＳＬＡ响应时间上限的请求量低于某个概率值，如５％，当ＳＬＡ违背的请求量超出该概率值时，对超出的请求做出一定的赔偿。故ＳａａＳ环境下的资源提取算法，需要最小化ＳＬＡ违背，并最小化ＳａａＳ提供商的底层资源成本。
２、资源分配算法
记云平台生成新的虚拟机应用实例的时间为Ｔ，ＳＬＡ规定的响应时间上限为ｔｒ。在ＳａａＳ服务模型下，为了使得被处理的租户请求都能在ｔｒ内得到服务，需要根据虚拟机的处理能力及虚拟机现有的待处理请求数量，对租户请求作请求处理时间预测。虚拟机的处理能力可通过压力测试获得。一个请求到来时，当虚拟机可以在ｔｒ内处理该请求时，则将该请求发送到该虚拟机。当ＳａａＳ服务现有的虚拟机资源都不能保证在ｔｒ内处理该请求时，则放弃当前请求（此时是ＳＬＡ违背），并令ＩａａＳ层生成新的虚拟机应用实例，以适应租户请求的增长。在现实的ＳａａＳ环境下，租户请求的到来是随机离散事件，在模拟环境下，为了方便观察租户请求量变化对底层资源的影响，我们以一个固定时间为间隔来发送租户请求。记请求发送间隔为ｔｓ，并设置ｔｓ＝ｔｒ。即以ｔｒ为间隔来发送请求，并在每个请求发送间隔结束时，对虚拟机进行更新。由于预测处理时间超出ｔｒ的请求被放弃，本文假定请求处理时间预测是有效的，则在ｔｒ时间后虚拟机资源就会完全恢复处理能力。若ｔｓ＜ｔｒ，每次请求发送时，底层资源要以部分处理能力来处理上一次未处理完的请求，而只能以剩余处理能力来处理该次发送的请求，则此时间段放弃的请求量不能真实的反映该时间段内请求量变化对底层资源的影响。若ｔｓ＞ｔｒ，则底层资源在每次请求发送间隔的［ｔｒ，ｔｓ］时间内处于闲置状态。故设置ｔｓ＝ｔｒ时，可以更好的观察请求变化量对底层资源的影响。一个ＳａａＳ应用可以有多个版本，如标准版、专业版和企业版等。以下讨论均指部署为同一个版本的ＳａａＳ应用，并且ＳａａＳ提供商对该版本的ＳａａＳ应用只使用同种类型的虚拟机，即下文所说的所有虚拟机都有相同的处理能力、内存及Ｉ／Ｏ性能等。如引言所述，ＣｏｍｐｉｅｒｅＥＲＰ［６］为每个租户维护单独的虚拟机，并在租户请求拥堵时，可以为各个租户生成新的虚拟机应用实例，以保证服务质量。本文把ＣｏｍｐｉｅｒｅＥＲＰ的资源分配算法作为一个基本的算法进行介绍。然后描述了本文提出的基于服务质量的资源分配算法。
２．１基本算法
我们用ＢａｓｅＡｌｇ来表示基本算法。在该算法中，为各个租户都分别维护了专用虚拟机列表。数组ｔｅｎａｎｔＶｍＣｒｅａｔｉｎｇ［Ｎ］（Ｎ表示租户的数量）表示各个租户是否有新的专用虚拟机正在生成中。各个租户的请求，都只使用该租户的专用虚拟机来处理，当专用虚拟机不能在ｔｒ时间内处理时，则为该租户生成一个新的专用虚拟机。
２．２基于服务质量的资源分配算法
我们用ＱｏＳＢａｓｅｄＡｌｇ来表示本文提出的基于服务质量的资源分配算法。ＳａａＳ服务可分为四级成熟度模型［９］。在第四级ＳａａＳ成熟度模型下，ＳａａＳ服务有规模可伸缩，可定制和多租户效应。通过多租户和定制技术，一个ＳａａＳ服务实例可以为多个租户服务。在ＱｏＳＢａｓｅｄＡｌｇ算法中，在多个租户共用虚拟机应用实例的基础上，将虚拟机分成了两类：公用虚拟机和协调虚拟机，以实现在保障租户的服务质量的基础上，最小化底层资源的成本。本小节首先对虚拟机分类进行介绍，然后对算法进行描述。２．２．１虚拟机分类在算法中，将虚拟机分为两类：公用虚拟机和协调虚拟机。公用虚拟机：是所有租户都可以使用的虚拟机。与基本算法相比，其优势在于可以减少非满负荷运行的虚拟机，从而减少对虚拟机资源的占用。协调虚拟机：当公用虚拟机已满时，则使用协调虚拟机来处理租户请求。协调虚拟机开始使用，则需要生成新的公用虚拟机，以应对租户请求的增长。有多少个协调虚拟机在使用，则需要生成多少个公用虚拟机。ＱｏＳＢａｓｅｄＡｌｇ算法的虚拟机如图３所示。ＱｏＳＢａｓｅｄＡｌｇ算法使用多租户共用虚拟机的方式来处理所有租户的请求，可以高效的使用虚拟机，节省底层资源。不过，多租户共用虚拟机的方式会更容易受到租户请求变化的影响。当租户请求增长时，如不能及时的提取足够的资源，则会造成大量的ＳＬＡ违背。故本文提出了协调虚拟机来处理增长的租户请求，并根据协调虚拟机的使用数量来确定所需要提取的底层资源数量。协调虚拟机机制可以减少及避免租户请求增长时，生成新的虚拟机期间的ＳＬＡ违背。算法描述在ＱｏＳＢａｓｅｄＡｌｇ算法中，用ｐｕｂＶｍＣｒｔＣｎｔ来记录正在生成的公用虚拟机的数量。算法初始值如下：ｐｕｂＶｍＣｒｔＣｎｔ的值为０，公用虚拟机的数量按式（１）来确定，协调虚拟机的数量按式（２）来确定。当一个租户请求ｃ到来时，对租户请求处理的流程如图４所示。对租户请求进行处理的算法ＱｏＳＢａｓｅｄＡｌｇ＿Ｒｅ－ｑｕｅｓｔＳｏｌｖｅ描述如算法４所示。多租户共用虚拟机的方式会更容易受到租户请求变化的影响。在某个时刻租户请求量减少之后，在下一个时刻有可能会增加。如果在租户请求量减少时，立刻释放空的公用虚拟机，在下一个时刻租户请求量增加时，又需要生成新的公用虚拟机，这无疑会增加ＳＬＡ违背的可能性，并影响算法的健壮性。为了防止租户请求量减少了之后再反弹，对虚拟机更新则采用了慢收缩策略，即对所有空闲的公用虚拟机采用超时销毁政策。
３、性能评估
本文通过模拟实验来评估ＱｏＳＢａｓｅｄＡｌｇ算法的性能。在实验中，本文使用ＣｌｏｕｄＳｉｍ［１１］来模拟在ＳａａＳ环境下的资源分配算法。如上节所述，本文假定ＳａａＳ提供商只使用同一种类型的虚拟机，则ＢａｓｅＡｌｇ算法和ＱｏＳＢａｓｅｄＡｌｇ算法中的所有虚拟机都有相同的处理能力、内存及Ｉ／Ｏ性能。在实际情况下，为确定虚拟机在ＳＬＡ响应时间上限内的最大处理能力，需要考虑不同请求类型及其比例。本文的主要目的是验证ＱｏＳＢａｓｅｄＡｌｇ算法的有效性，为简单起见，本文只考虑所有请求都为同一种类型的情况。在性能评估中，主要以ＳＬＡ违背量、ＳＬＡ违背率以及底层资源的使用数量作为评估标准，并在不同的实验环境参数下，对ＢａｓｅＡｌｇ算法和ＱｏＳＢａｓｅｄＡｌｇ算法的实验结果进行比较分析。
３．１性能测试
实验环境的主要配置参数如下：数据中心的每个主机包含４核处理器，１６ＧＢ的ＲＡＭ，每个核的处理能力为１０００ｍｉｐｓ。每个虚拟机的处理能力为２５０ｍｉｐｓ，１ＧＢ的ＲＡＭ。每个服务请求需要处理１５ｍｉｌｌｉｏｎ条指令。响应时间ｔｒ为６ｓ。租户请求发送间隔ｔｒ为６ｓ。ＱｏＳＢａｓｅｄＡｌｇ算法中空虚拟机保留时间为３１ｓ。在模拟环境下，测试得：在６ｓ的响应时间内，ＳａａＳ服务的最大并发处理能力Ｍ为９９个请求。每个租户的初始请求量ｒｉ（ｉ＝１，２，…Ｎ）都为５０个请求。在实验中，本文分别在不同请求变化量、不同虚拟机生成时间、不同的租户数量的实验条件下，对比ＢａｓｅＡｌｇ算法和ＱｏＳＢａｓｅｄＡｌｇ算法的底层资源使用量与ＳＬＡ违背量及ＳＬＡ违背率。为了保证可比性，首先对ＱｏＳＢａｓｅｄＡｌｇ进行实验，在实验中记录每个租户每次发送的请求数量。然后在ＢａｓｅＡｌｇ实验中，按照ＱｏＳＢａｓｅｄＡｌｇ中记录的每个租户每次的请求发送量，来发送租户请求。在下面的每个实验条件下，对每个实验都重复５次，每次实验的实验时间为半个小时。在每次实验中，取平均虚拟机使用量作为底层资源（虚拟机）使用量的衡量标准，即各个请求发送间隔内的虚拟机使用量的总和与请求发送间隔总数量之比；ＳＬＡ违背量则取每次实验中放弃的请求的总数量；ＳＬＡ违背率取每次实验中放弃的总的请求量与总的请求发送量之比。每个实验条件下，虚拟机使用量、ＳＬＡ违背量及ＳＬＡ违背率都取５次实验的平均值作为最终的评估标准。３．１．１不同请求变化量对实验的影响在实验下，主要看不同的租户请求变化量对实验的影响。设置租户数量Ｎ为２００，虚拟机生成时间Ｔ为４０ｓ。请求变化量分别设置为ｎ＝４、８、１２、１６、２０时，对比ＢａｓｅＡｌｇ与ＱｏＳＢａｓｅｄＡｌｇ算法。初始时，在ＢａｓｅＡｌｇ实验中有２００个专用虚拟机。初始时在各个实验中都有，ｒｉ＝５０（ｉ＝１，２，…Ｎ），Ｍ＝９９，Ｎ＝２００，由式（１）得ＱｏＳ－ＢａｓｅｄＡｌｇ的公用虚拟机Ｊ都为１０２；当ｎ＝４时，Ｔ＝４０，Ｎ＝２００，Ｍ＝９９，ｔｒ＝６ｓ，代入式（２）计算得协调虚拟机数量Ｋ为３。类似地，当ｎ分别为８、１２、１６、２０时由式（２）可计算得协调虚拟机的数量Ｋ分别为５、７、９、１１。实验结果见表１。源的使用量，并且ＱｏＳＢａｓｅｄＡｌｇ算法在各次实验中的ＳＬＡ违背率低于１％。同时，ＱｏＳＢａｓｅｄＡｌｇ算法的ＳＬＡ违背量也随请求变化量的增长而增长。由２．２．１节的分析可知，当各个租户的请求变化量ｎ更大时，在新的虚拟机生成期间，总的请求变化量Ｙ有更大的变化区间，故会有更多的ＳＬＡ违背。３．１．２不同虚拟机生成时间对实验的影响在实验下，主要看不同虚拟机生成时间对实验的影响。设置租户数量Ｎ为２００，请求变化量ｎ设置为１２。虚拟机生成时间Ｔ分别为２０、３０、４０、５０、６０时，对比ＢａｓｅＡｌｇ与ＱｏＳＢａｓｅｄＡｌｇ算法。初始时，在ＢａｓｅＡｌｇ实验中有２００个专用虚拟机。初始时，由式（１）得ＱｏＳＢａｓｅｄＡｌｇ的公用虚拟机数量Ｊ都为１０２；由式（２）计算得协调虚拟机数量Ｋ分别为５、６、７、８、８。实验结果见表２。从实验结果中可以得出，在不同的虚拟机生成时间条件下，ＱｏＳＢａｓｅｄＡｌｇ算法都比ＢａｓｅＡｌｇ有更少的ＳＬＡ违背及底层资源的使用量，并且ＱｏＳＢａｓｅｄＡｌｇ算法在各次实验中的ＳＬＡ违背率低于１％。ＱｏＳＢａｓｅｄＡｌｇ算法的ＳＬＡ违背量受虚拟机生成时间变化的影响并不是很明显。３．１．３不同租户数量对实验的影响在实验下，主要看不同租户数量对实验的影响。设置请求变化量ｎ为１２，虚拟机生成时间Ｔ为４０ｓ。租户数量Ｎ分别为５０、１００、２００、３００、４００、５００时，对比ＢａｓｅＡｌｇ与ＱｏＳＢａｓｅｄＡｌｇ算法。初始时，在各次实验中，ＢａｓｅＡｌｇ算法的专用虚拟机数量分别为５０、１００、２００、３００、４００、５００。初始时，在各次实验中，由式（１）得ＱｏＳＢａｓｅｄＡｌｇ算法的公用虚拟机的数量Ｊ分别为２６、５１、１０２、１５２、２０３、２５３；由式（２）计算得协调虚拟机数量Ｋ分别为４、５、７、９、１０、１１。实验结果见表３．从实验结果中可以得出，在不同租户数量条件下，ＱｏＳＢａｓｅｄＡｌｇ算法都比ＢａｓｅＡｌｇ有更少的ＳＬＡ违背及底层资源的使用量，并且ＱｏＳＢａｓｅｄＡｌｇ算法在各次实验中的ＳＬＡ违背率低于１％。同时，ＱｏＳＢａｓｅｄＡｌｇ算法的ＳＬＡ违背量也随请求变化量的增长而增长。由２．２．１节的分析可知，当租户数量Ｎ更大时，在新的虚拟机生成期间，总的请求变化量Ｙ有更大的变化区间，故会有更多的ＳＬＡ违背。
３．２实验分析及算法改进
从实验结果中可以得出，与ＢａｓｅＡｌｇ算法相比，ＱｏＳ－ＢａｓｅｄＡｌｇ算法使用更少的底层资源，达到了更少的ＳＬＡ违背。并且在每一次实验中，ＱｏＳＢａｓｅｄＡｌｇ算法的ＳＬＡ违背率都低于１％，各个实验条件下，其平均ＳＬＡ违背率甚至都低于１‰。实验结果表明，在ＱｏＳＢａｓｅｄＡｌｇ算法中，使用多租户共用虚拟机的方式可以有效地节省底层资源，协调虚拟机机制和慢收缩策略可以有效地减少ＳＬＡ违背及改进服务质量。通过实验可以得到，在请求变化量更大、虚拟机生成时间更长、租户数量更多时，ＱｏＳＢａｓｅｄＡｌｇ算法也趋向于产生更多的ＳＬＡ违背。一方面，由于实际的租户请求量不可能为负数，故在每次请求发送时，对于请求量ｒ小于ｎ的租户，则在下一次请求发送时，这些租户的实际请求发送量只能在［－ｒ，ｎ］之间变化，而不是在［－ｎ，ｎ］之间随机变化。因此在实验中，每次发送租户请求时，总的租户请求发送量往往呈现增长的趋势。从实验结果来看，ＱｏＳＢａｓｅｄＡｌｇ算法这种请求增长趋势具有一定的适应能力。另一方面，虽然在协调虚拟机数量满足式（２）的条件下，Ｙ的数量超出协调虚拟机处理能力的概率为０．８２％，但仍然有可能会超出协调虚拟机处理能力。当请求变化量更大、虚拟机生成时间更长、租户数量更多时，在虚拟机生成时间内总的租户请求变化量Ｙ有更大的变化区间，超出协调虚拟机处理能力的请求量会更大，故ＳＬＡ违背量也更大。需要指出的是，ＱｏＳＢａｓｅｄＡｌｇ算法的核心就是确定协调虚拟机的数量，因为它决定着是否能及时提取恰好足够的资源来为租户服务。如果协调虚拟机的数量相对不足，而实际的租户请求变化量较极端的情况下，仍然会有可能出现ＳＬＡ违背率超出ＳＬＡ违背赔偿率的情况。
４、结束语
本文提出的资源分配算法，利用ＳａａＳ应用的多租户特性，在各个租户共用虚拟机资源的基础上，将虚拟机分为两类：公用虚拟机和协调虚拟机。通过公用虚拟机为多个租户服务，以节省底层资源；通过协调虚拟机来处理增长的租户请求，并根据其使用状态来提取适当的资源。本文采用慢收缩策略以防止租户请求量减少之后再反弹。对照实验结果表明，本文提出的资源分配算法可以最小化ＳＬＡ违背及底层资源使用量。根据实辽宁职称验结果，对算法提出了进一步控制ＳＬＡ违背并改进服务质量的方法。
作者：张志超 彭蓉 黄华 单位：武汉大学计算机学院 软件工程国家重点实验室 景德镇陶瓷学院
相关专题：原子核 小学教师个人工作总结
