容器定义存储(CDS)—春江水暖"Portworx"先知
 

 ICT架构师技术交流 2016-09-09 20:08 
 
 
 
 
  
 
  
在上篇中，我们已经介绍了容器如何改变应用部署方式、为什么要通过CDS实现数据中心"轻量化"。那今天我们就来分析一下基于容器的Portworx存储、一个基于数据和控制面的容器定义存储技术和产品。
 
  
Portworx是一家美国存储初创公司，它研发了业界第一个容器定义存储系统Portworx。Portworx提供了全新的、统一的Scale out存储栈，其核心架构是共享的、松耦合的、分布式、基于元数据的块存储层(卷、块设备、全局共享卷和文件访问等)。portworx本身作为容器服务的方式部署，在每个集群节点呈现为PX的容器。
 
  
Portworx架构和原理
 
  
每个PX容器来识别服务器节点的硬件、检测磁盘类型、容量和整体服务能力和类型。系统根据每个节点的能力匹配业务对存储需求，进行调度和IO分发。
 
  
每个PX容器根据授权和集群ID发现其他节点。通过这种方式，每一个PX节点就可以感知整个存储系统的拓扑结构和参与集群的节点(支持数据中心内部和跨数据中心部署)。通过整体拓扑就可以感知整个集群的Region、机架部署情况，当然，也可以感知集群内不同节点的能力。
 
  
 
  
集群节点信息同步采用Gossip协议(类似留言蜚语，节点状态的变化，通过一传十，十传百的方式传递，而不是有某几个节点逐一传递)，通过效率比较高的协议确保整个集群状态的一致性，而且不会存在扩展性或性能瓶颈。
 
  
 
  
存储控制面
 
  
存储的供给方式是通过容调度器来实现，存储资源通过编排网络分配给具体的容器实例，PX已经支持与多种容器调度、编排工具集成，如主流的Kubernetes、Swarm、Mesosphere、Spark等，PX通过控制面协议创建合适的存储卷给上层容器实例使用，基于应用容器的IO等SLA要求，PX可以自动分配满足要求的存储卷。在Kubernetes调度器中，存储卷是以Kubernetes POD的方式提供给应用容器。
 
  
卷是以Thin的方式来分配的，可以做到按需灵活伸缩。每个卷的容量是打散在集群节点上的，所以增值特性如，快照、块大小等都可以容器卷的原则来分配。
 
  
 
  
数据面访问
 
  
Portworx提供数据访问路径和位置，一旦把卷配置给正在运行的应用容器后，PX就处在数据路径的位置；并根据上层容器应用对应的储类型(卷、块设备或全局共享卷等)连接到上层容器上。
 
  
 
  
当上层应用容器写入数据时，数据块和对应的元数据会根据算法分布到不同的节点上增强可靠性。这些卷是容器可寻址卷，可以基于容器寻址，所以具备内容寻址存储的优势。
 
  
生命周期管理
 
  
每个PX容器维护着应用容器卷的生命周期管理，这些卷可以被克隆、分级存储、或移动到S3公有云上。PX同时维护着每个卷的IO活动历史记录，并向上提供CLI和PXctl命令接口和GUI界面，方便运营维护和系统管理。
 
  
Portworx应用场景
 
  
Portworx由于在存储容器层针对企业应用做了优化和增强，所以，可以满足主流应用要求，如Hadoop、Spark大数据存储，提供弹性Scale out能力；对内容管理WordPress，可以提供Scale out 文件能力和基于容器的备份；也支持一些如Cassandra、Postgres等非关系数据库；另外，对流计算、视频应用场景也支持PB级的扩展能力。
 
  
Portworx提供了业界第一个存储解决方案专为容器。不像传统存储，Portworx容器定义存储是基于应用需求规模实现弹性伸缩。面向容器化应用的软件定义存储，强调Container Defined Storage，实现从控制面到数据面完整的方案，Portworx提出“容器定义的存储”，相比VM存储提出更细SLA要求、容器粒度的企业存储特性要求，容器应用对存储的新要求需要进一步分析。
 
  
Portworx其在Docker Hub中有OpenStorage开源项目；另外，提供了开发者和企业级两个版本，开发者版本只包含基于容器的Scale out快存储、分布式的文件访问、基于容器粒度的控制和CLI命令行界面；企业版增加了多集群管理、单一文件命名空间、容量预测和管理、GUI管理界面。
 
  
 
  
Portworx可运行于服务器或EC2、容器等基础设施，并且支持分离部署和超融合部署，Portworx的主要亮点简单总结如下:
 
  
 
性能无损: 存储运行性能可以和裸金属部署媲美。
 
 
存储持久能力: 对容器应用提供了持久数据存储能力。
 
 
容器粒度管理: 实现了基于每个应用容器的存储管理服务。
 
 
容器粒度增值特性: 基于容器粒度实现远程复制、快照等数据保护功能
 
 
节约硬件资源: 相对于虚拟机，削减了存储70%硬件和资源成本。
 
 
资源自动化供给: 能应对容器应用突发需求，如容量供给、自动调度等，基于容器I/O进行优先级排队，基于SLA自动供给。
 
 
  
Portworx容器定义存储本身很简单，采用基本的分布式方法和商业X86硬件作为融合存储节点，并能实现节点快速伸缩。最主要的就是可以与任何一个Docker调度集成，自动实现存储资源按需供给。
 
  
 
  
Portworx从控制面和数据面完整地为容器提供存储，数据面供给能力更高、更快、更强；控制面可以广泛对接Docker、Kubernetes、Mesos等计算与集群管理系统。如vSAN/vVol/Cinder，这种比较开放的架构，可以通过PWX CDS 控制器构建面向容器控制面生态。
 
  

 
 
  

   Portworx认为容器定义存储应具备这些能力(个人观点，可能不是太全面)：
 1.容器定义存储应该分控制面和数据面实现，控制面基于 Kubernetes、Swarm、Mesosphere、Spark等 容器调度、编排工具自动实现存储分配，满足应用容器的SLA要求；数据面提供更高、更快、更强的存储供给能力，并可以实现基于应用容器寻址的能力。
 2.应用容器卷的分配、管理应该是以容器为单位， 所有增值特性如，快照、远程复制等都基于容器的原则来实现。
 3.容器定义存储应该是高度自愈、轻量高效、应用容器感知的系统。自愈、高效我觉得传统存储都具备，但是轻量、容器感知还需要加强。Portworx采用容器实现分布式Scale out容器定义存储，可以提供裸金属性能、启动快和资源占用率低等特点。
 
 
 
  
 
  
文章来自ICT架构师技术交流“ICT_Architect”公众号，关注获取更多精彩内容。
 
  

 
 
  
温馨提示：
 
  
请搜索“ICT_Architect”或“扫一扫”下面二维码关注公众号，获取更多精彩内容。
 
  
 
 
 

 今天我们就来分析一下基于容器的Portworx存储、一个基于数据和控制面的容器定义存储技术和产品。
 
 Portworx是一家美国存储初创公司，它研发了业界第一个容器定义存储系统Portworx。Portworx提供了全新的、统一的Scale out存储栈，其核心架构是共享的、松耦合的、分布式、基于元数据的块存储层(卷、块设备、全局共享卷和文件访问等)。portworx本身作为容器服务的方式部署，在每个集群节点呈现为PX的容器。
 
 Portworx架构和原理
 
 每个PX容器来识别服务器节点的硬件、检测磁盘类型、容量和整体服务能力和类型。系统根据每个节点的能力匹配业务对存储需求，进行调度和IO分发。
 
 每个PX容器根据授权和集群ID发现其他节点。通过这种方式，每一个PX节点就可以感知整个存储系统的拓扑结构和参与集群的节点(支持数据中心内部和跨数据中心部署)。通过整体拓扑就可以感知整个集群的Region、机架部署情况，当然，也可以感知集群内不同节点的能力。
 
 
 
 集群节点信息同步采用Gossip协议(类似留言蜚语，节点状态的变化，通过一传十，十传百的方式传递，而不是有某几个节点逐一传递)，通过效率比较高的协议确保整个集群状态的一致性，而且不会存在扩展性或性能瓶颈。
 
 
 
 存储控制面
 
 存储的供给方式是通过容调度器来实现，存储资源通过编排网络分配给具体的容器实例，PX已经支持与多种容器调度、编排工具集成，如主流的Kubernetes、Swarm、Mesosphere、Spark等，PX通过控制面协议创建合适的存储卷给上层容器实例使用，基于应用容器的IO等SLA要求，PX可以自动分配满足要求的存储卷。在Kubernetes调度器中，存储卷是以Kubernetes POD的方式提供给应用容器。
 
 卷是以Thin的方式来分配的，可以做到按需灵活伸缩。每个卷的容量是打散在集群节点上的，所以增值特性如，快照、块大小等都可以容器卷的原则来分配。
 
 
 
 数据面访问
 
 Portworx提供数据访问路径和位置，一旦把卷配置给正在运行的应用容器后，PX就处在数据路径的位置；并根据上层容器应用对应的储类型(卷、块设备或全局共享卷等)连接到上层容器上。
 
 
 
 当上层应用容器写入数据时，数据块和对应的元数据会根据算法分布到不同的节点上增强可靠性。这些卷是容器可寻址卷，可以基于容器寻址，所以具备内容寻址存储的优势。
 
 生命周期管理
 
 每个PX容器维护着应用容器卷的生命周期管理，这些卷可以被克隆、分级存储、或移动到S3公有云上。PX同时维护着每个卷的IO活动历史记录，并向上提供CLI和PXctl命令接口和GUI界面，方便运营维护和系统管理。
 
 Portworx应用场景
 
 Portworx由于在存储容器层针对企业应用做了优化和增强，所以，可以满足主流应用要求，如Hadoop、Spark大数据存储，提供弹性Scale out能力；对内容管理WordPress，可以提供Scale out 文件能力和基于容器的备份；也支持一些如Cassandra、Postgres等非关系数据库；另外，对流计算、视频应用场景也支持PB级的扩展能力。
 
 Portworx提供了业界第一个存储解决方案专为容器。不像传统存储，Portworx容器定义存储是基于应用需求规模实现弹性伸缩。面向容器化应用的软件定义存储，强调Container Defined Storage，实现从控制面到数据面完整的方案，Portworx提出“容器定义的存储”，相比VM存储提出更细SLA要求、容器粒度的企业存储特性要求，容器应用对存储的新要求需要进一步分析。
 
 Portworx其在Docker Hub中有OpenStorage开源项目；另外，提供了开发者和企业级两个版本，开发者版本只包含基于容器的Scale out快存储、分布式的文件访问、基于容器粒度的控制和CLI命令行界面；企业版增加了多集群管理、单一文件命名空间、容量预测和管理、GUI管理界面。
 
 
 
 Portworx可运行于服务器或EC2、容器等基础设施，并且支持分离部署和超融合部署，Portworx的主要亮点简单总结如下:
 
 
 性能无损: 存储运行性能可以和裸金属部署媲美。
 
 
 存储持久能力: 对容器应用提供了持久数据存储能力。
 
 
 容器粒度管理: 实现了基于每个应用容器的存储管理服务。
 
 
 容器粒度增值特性: 基于容器粒度实现远程复制、快照等数据保护功能
 
 
 节约硬件资源: 相对于虚拟机，削减了存储70%硬件和资源成本。
 
 
 资源自动化供给: 能应对容器应用突发需求，如容量供给、自动调度等，基于容器I/O进行优先级排队，基于SLA自动供给。
 
 
 Portworx容器定义存储本身很简单，采用基本的分布式方法和商业X86硬件作为融合存储节点，并能实现节点快速伸缩。最主要的就是可以与任何一个Docker调度集成，自动实现存储资源按需供给。
 
 
 
 Portworx从控制面和数据面完整地为容器提供存储，数据面供给能力更高、更快、更强；控制面可以广泛对接Docker、Kubernetes、Mesos等计算与集群管理系统。如vSAN/vVol/Cinder，这种比较开放的架构，可以通过PWX CDS 控制器构建面向容器控制面生态。
 
 
 
 

 Portworx认为容器定义存储应具备这些能力(个人观点，可能不是太全面)：
 1.容器定义存储应该分控制面和数据面实现，控制面基于 Kubernetes、Swarm、Mesosphere、Spark等 容器调度、编排工具自动实现存储分配，满足应用容器的SLA要求；数据面提供更高、更快、更强的存储供给能力，并可以实现基于应用容器寻址的能力。
 2.应用容器卷的分配、管理应该是以容器为单位， 所有增值特性如，快照、远程复制等都基于容器的原则来实现。
 3.容器定义存储应该是高度自愈、轻量高效、应用容器感知的系统。自愈、高效我觉得传统存储都具备，但是轻量、容器感知还需要加强。Portworx采用容器实现分布式Scale out容器定义存储，可以提供裸金属性能、启动快和资源占用率低等特点。
 
 
 

 
 

Kubernetes 1.5 实践 给Pod中的容器定义命令和参数
 
defining a Command and Arguments for a Container 
 给容器定义一个命令和参数。
 
This page shows how to define commands and arguments when you run a container in a Kubernetes Pod. 
 这篇文章展示当运行kubernetes pod的时候，如何给容器定义命令和参数。
 
When you create a Pod, you can define a command and arguments for the containers that run in the Pod. To define a command, include the command field in the configuration file. To define arguments for the command, include the args field in the configuration file. The command and arguments that you define cannot be changed after the Pod is created. 
 当创建Pod的时候，我们可以给这个Pod中的容器定义命令和参数。 定义命令，需要在配置文件中加入command标签。为这个命令定义参数，需要加入args标签。当Pod创建好了以后，定义好的命令和参数不可以被变更和修改。
 
The command and arguments that you define in the configuration file override the default command and arguments provided by the container image. If you define args, but do not define a command, the default command is used with your new arguments. For more information, see Commands and Capabilities. 
 如果在容器的镜像中定义了命令和参数，那么如果在配置文件中再次定义，则镜像中定义的命令和参数会被覆盖。如果只定义了参数，没有定义命令，那么默认的命令会使用新定义的参数。更多的信息，查看Commands和Capabilities.
 
In this exercise, you create a Pod that runs one container. The configuration file for the Pod defines a command and two arguments: 
 在这个练习中，会创建一个运行了一个容器的Pod。在配置文件中配置的Pod定义了一个命令和两个参数： 
 commands.yaml 
 
apiVersion: v1
kind: Pod
metadata:
  name: command-demo
  labels:
    purpose: demonstrate-command
spec:
  containers:
  - name: command-demo-container
    image: debian
    command: ["printenv"]
    args: ["HOSTNAME", "KUBERNETES_PORT"]
 
Create a Pod based on the YAML configuration file:
通过yaml配置文件创建Pod:
 
     kubectl create -f http://k8s.io/docs/tasks/configure-pod-container/commands.yaml
 
List the running Pods:
查看运行的Pods:
 
     kubectl get pods
 
The output shows that the container that ran in the command-demo Pod has completed.
输出可以查看到容器已经在command-demo pod中已经完成。

To see the output of the command that ran in the container, view the logs from the Pod:
查看容器的输出结果，输出Pod的日志：
 
     kubectl logs command-demo
 
The output shows the values of the HOSTNAME and KUBERNETES_PORT environment variables:
输出显示出HOSTNAME和KUBERNETES_PORT两个环境变量的值
 
     command-demo
     tcp://10.3.240.1:443
 
Using environment variables to define arguments 
 使用环境变量来定义参数 
 In the preceding example, you defined the arguments directly by providing strings. As an alternative to providing strings directly, you can define arguments by using environment variables:
 
env: 
 - name: MESSAGE 
 value: “hello world” 
 command: [“/bin/echo”] 
 args: [“$(MESSAGE)”]
 
This means you can define an argument for a Pod using any of the techniques available for defining environment variables, including ConfigMaps and Secrets.
 
NOTE: The environment variable appears in parentheses, “$(VAR)”. This is required for the variable to be expanded in the command or args field. 
 Running a command in a shell
 
In some cases, you need your command to run in a shell. For example, your command might consist of several commands piped together, or it might be a shell script. To run your command in a shell, wrap it like this:
 
command: [“/bin/sh”] 
 args: [“-c”, “while true; do echo hello; sleep 10;done”]

一、顺序容器的定义

         容器是容纳特定类型对象的集合。这种容器根据位置来存储和访问元素。就是顺序容器

 

 二、容器适配器

    根据原始的容器类型所提供的操作，通过定义新的操作接口，来适应基础的容器类型

 

 
三、顺序容器的类型和容器适配器
 
 
 
顺序容器
 
 
 
 
 
容器适配器
 
 
 
 
 
vector
 
 
支持快速随机访问
 
 
stack
 
 
后进先出(LIFO)
 
 
list
 
 
支持快速插入/删除
 
 
queue
 
 
先进先出(FIFO)
 
 
deque
 
 
双端队列
 
 
priority_queue
 
 
有优先级管理的队列
 
 

 四、容器的定义

     所有的容器都是类模板，要定义一种特殊的容器，必须实例化

 
    vector<string> vs;
    list<int> li;
    deque<float> df;
五、容器的构造函数

   
 
C<T> c;
 
 
创建一个名为c的空容器。C是容器类型名,如vector,T是元素类型,如int或string适用于所有容器
 
 
C c(c2);
 
 
创建容器c2的副本c;c和c2必须具有相同的容器类型,并存放相同类型的元素。适用于所有容器。
 
 
C c(b,e);
 
 
创建c,其元素是迭代器b和e标示的范围内元素的副本。
 
适用于所有容器
 
 
C c(n, t);
 
 
用n个值为t的元素创建容器c,其中值t必须是容器类型C的元素类型的值,或者是可转换为该类型的值。
 
只适用于顺序容器
 
 
C c(n);
 
 
创建有n个值初始化元素的容器c
 
只适用于顺序容器
 
 注意事项：

     1、将一个容器初始化给另一个容器的副本

     要求：容器类型和元素类型必须相同

     2、初始化一段元素的副本

     系统允许通过传递一对迭代器间接实现将一种容器内的元素赋值给另一种容器

     不要求类型相同和大小相同

 
    vector<string> vs;
    list<int> li;
    deque<float> df;

    list<string> tls(vs.begin(),vs.end());

    deque<float>::iterator mid = df.begin()+df.size()/2;

    list<string> lst(mid,df.end());

     3、分配和初始化指定书目的元素

     创建容器时，可以显式指定容器的大小和一个可选的初始值

 
const list<int>::size_type list_size = 100;
list<string> slist(list_size,"hhh");

     4、不提供元素初始值时，标准库将为该容器实现值初始化。但这种初始化有限制，元素的类型必须是内置或复合类型，或者提供了默认构造函数的类类型。如果没有默认构造函数，必须显式的指定其元素初始化值

     5、只有顺序容器接受容器大小做形参的构造函数

     6、c++语言容器的元素类型

         必须支持赋值运算 

         元素类型的对象必须可以复制

     7、容器的容器

 
  vector<vector<int>> lines;
六、迭代器的运算
 
 
 
所有标准库都提供的迭代器运算
 
 
*iter
 
 
返回迭代器iter所指向的元素的引用
 
 
iter-> mem
 
 
对iter进行解引用,获取指定元素中名为mem的成员。等效于(*iter).mem
 
 
++iter/iter++
 
 
给iter加1,使其指向容器里的下一个元素
 
 
--iter/iter--
 
 
给iter减1,使其指向容器里的前一个元素
 
 
iter1== iter2
 
iter1!= iter2
 
 
比较两个迭代器是否相等(或不等)。当两个迭代器指向同一个iter2容器中的同一个元素,或者当它们都指向同一个容器的超出末端iter1!=的下一位置时,两个迭代器相等.