# Kubernetes部署

# 1.Kubernetes部署

Ignite集群可以容易地在Kubernetes环境中部署和维护,Kubernetes是一个开源的系统,可以自动化地部署、伸缩以及管理容器化的应用。

本文档会引导用户将Ignite部署进Kubernetes环境,还会涉及一些与Ignite有关的特殊性内容。 首先要确定Ignite的开发和使用方式:

  • 如果使用纯内存方式或者作为第三方数据库(RDBMS, NoSQL)的缓存层,那么需要遵照无状态部署的相关文档;
  • 如果Ignite作为内存数据库,并且开启了持久化,那么需要遵照有状态部署的相关文档。

如果希望将Kubernetes部署在具体的云环境中,那么需要参照下面的文档:

  • Microsoft Azure部署
  • Google Cloud部署

# 2.常规配置

# 2.1.无状态部署

如果使用纯内存方式或者作为第三方数据库(RDBMS, NoSQL)的缓存层,那么需要将其按照无状态的解决方案进行部署。

# 2.1.1.要求

确保如下事项已经完成

  • 环境中已经部署了Kubernetes集群;
  • 已经配置了RBAC授权;
  • 已经部署了Ignite服务;

# 2.1.2.Kubernetes IP探测器

要开启Kubernetes环境下Ignite节点的自动发现,需要在IgniteConfiguration中启用TcpDiscoveryKubernetesIpFinder,下面会创建一个名为example-kube-rbac.xml的配置文件,然后像下面这样定义相关的配置:

<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
       xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
       xmlns:util="http://www.springframework.org/schema/util"
       xsi:schemaLocation="
        http://www.springframework.org/schema/beans
        http://www.springframework.org/schema/beans/spring-beans.xsd
        http://www.springframework.org/schema/util
        http://www.springframework.org/schema/util/spring-util.xsd">

<bean class="org.apache.ignite.configuration.IgniteConfiguration">
  <property name="discoverySpi">
    <bean class="org.apache.ignite.spi.discovery.tcp.TcpDiscoverySpi">
      <property name="ipFinder">
         <bean class="org.apache.ignite.spi.discovery.tcp.ipfinder.kubernetes.TcpDiscoveryKubernetesIpFinder">
           <property name="namespace" value="ignite"/>
         </bean>
      </property>
    </bean>
  </property>
</bean>
</beans>
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22

下面,就可以为Ignite配置组准备一套Kubernetes环境然后部署了。

# 2.1.3.Ignite配置组部署

最后,需要为Ignite配置组定义一个yaml格式配置文件。

ignite-deployment.yaml:

# An example of a Kubernetes configuration for Ignite pods deployment.
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
  # Custom Ignite cluster's name.
  name: ignite-cluster
spec:
  # A number of Ignite pods to be started by Kubernetes initially.
  replicas: 2
  template:
    metadata:
      labels:
        app: ignite
    spec:
      containers:
        # Custom Ignite pod name.
      - name: ignite-node
        image: apacheignite/ignite:2.5.0
        env:
        - name: OPTION_LIBS
          value: ignite-kubernetes
        - name: CONFIG_URI
          value: https://raw.githubusercontent.com/apache/ignite/master/modules/kubernetes/config/example-kube-persistence.xml
        ports:
        # Ports to open.
        # Might be optional depending on your Kubernetes environment.
        - containerPort: 11211 # REST port number.
        - containerPort: 47100 # communication SPI port number.
        - containerPort: 47500 # discovery SPI port number.
        - containerPort: 49112 # JMX port number.
        - containerPort: 10800 # SQL port number.
        - containerPort: 10900 # Thin clients port number.
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32

如上所示,该配置定义了一组环境变量(OPTION_LIBSCONFIG_URIL),Ignite的Docker镜像使用的一个shell脚本会用到它。Docker镜像的完整配置参数列表可以查看Docker部署的相关章节。

Ignite Docker镜像版本

Kubernetes支持Ignite的1.9及其以后的版本,一定要使用有效的Docker镜像版本,完整的标签列表在这里

下一步,在Kubernetes中使用上述的配置部署Ignite配置组:

kubectl create -f ignite-deployment.yaml
1

检查配置组是否启动运行:

kubectl get pods
1

选择一个可用的配置组的名字:

NAME                              READY     STATUS    RESTARTS   AGE
ignite-cluster-3454482164-d4m6g   1/1       Running   0          25m
ignite-cluster-3454482164-w0xtx   1/1       Running   0          25m
1
2
3

可以获取日志,确认配置组之间可以在集群内相互发现:

kubectl logs ignite-cluster-3454482164-d4m6g
1

# 2.1.4.调整Ignite集群大小

可以使用标准的Kubernetes API随时调整Ignite集群的大小。比如,如果想把集群从2个节点扩容到5个节点,那么可以使用下面的命令:

kubectl scale --replicas=5 -f ignite-deployment.yaml
1

再次检查集群已经成功扩容:

kubectl get pods
1

输出会显示有5个配置组正在运行:

NAME                              READY     STATUS    RESTARTS   AGE
ignite-cluster-3454482164-d4m6g   1/1       Running   0          34m
ignite-cluster-3454482164-ktkrr   1/1       Running   0          58s
ignite-cluster-3454482164-r20f8   1/1       Running   0          58s
ignite-cluster-3454482164-vf8kh   1/1       Running   0          58s
ignite-cluster-3454482164-w0xtx   1/1       Running   0          34m
1
2
3
4
5
6

# 2.1.5.在Microsoft Azure环境中部署

参照Microsoft Azure环境部署相关章节。

# 2.1.6.在Amazon AWS环境中部署

参照AWS环境部署相关内容。

# 2.1.7.在OpenShift环境中部署

对于使用Docker容器的Kubernetes,OpenShift也是支持的,但是它有自己的RBAC(基于角色的访问控制)特性,这与Kubernetes直接提供的机制不完全兼容,这也是为什么部分命令会导致拒绝访问错误的原因,这时就需要一些额外的配置,如下:

1.使用OpenShift的CLI创建一个具有view角色的服务账户;

$ oc create sa ignite
$ oc policy add-role-to-user view system:serviceaccount:<project>:ignite
1
2

注意,<project>是OpenShift的项目名。 2.指定TcpDiscoveryKubernetesIpFinder的namespace参数;

<bean id="ignite.cfg" class="org.apache.ignite.configuration.IgniteConfiguration">
    <property name="discoverySpi">
        <bean class="org.apache.ignite.spi.discovery.tcp.TcpDiscoverySpi">
            <property name="ipFinder">
                <bean class="org.apache.ignite.spi.discovery.tcp.ipfinder.kubernetes.TcpDiscoveryKubernetesIpFinder">
                    <!-- Set a project name as the namespace. -->
                    <property name="namespace" value="<project>"/>
                </bean>
            </property>
        </bean>
    </property>
</bean>
1
2
3
4
5
6
7
8
9
10
11
12

3.在部署配置中添加serviceAccountName

apiVersion: v1
kind: DeploymentConfig
metadata:
  name: ignite-cluster
spec:
  # Start two Ignite nodes by default.
  replicas: 2
  template:
    metadata:
      labels:
        app: ignite
    spec:
      serviceAccountName: ignite
    ...
1
2
3
4
5
6
7
8
9
10
11
12
13
14

# 2.2.有状态部署

如果Ignite部署为内存数据库,并且打开了原生持久化,那么就需要按照有状态的解决方案进行部署。

# 2.2.1.要求

确保如下事项已经完成

  • 环境中已经部署了Kubernetes集群;
  • 已经配置了RBAC授权;
  • 已经部署了Ignite服务;

# 2.2.2.Kubernetes IP探测器

要开启Kubernetes环境下Ignite节点的自动发现,需要在IgniteConfiguration中启用TcpDiscoveryKubernetesIpFinder,下面会创建一个名为example-kube-persistence.xml的配置文件,然后像下面这样定义相关的配置:

<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
       xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
       xmlns:util="http://www.springframework.org/schema/util"
       xsi:schemaLocation="
        http://www.springframework.org/schema/beans
        http://www.springframework.org/schema/beans/spring-beans.xsd
        http://www.springframework.org/schema/util
        http://www.springframework.org/schema/util/spring-util.xsd">

<bean class="org.apache.ignite.configuration.IgniteConfiguration">
 <!-- Enabling Apache Ignite Persistent Store. -->
  <property name="dataStorageConfiguration">
    <bean class="org.apache.ignite.configuration.DataStorageConfiguration">
      <property name="defaultDataRegionConfiguration">
        <bean class="org.apache.ignite.configuration.DataRegionConfiguration">
          <property name="persistenceEnabled" value="true"/>
        </bean>
       </property>
     </bean>
   </property>

 <!-- Explicitly configure TCP discovery SPI to provide list of initial nodes. -->
<property name="discoverySpi">
  <bean class="org.apache.ignite.spi.discovery.tcp.TcpDiscoverySpi">
    <property name="ipFinder">
    <!--
     Enables Kubernetes IP finder and setting custom namespace name.
     -->
      <bean class="org.apache.ignite.spi.discovery.tcp.ipfinder.kubernetes.TcpDiscoveryKubernetesIpFinder">
        <property name="namespace" value="ignite"/>
      </bean>
    </property>
  </bean>
</property>
</bean>
</beans>
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37

该配置开启了Ignite的原生持久化,确保数据能够保存在磁盘上。

下面,就可以为Ignite配置组准备一套Kubernetes环境然后部署了。

# 2.2.3.有状态集部署

最后,需要为Ignite有状态集定义一个YAML格式配置文件:

apiVersion: apps/v1beta2
kind: StatefulSet
metadata:
  name: ignite
  namespace: ignite
spec:
  selector:
    matchLabels:
      app: ignite
  serviceName: ignite
  replicas: 2
  template:
    metadata:
      labels:
        app: ignite
    spec:
      serviceAccountName: ignite
      containers:
      - name: ignite
        image: apacheignite/ignite:2.5.0
        env:
        - name: OPTION_LIBS
          value: ignite-kubernetes,ignite-rest-http
        - name: CONFIG_URI
          value: https://raw.githubusercontent.com/apache/ignite/master/modules/kubernetes/config/example-kube-persistence.xml
        - name: IGNITE_QUIET
          value: "false"
        - name: JVM_OPTS
          value: "-Djava.net.preferIPv4Stack=true"
        ports:
        - containerPort: 11211 # JDBC port number.
        - containerPort: 47100 # communication SPI port number.
        - containerPort: 47500 # discovery SPI port number.
        - containerPort: 49112 # JMX port number.
        - containerPort: 10800 # SQL port number.
        - containerPort: 8080 # REST port number.
        - containerPort: 10900 #Thin clients port number.
        volumeMounts:
        - mountPath: "/data/ignite"
          name: ignite-storage
  volumeClaimTemplates:
  - metadata:
      name: ignite-storage
    spec:
      accessModes: [ "ReadWriteOnce" ]
      resources:
        requests:
          storage: 1Gi
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48

如上所示,该配置定义了一组环境变量(OPTION_LIBSCONFIG_URIL),Ignite的Docker镜像使用的一个shell脚本会用到它。Docker镜像的完整配置参数列表可以查看Docker部署的相关章节。

Ignite Docker镜像版本

Kubernetes支持Ignite的1.9及其以后的版本,一定要使用有效的Docker镜像版本,完整的标签列表在这里

下一步,在Kubernetes中使用上述的配置部署有状态集(确保事先配置好了唯一的命名空间和RBAC):

# Create the stateful set
kubectl create -f ignite-stateful-set.yaml
1
2

确认Ignite配置组正在运行:

kubectl get pods --namespace=ignite
1

选择一个可用的配置组的名字:

NAME       READY     STATUS    RESTARTS   AGE
ignite-0   1/1       Running   0          7m
ignite-1   1/1       Running   0          4m
1
2
3

然后看下日志,确认配置组之间可以彼此发现:

kubectl logs ignite-0 --namespace=ignite
1

# 2.2.4.调整Ignite集群大小

属于标准的Kubernetes API,可以随时调整Ignite集群的大小。比如希望将集群从2个节点扩容到4个节点,可以使用下面的命令:

kubectl scale sts ignite --replicas=4 --namespace=ignite
1

再次确认集群扩容成功:

kubectl get pods --namespace=ignite
1

输出显示有4个Ignite配置组正在运行:

NAME       READY     STATUS    RESTARTS   AGE
ignite-0   1/1       Running   0          21m
ignite-1   1/1       Running   0          18m
ignite-2   1/1       Running   0          12m
ignite-3   1/1       Running   0          9m
1
2
3
4
5

# 2.2.5.Ignite集群激活

因为部署使用了Ignite的原生持久化,因此启动之后集群需要激活,怎么做呢,接入一个配置组:

kubectl exec -it ignite-0 --namespace=ignite -- /bin/bash
1

转到下面的目录:

cd /opt/ignite/apache-ignite-fabric/bin/
1

然后使用下面的命令可以激活集群:

./control.sh --activate
1

# 2.3.RBAC授权

# 2.3.1.概述

基于角色的访问控制(RBAC)是一种企业内基于单个用户的角色来调节对计算机或网络资源访问的常规方法。

RBAC使用rbac.authorization.k8s.ioAPI组来驱动授权决策,允许管理员通过Kubernetes API动态地配置策略。 建议为Ignite部署配置RBAC,以对部署进行细粒度的控制,避免与安全有关的问题。

# 2.3.2.要求

假定已经部署好了一套Kubernetes集群环境。

# 2.3.3.创建命名空间

需要为Ignite部署创建一个唯一的命名空间,在本案例中命名空间名字为ignite

ignite-namespace.yaml:

apiVersion: v1
kind: Namespace
metadata:
  name: ignite
1
2
3
4

执行下面的命令配置命名空间:

kubectl create -f ignite-namespace.yaml
1

# 2.3.4.创建服务账户

通过下面的方式配置Ignite服务账户:

ignite-service-account.yaml:

apiVersion: v1
kind: ServiceAccount
metadata:
  name: ignite
  namespace: ignite
1
2
3
4
5

执行下面的命令创建账户:

kubectl create -f ignite-service-account.yaml
1

# 2.3.5.创建角色

通过下面的方式创建Ignite服务使用的角色,该服务用于节点的自动发现,并且用作远程应用的负载平衡器。

ignite-account-role.yaml:

apiVersion: rbac.authorization.k8s.io/v1beta1
kind: ClusterRole
metadata:
  name: ignite
  namespace: ignite
rules:
- apiGroups:
  - ""
  resources: # Here are resources you can access
  - pods
  - endpoints
  verbs: # That is what you can do with them
  - get
  - list
  - watch
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

注意,如果不打算将Ignite服务用作外部应用的负载平衡器,那么建议赋予其更少的权限,具体见这里

执行下面的命令创建角色:

kubectl create -f ignite-account-role.yaml
1

下一步,使用下面的配置将该角色绑定到服务账户和命名空间上:

ignite-role-binding.yaml:

kind: ClusterRoleBinding
apiVersion: rbac.authorization.k8s.io/v1beta1
metadata:
  name: ignite
roleRef:
  kind: ClusterRole
  name: ignite
  apiGroup: rbac.authorization.k8s.io
subjects:
- kind: ServiceAccount
  name: ignite
  namespace: ignite
1
2
3
4
5
6
7
8
9
10
11
12

执行下面的命令执行绑定:

kubectl create -f ignite-role-binding.yaml
1

最后,将命名空间切换到ignite,然后就可以看到所有所属的资源:

kubectl config set-context $(kubectl config current-context) --namespace=ignite
1

# 2.4.Ignite服务

Ignite服务用于Ignite节点的自动发现,还有做为要接入集群的外部应用的负载平衡器。

本文描述如何配置和部署Ignite服务。

# 2.4.1.Ignite服务部署

Ignite的KubernetesIPFinder需要用户配置和部署一个特定的Kubernetes服务,它会维护一个所有有效的Ignite配置组的IP地址列表。

每次启动一个新的Ignite配置组,IP探测器会通过Kubernetes API接入服务来获取已有的Ignite配置组地址列表。通过这些地址,新的节点就可以发现集群中的其它节点从而最终加入Ignite集群。

同时,也可以将该服务复用为预接入集群的外部应用的负载平衡器。

通过下面的方式可以配置服务,它考虑了所有的必要条件:

ignite-service.yaml:

apiVersion: v1
kind: Service
metadata:
  # The name must be equal to TcpDiscoveryKubernetesIpFinder.serviceName
  name: ignite
  # The name must be equal to TcpDiscoveryKubernetesIpFinder.namespaceName
  namespace: ignite
spec:
  type: LoadBalancer
  ports:
    - name: rest
      port: 8080
      targetPort: 8080
    - name: sql
      port: 10800
      targetPort: 10800
    - name: thinclients
      port: 10900
      targetPort: 10900
  sessionAffinity: ClientIP
  selector:
    # Must be equal to the label set for Ignite pods.
    app: ignite
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

然后使用如下的命令将其部署进Kubernetes(确认事先已经配置好了命名空间和RBAC):

kubectl create -f ignite-service.yaml
1

确认服务已经正在运行:

 kubectl get svc ignite --namespace=ignite
1

# 2.5.Kubernetes IP探测器

# 2.5.1.概述

将Ignite节点以Kubernetes配置组的形式进行部署,对Ignite节点的发现机制有一定的要求。因为防火墙通常会阻止组播通信的原因,很可能无法直接使用基于组播的IP探测器。但是,只要Kubernetes动态地分配了地址,就可以列出所有节点的IP地址,然后使用静态IP探测器。

也可以考虑Amazon AWS IP探测器、Google Compute Engine IP探测器或者JClouds IP探测器,但是Kubernetes必须部署在这些云环境中。另外,也可以使用共享文件系统或者关系型数据库用于节点的自动发现,但是必须单独维护数据库或者共享文件系统。

本文会描述有关针对使用Kubernetes技术容器化的Ignite节点,专门开发的IP探测器,该IP探测器会自动搜索所有在线的Ignite配置组的IP地址,它是通过与一个持有所有最新端点的Kubernetes服务进行通信实现的。

# 2.5.2.基于Kubernetes服务的发现

如果要开启Kubernetes环境的节点自动发现,需要在下面的配置中使用TcpDiscoveryKubernetesIpFinder

XML:

<bean class="org.apache.ignite.configuration.IgniteConfiguration">
	...
  <property name="discoverySpi">
    <bean class="org.apache.ignite.spi.discovery.tcp.TcpDiscoverySpi">
      <property name="ipFinder">
        <bean class="org.apache.ignite.spi.discovery.tcp.ipfinder.kubernetes.TcpDiscoveryKubernetesIpFinder"/>
      </property>
    </bean>
  </property>
</bean>
1
2
3
4
5
6
7
8
9
10

Java:

// Configuring discovery SPI.
TcpDiscoverySpi spi = new TcpDiscoverySpi();

// Configuring IP finder.
TcpDiscoveryKubernetesIpFinder ipFinder = new TcpDiscoveryKubernetesIpFinder();

spi.setIpFinder(ipFinder);

IgniteConfiguration cfg = new IgniteConfiguration();

// Override default discovery SPI.
cfg.setDiscoverySpi(spi);

// Start Ignite node.
Ignition.start(cfg);
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

Maven构件

如果要使用TcpDiscoveryKubernetesIpFinder,需要在Maven中添加ignite-kubernetes依赖。

Ignite的KubernetesIPFinder需要用户配置和部署一个特定的Kubernetes服务,它负责维护所有在线Ignite配置组(节点)的IP地址列表。

每当启动一个新的Ignite配置组,IP探测器会通过Kubernetes的API访问Kubernetes服务,获取已有的Ignite配置组的地址列表,通过这些地址,新的节点就可以与其它节点互相连接,然后最终加入集群。

该服务需要手工配置,然后需要优先于Ignite配置组先行启动,下面是代码样例:

Service Configuration:

apiVersion: v1
kind: Service
metadata:
  # Name of Ignite Service used by Kubernetes IP finder for IP addresses lookup.
  name: ignite
spec:
  clusterIP: None # custom value.
  ports:
    - port: 9042 # custom value.
  selector:
    # Must be equal to one of the labels set in Ignite pods'
    # deployement configuration.
    app: ignite
1
2
3
4
5
6
7
8
9
10
11
12
13

默认的服务名为ignite,如果修改了名字,一定要同时调用TcpDiscoveryKubernetesIpFinder.setServiceName(String)方法进行修改。

另外,建议通过某种方式对Ignite的配置组打标签,然后在服务的selector配置段中配置标签。比如,通过上面的配置启动的服务,会关注于标注为app: ignite的配置组。

从外部接入容器化的Ignite集群

TcpDiscoveryKubernetesIpFinder的设计是用于Kubernetes环境内部的,这意味着所有的Ignite节点、与集群交互的应用都需要通过Kubernetes容器化。

但是,如果希望从Kubernetes外部接入Ignite集群,那么:

  1. 需要在Ignite配置组的yaml文件中配置hostNetwork=true,这样就可以从外部与容器化的Ignite配置组建立TCP/IP连接;
  2. 在Kubernetes环境外部,使用同样的TcpDiscoveryKubernetesIpFinder

# 2.5.3.配置参数

通常,TcpDiscoveryKubernetesIpFinder的设计是直接可用,但是通过下面的参数也可以进行细粒度的控制:

属性 描述 默认值
setServiceName(String) 配置Kubernetes服务的名字,该服务用于Ignite配置组的IP地址搜索,服务名必须与Kubernetes配置中的服务名一致。 ignite
setNamespace(String) 配置Kubernetes服务所属的命名空间。 default
setMasterUrl(String) 配置Kubernetes API服务器的主机名。 https://kubernetes.default.svc.cluster.local:443
setAccountToken(String) 配置服务令牌文件的路径。 /var/run/secrets/kubernetes.io/serviceaccount/token

# 3.Microsoft Azure部署

# 3.1.Azure Kubernetes服务部署

第一步是配置Azure Kubernetes服务(AKS)集群,具体可以看下面的资料:

本文中会讲解如何使用Azure门户进行AKS部署。

AKS配置

创建Microsoft账号之后,转到https://portal.azure.com 然后选择Create a resource > 选择 Kubernetes Service > Create

在下一页中,配置本次部署的常规参数:

本例中,会使用IgniteCluster作为Resource groupKubernetes cluster name的名字。 该页面中还需要选择AKS集群的节点数量。

本例中,集群由4个节点组成,每个节点2个虚拟CPU和8G RAM。

下一步,转到Networking配置页,配置需要的网络信息,如果没有什么特别的网络参数那么可以使用下面的默认值:

之后转到Monitoring配置页,建议打开监控,这样可以在Azure门户中获取集群的状态:

下一页中,可以配置应用的标签,然后点击Review + create按钮,再次检查配置参数之后,点击Create按钮。

转到All Resources -> IgniteCluster,Azure部署集群需要点时间:

Kubernetes仪表盘配置

Kubernetes仪表盘是一个有助于从本地或者其它环境监控Kubernetes的简单工具。

如果要使用仪表盘,需要安装Azure CLI,如果未安装,可以参照这个文档

Azure CLI安装完成之后,按照下面的步骤操作:

首先,通过下面的命令获取集群的凭据:

az aks get-credentials --resource-group IgniteCluster --name IgniteCluster
1

下一步,通过下面的命令检查所有的节点是否处于Ready状态:

kubectl get nodes
1

输出大致如下:

aks-agentpool-41298956-0   Ready     agent     1m        v1.10.3
aks-agentpool-41298956-1   Ready     agent     1m        v1.10.3
aks-agentpool-41298956-2   Ready     agent     1m        v1.10.3
aks-agentpool-41298956-3   Ready     agent     1m        v1.10.3
1
2
3
4

最后,通过下面的命令启动Kubernetes仪表盘:

az aks browse --resource-group IgniteCluster --name IgniteCluster
1

打开仪表盘之后,转到Cluster->Nodes,确认是否可以看到正在运行的AKS集群的所有节点。

# 3.2.Ignite集群部署

要在Azure Kubernetes服务中部署Ignite集群,需要至少3步:

  • 配置RBAC授权;
  • 在Kubernetes中部署用于Ignite节点自动发现的Ignite服务,同时它也会作为外部应用的负载平衡器;
  • 将Ignite集群部署为有状态或者无状态的方案。

RBAC授权

根据20.2.3.RBAC授权章节介绍的内容,创建一个Ignite专用的命名空间、服务账号和角色。

配置RBAC之后打开Kubernetes仪表盘,转到Cluster->Roles,确认哪有一个Ignite专用的角色。

通过选择Namespace->ignite,在Kubernetes仪表盘中切换当前命名空间到ignite。还有,通过下面的命令,也可以通过Azure CLI切换命名空间:

kubectl config set-context $(kubectl config current-context) --namespace=ignite
1

Ignite服务部署

部署一个专用的Ignite服务,用于Ignite节点的自动发现,同时也可以作为外部应用的负载平衡器,具体可以看20.2.4.Ignite服务章节。

服务部署之后,转到Discovery and Load Balancing->Services,确认在Kubernetes仪表盘中可以看到这个服务。

Ignite有状态集部署

Ignite有状态集部署可以用于将Ignite部署为开启持久化的、以内存为中心的数据库,具体可以看20.2.2.有状态部署章节。 常规的文档假定AKS会提供存储空间,用于Ignite的数据持久化。转到Cluster->Persistence Volumes,可以看到为集群分配的驱动类型,比如,页面大体如下:

配置组部署之后,可以尝试如下的命令对集群进行扩容:

kubectl scale sts ignite --replicas=4
1

集群扩容并且磁盘加载之后,就会在Kubernetes仪表盘的Workloads->Pods页面看到如下内容:

Ignite集群激活

因为集群使用了Ignite的原生持久化,因此启动之后需要对集群进行激活,怎么弄呢?接入其中任意一个配置组:

kubectl exec -it ignite-0 --namespace=ignite -- /bin/bash
1

转到如下的目录:

cd /opt/ignite/apache-ignite-fabric/bin/
1

然后通过执行如下的命令激活集群:

./control.sh --activate
1

# 3.3.从外部应用接入

下面会从外部应用(未部署在Kubernetes中)接入集群,本示例会使用SQL接口通过JDBC驱动接入Ignite。

首先,找到Ignite服务的外部地址,比如,转到Discovery and Load Balancing->Services,然后通过端口号10800选择一个外部端点(这是IgniteSQL驱动的默认端口)。

下一步,下载一个Ignite版本,转到{ignite_release}/bin然后使用SQLline工具通过如下的命令可以接入集群:

./sqlline.sh --verbose=true -u jdbc:ignite:thin://{EXTERNAL_IP}:10800
1

接入之后,使用SQLLine工具,通过下面的命令进行数据预加载:

!run ../examples/sql/world.sql
1

之后,就可以使用SQL与集群进行交互了,比如:

SELECT country.name, city.name, MAX(city.population) as max_pop FROM country
    JOIN city ON city.countrycode = country.code
    WHERE country.code IN ('USA','RUS','CHN')
    GROUP BY country.name, city.name ORDER BY max_pop DESC LIMIT 3;
1
2
3
4

# 4.Google Cloud部署

# 4.1.Google Kubernetes引擎部署

第一步是按照Google的说明配置Google Kubernetes引擎(GKE)集群:

在本文中,会使用Google云控制台进行GKE的部署。

GKE配置

创建Google账号之后,转到https://console.cloud.google.com/ ,然后选择Kubernetes Engine > 选择 Clusters > Create cluster

下一页中会配置一些部署所需的常规参数。

在本例中,会使用ignitecluster作为Kubernetes集群的名字。

同一个页面中还需要选择GKE集群中的节点数量。

本例中,集群包含4个节点,每个节点有2个虚拟CPU和7.5GB内存。

建议打开StackDriver监控,这样就可以从Google云控制台里面看到集群的状态。

下一步,点击More之后可以为应用配置需要的标签。

再次检查配置参数,然后点击Create按钮。

转到Kubernetes Engine > Clusters,注意GKE部署集群需要点时间。

访问Kubernetes集群

按照这个文档,可以安装Google云的SDK CLI。 Google云SDK CLI安装完之后,可以按照下面的步骤操作。

转到Kubernetes Engine > Clusters,然后点击集群的Connect按钮。

然后按照指令访问您的集群:

Kubernetes仪表盘已经不推荐使用

这里可以看到Google云平台控制台仪表盘的更多信息。

下一步,通过下面的命令检查所有的节点是否处于Ready状态:

kubectl get nodes
1

输出大体如下:

NAME                                          STATUS    ROLES     AGE       VERSION
gke-ignitecluster-default-pool-4b1a4860-nb1f   Ready     <none>    1m       v1.10.4-gke.2
gke-ignitecluster-default-pool-4b1a4860-v719   Ready     <none>    1m       v1.10.4-gke.2
gke-ignitecluster-default-pool-4b1a4860-xltc   Ready     <none>    1m       v1.10.4-gke.2
gke-ignitecluster-default-pool-4b1a4860-z9vs   Ready     <none>    1m       v1.10.4-gke.2
1
2
3
4
5

# 4.2.Ignite集群部署

要在Google Kubernetes引擎中部署Ignite集群,需要至少三步操作:

  • 配置RBAC授权;
  • 部署一个Ignite服务,用于Ignite节点的Kubernetes环境自动发现以及外部应用的负载平衡;
  • 将Ignite集群部署为无状态或者有状态的方案。

RBAC授权

根据20.2.3.RBAC授权章节介绍的内容,创建一个Ignite专用的命名空间、服务账号和角色。

对于GKE部署,首先执行下面的命令:

kubectl create clusterrolebinding cluster-admin-binding \
  --clusterrole cluster-admin --user [YOUR_USERNAME]
1
2

通过运行下面的命令,可以将当前的命名空间切换到ignite

kubectl config set-context $(kubectl config current-context) --namespace=ignite
1

Ignite服务部署

部署一个专用的Ignite服务,用于Ignite节点的自动发现,同时也可以作为外部应用的负载平衡器,具体可以看20.2.4.Ignite服务章节。

服务部署完成之后,转到Kubernetes Engine > Clusters,确认从Kubernetes引擎服务仪表盘中可以看到该服务。

Ignite无状态部署

Ignite无状态部署可以用于将Ignite部署为禁用持久化的、以内存为中心的数据库,具体可以看20.2.1.无状态部署章节。

Ignite有状态集部署

Ignite有状态集部署可以用于将Ignite部署为开启持久化的、以内存为中心的数据库,具体可以看20.2.2.有状态部署章节。

常规的文档假定GKE会提供存储空间,用于Ignite的数据持久化。转到Kubernetes Engine->Storage,可以看到为集群分配的驱动类型,比如,页面大体如下:

配置组部署之后,可以尝试如下的命令对集群进行扩容:

kubectl scale sts ignite --replicas=4
1

集群扩容并且磁盘加载之后,就会在Google云平台控制台的Kubernetes Engine->Workloads页面看到如下内容:

Ignite集群激活

因为集群使用了Ignite的原生持久化,因此启动之后需要对集群进行激活,怎么弄呢?接入其中任意一个配置组:

kubectl exec -it ignite-0 --namespace=ignite -- /bin/bash
1

转到如下的目录:

cd /opt/ignite/apache-ignite-fabric/bin/
1

然后通过执行如下的命令激活集群:

./control.sh --activate
1

# 4.3.从外部应用接入

下面会从外部应用(未部署在Kubernetes中)接入集群,本示例会使用SQL接口通过JDBC驱动接入Ignite。

首先,找到Ignite服务的外部地址,比如,转到Kubernetes Engine > Services,然后通过端口号10800选择一个外部端点(这是IgniteSQL驱动的默认端口)。

下一步,下载一个Ignite版本,转到{ignite_release}/bin然后使用SQLline工具通过如下的命令可以接入集群:

./sqlline.sh --verbose=true -u jdbc:ignite:thin://{EXTERNAL_IP}:10800
1

接入之后,使用SQLLine工具,通过下面的命令进行数据预加载:

!run ../examples/sql/world.sql
1

之后,就可以使用SQL与集群进行交互了,比如:

SELECT country.name, city.name, MAX(city.population) as max_pop FROM country
    JOIN city ON city.countrycode = country.code
    WHERE country.code IN ('USA','RUS','CHN')
    GROUP BY country.name, city.name ORDER BY max_pop DESC LIMIT 3;
1
2
3
4
最后更新时间:: 1/5/2020, 11:49:25 PM