安装和配置NFS //所有k8s节点harbor仓库配置 { "insecure-registries": ["192.168.195.128:5000"], "registry-mirrors": ["https://05vz3np5.mirror.aliyuncs.com"] } systemctl restart docker NFS简介 NFS(Network File System),它最大的功能就是可以通过网络,让不同的机器、不同的操作系统可以共享彼此的文件。我们可以利用NFS共享Jenkins运行的配置文件、Maven的仓库依赖文件等 NFS安装 我们把NFS服务器安装在192.168.66.101机器上 1) 安装NFS服务(在所有K8S的节点都需要安装) yum install -y nfs-utils 2) 创建共享目录(k8smaster)
在Kubernetes安装Jenkins-Master 创建NFS client provisioner nfs-client-provisioner 是一个Kubernetes的简易NFS的外部provisioner,本身不提供NFS,需要现有的NFS服务器提供存储。 1) 上传nfs-client-provisioner构建文件
其中注意修改deployment.yaml,使用之前配置NFS服务器和目录
2) 构建nfs-client-provisioner的pod资源 cd nfs-client kubectl create -f . 3) 查看pod是否创建成功
安 装 Jenkins-Master 、 1)上传Jenkins-Master构建文件
其中有两点注意: 第一、在StatefulSet.yaml文件,声明了利用nfs-client-provisioner进行Jenkins-Master文件存储
第二、Service发布方法采用NodePort,会随机产生节点访问端口
2) 创建kube-ops的namespace 因为我们把Jenkins-Master的pod放到kube-ops下 kubectl create namespace kube-ops 3) 构建Jenkins-Master的pod资源 cd jenkins-master kubectl create -f . 4) 查看pod是否创建成功 kubectl get pods -n kube-ops 5) 查看信息,并访问 查看Pod运行在那个Node上 kubectl describe pods -n kube-ops
查看分配的端口 kubectl get service -n kube-ops
最终访问地址为:http://192.168.195.202:31138/ (192.168.195.202为k8s-node2的IP)
安装过程跟之前是一样的! 找到密钥复制粘贴
Kubernetes中Jenkins部署完成!!! 设置插件下载地址 cd /opt/nfs/jenkins/kube-ops-jenkins-home-jenkins-0-pvc-7ad49840-b65d-4ec9-a1f5-3681843526b2/updates sed -i 's/http:\/\/updates.jenkins- ci.org\/download/https:\/\/mirrors.tuna.tsinghua.edu.cn\/jenkins/g' default.json && sed -i 's/http:\/\/www.google.com/https:\/\/www.baidu.com/g' default.json Manage Plugins点击Advanced,把Update Site改为国内插件下载地址https://mirrors.tuna.tsinghua.edu.cn/jenkins/updates/update-center.json
6) 先安装基本的插件 Localization:Chinese Git Pipeline Extended Choice Parameter 重启Jenkins Jenkins与Kubernetes整合 安装Kubernetes插件 系统管理->插件管理->可选插件
实现Jenkins与Kubernetes整合 系统管理->系统配置->云->新建云->Kubernetes
kubernetes 地 址 采 用 了 kube 的 服 务 器 发 现 :https://kubernetes.default.svc.cluster.local namespace填kube-ops,然后点击Test Connection,如果出现 Connection test successful 的提示信息证明 Jenkins 已经可以和 Kubernetes 系统正常通信 Jenkins URL 地址:http://jenkins.kube-ops.svc.cluster.local:8080 构建Jenkins-Slave自定义镜像 Jenkins-Master在构建Job的时候,Kubernetes会创建Jenkins-Slave的Pod来完成Job的构建。我们选择 运行Jenkins-Slave的镜像为官方推荐镜像:jenkins/jnlp-slave:latest,但是这个镜像里面并没有Maven 环境,为了方便使用,我们需要自定义一个新的镜像: 准备材料:
Dockerfile文件内容如下: FROM jenkins/jnlp-slave:latest MAINTAINER yy # 切换到 root 账户进行操作 USER root # 安装 maven COPY apache-maven-3.6.2-bin.tar.gz . RUN tar -zxf apache-maven-3.6.2-bin.tar.gz && \ mv apache-maven-3.6.2 /usr/local && \ rm -f apache-maven-3.6.2-bin.tar.gz && \ ln -s /usr/local/apache-maven-3.6.2/bin/mvn /usr/bin/mvn && \ ln -s /usr/local/apache-maven-3.6.2 /usr/local/apache-maven && \ mkdir -p /usr/local/apache-maven/repo COPY settings.xml /usr/local/apache-maven/conf/settings.xml USER jenkins //构建镜像 docker build -t jenkins-slave-maven:latest . 构建出一个新镜像:jenkins-slave-maven:latest docker login -u admin -p Harbor12345 192.168.153.40:85 docker tag jenkins-slave-maven:latest 192.168.153.40:85/library/jenkins-slave-maven:latest docker push 192.168.153.40:85/library/jenkins-slave-maven:latest
测试Jenkins-Slave是否可以创建 1) 创建一个Jenkins流水线项目
f06c4b06-ac26-4683-ad00-2d3599c827ee
2) 编写Pipeline,从GItlab拉取代码(使用http方式) def git_address = "http://192.168.195.180:82/kgc_group/tensquare_back.git" def git_auth = "f06c4b06-ac26-4683-ad00-2d3599c827ee" //创建一个Pod的模板,label为jenkins-slave podTemplate(label: 'jenkins-slave', cloud: 'kubernetes', containers: [ containerTemplate( name: 'jnlp', image: "192.168.153.90:85/library/jenkins-slave-maven:latest" ) ] ) { //引用jenkins-slave的pod模块来构建Jenkins-Slave的pod node("jenkins-slave"){ stage('拉取代码'){ checkout([$class: 'GitSCM', branches: [[name: '*/master']], extensions: [], userRemoteConfigs: [[credentialsId: "${git_auth}", url: "${git_address}"]]]) } } } 3) 查看构建日志(创建的时候可以打开node管理查看临时节点)