极狐GitLab CI/CD 变量黑魔法你知道多少?(下)
小马哥
极狐GitLab DevOps 技术布道师,点击上方关注极狐GitLab 开发者订阅号,获取更多 DevOps 理念与实践。
极狐GitLab CI/CD 变量是指一系列的环境变量,用来帮助我们控制 CI/CD Job 或 Pipeline 的行为,存储一些可以复用的信息,避免在 .gitlab-ci.yml 中形成硬编码。
极狐GitLab CI/CD 变量分为预定义变量(predefined CI/CD variables) 和 自定义变量(custom variable) 两部分。今天我们来学习自定义变量这部分。
极狐GitLab
自定义变量
自定义变量,顾名思义就是需要用户自己定义,先定义,后使用的环境变量。
自定义环境变量有三个级别:
极狐GitLab 实例级别(这个需要有管理员权限才能使用)
群组(Group)级别
仓库(Project)级别
不同级别的环境变量限制了其使用生效范围,实例级别的环境变量对整个实例下面的所有仓库都有效,群组级别的对整个群组下面的仓库有效,仓库级别的只对此仓库有效。常用的是群组级别和仓库级别的。下面分别介绍并进行演示。
极狐GitLab
群组(Group)级别
首先,创建一个群组(Group)级别的环境变量:Group --> Settings --> CI/CD --> Variables --> Add variable,写入对应的 key 和 value 即可,如下图
上述操作创建了一个 key 为 GROUP_VARS,value 为 JiHu-GitLab 的群组(Group)级别的环境变量。
在当前群组(Group)的任意一个仓库(Project)下面用极狐GitLab CI 功能测试一下,将下述内容写入 .gitlab-ci.yml 文件
image: busybox:latest
stages:
- test
build:
stage: test
script:
- echo "Group Variable is GROUP_VARS and value is $GROUP_VARS"
将下述内容写入 .gitlab-ci.yml 文件
image: busybox:latest
stages:
- test
build:
stage: test
script:
- echo "Group Variable is GROUP_VARS and value is $GROUP_VARS"
- echo "Group Variable is NON_GROUP_VARS and value is $NON_GROUP_VARS"
触发 CI/CD Pipeline 之后,查看构建结果
上述 Demo 是在定义群组(Group)环境变量的群组(Group)内的任意仓库中实现的.说明群组(Group)级别的自定义环境变量对当前群组下面的所有仓库(Project)均有效。
极狐GitLab
仓库(Project)级别
仓库(Project)级别的环境变量有三种创建方式
通过仓库(Project)内的 .gitlab-ci.yml 文件
通过仓库(Project)的 Settings,这个和群组(Group)的创建类似
通过 API 来创建
下面分别展示三种情况下的自定义环境变量的定义和使用。
使用 .gitlab-ci.yml 创建
在 .gitlab-ci.yml 文件中使用自定义变量,需要通过关键字 variables 先定义环境变量。variables 关键字可以出现在 .gitlab-ci.yml 文件内容的最顶端,这种情况下,自定义变量对当前整个 Pipeline 全局有效,也即意味着所有 Stage,Job 均可以使用;variables 关键字也可以出现在单个 Job 中,此时,自定义环境变量只对当前 Job 有效。测试如下:
variables:
PROJECT_TEST_VAR: "project_global_var"
image: busybox:latest
stages:
- test
- test1
job:
stage: test
variables:
JOB_TEST_VAR: "job_test_var"
script:
- echo "Global Project Variable is PROJECT_TEST_VAR and value is $PROJECT_TEST_VAR"
- echo "Job Variable is JOB_TEST_VAR and value is $JOB_TEST_VAR"
job1:
stage: test
script:
- echo "Global Project Variable is PROJECT_TEST_VAR and value is $PROJECT_TEST_VAR"
- echo "Job Variable is JOB_TEST_VAR and value is $JOB_TEST_VAR"
可以看到:全局环境变量 PROJECT_TEST_VAR 在 job 中可见可用;job 级别的环境变量 JOB_TEST_VAR 仅在 job 中可见可用,因为是在 job 中定义的。
job1 的输出如下
结论:全局的环境变量对于所有 job 可见可用,但是 job 级别的环境变量只对当前 job 可用可见,在其他 job 是不可见不可用的。
通过仓库的 Settings 创建
这一点和前面群组(Group)的使用一样,先创建变量:Project --> Settings --> CI/CD --> Variables --> Add Variable,添加 key 为 PROJECT_VARS,value 为 JiHu-GitLab-Project 的环境变量。使用下述代码进行测试:
image: busybox:latest
stages:
- test
job:
stage: test
variables:
JOB_TEST_VAR: "job_test_var"
script:
- echo "Project Variable is PROJECT_VARS and value is $PROJECT_VARS"
job1:
stage: test
script:
- echo "Project Variable is PROJECT_VARS and value is $PROJECT_VARS"
结论:通过仓库(Project) Settings 创建的环境变量对当前仓库(Project)中所有 Pipeline 所包含的 job 均可见可用。
通过 API 创建
极狐GitLab 提供丰富的 API 用来对环境变量的增、删、改、查进行操作。创建变量的 API 方法如下:
curl --request POST --header "PRIVATE-TOKEN: <your_access_token>" \
"https://gitlab.cn/api/v4/projects/1/variables" --form "key=NEW_VARIABLE" --form "value=new value"
使用 API 需要极狐GitLab 的 Token,创建方法如下
指定极狐GitLab token 及极狐GitLab 地址:https://gitlab.cn,然后将需要创建的变量以 --form 的形式传入,执行上述命令后,得到如下返回信息
{
"variable_type":"env_var",
"key":"xiaomage",
"value":"Evangelist",
"protected":false,
"masked":false,
"environment_scope":"*"
}
上述信息表明 key 为 xiaomage,value 为 Evangelist 的变量已经创建成功。可以用下面的 API 继续查看当前仓库(Project)里面的现有环境变量
[
{
"variable_type":"env_var",
"key":"PROJECT_VARS",
"value":"JiHu-GitLab-Project",
"protected":false,
"masked":false,
"environment_scope":"*"
},
{
"variable_type":"env_var",
"key":"xiaomage",
"value":"Evangelist",
"protected":false,
"masked":false,
"environment_scope":"*"
}
]
可以看到当前仓库(Project)有两个变量 PROJECT_VARS、xiaomage。其中 PROJECT_VARS 是通过仓库(Project)Settings 创建的。而 xiaomage 就是用上述 API 创建的。
在仓库(Project)的 CI/CD Variables 下面也可以看到名为 xiaomage 的变量。
极狐GitLab
大招时刻
相信大家也看到了,极狐GitLab 的环境变量定义手段非常丰富,当然使用也就非常灵活了。下面讲几种大家关心而且常用的环境变量使用小魔法。
变量的覆盖(Override)
自定义的变量是可以在 Pipeline 运行的时候被覆盖的,诸如上述名为 xiaomage,值为 Evangelist 的环境变量。可以在手动运行 Pipeline 的时候覆盖其原来的值。
方法为:Project --> Pipelines --> Run Pipeline,在出现的界面中,修改环境变量的值
可以看到值已经从 Evangelist 变成了 JiHu-Evangelist 了 。
变量的遮掩(Mask)
经过遮掩(Mask)的变量,其值在 Pipeline logs 中是不会显示的,这种方法对于将敏感信息存储为环境变量的场景比较常用。如果敏感信息在 Pipeline log 中输出,很容易造成敏感信息的泄漏。
遮掩(Mask)一个变量的方法很简单:仓库(Project) --> CI/CD --> Variables --> Add variable,在出现的选项中勾选 Mask variable
在 Pipeline 的构建 log 中,可以看到值显示 MASKED,而不是真实的值。
变量的传递
DevOps Pipeline 中经常遇到的一个问题就是,变量在不同 Job 间的传递。其实上面极狐GitLab CI/CD 变量的不同定义方法就能满足变量在不同 Job 间的使用。但是极狐GitLab 还有一种能够完成环境变量在不同 Job 间的传递。使用方法如下:
在前面的 Job 中,将环境变量存储在 .env 文件中
用 artifacts:reports:dotenv 关键字将 .env 文件标记为制品
在后续的 Job 中使用关键字 dependencies 或 needs 来使用传递过来的环境变量。
测试代码如下
image: busybox:latest
stages:
- build
- deploy
build:
stage: build
script:
- echo "NAME=xiaomage" >> build.env
- echo "TITLE=JiHu-Evangelist" >> build.env
artifacts:
reports:
dotenv: build.env
deploy:
stage: deploy
script:
- echo "$NAME"
- echo "$TITLE"
dependencies:
当然,也可以用使用 needs 关键字来完成变量的传递
image: busybox:latest
stages:
- build
- deploy
build:
stage: build
script:
- echo "NAME=xiaomage" >> build.env
- echo "TITLE=JiHu-Evangelist" >> build.env
artifacts:
reports:
dotenv: build.env
deploy:
stage: deploy
script:
- echo "$NAME"
- echo "$TITLE"
needs:
- job: build
artifacts: true
极狐GitLab
写在最后
极狐GitLab CI/CD 中对于环境变量的定义、使用都是非常灵活的,功能非常强大,而且每个迭代的版本都有新功能推出。能满足多种场景下的 CI/CD Pipeline 构建。欢迎大家体验、使用!
引用链接
https://docs.gitlab.com/ee/ci/variables/#custom-cicd-variables
关于极狐(GitLab)
极狐(GitLab) 以“核心开放”为原则,面向中国市场,提供开箱即用的开放式一体化安全DevOps平台——极狐GitLab。通过业界领先的优先级管理、安全、风险和合规性功能,实现产品、开发、QA、安全和运维团队间的高效协同,加速和优化企业软件开发生命周期。极狐GitLab由极狐信息技术(湖北)有限公司在国内独立运营,提供中国本地化功能和支持服务。极狐(GitLab)公司以“中外合资3.0”模式创立,公司投资方包括GitLab Inc.、红杉宽带跨境数字产业基金,以及高成资本。
关注本公众号可以获取更多关于 DevOps 相关的技术实践分享。