OpenShift?
デバッグノウハウ
診断
# oc adm diagnostics
サービスの状態確認
# oc status -v
Podの状態、ログ確認
# oc get pods # oc logs <Pod名>
コンテナの状態、ログ確認
# docker ps --alll # docker log <コンテナ名>
ユーザの作成と権限付与
# oc create user myuser # htpasswd /etc/openshift/openshift-passwd myuser # oc policy add-role-to-user edit myuser -n myproject
パスワードの設定は、htpasswdなり認証の仕組みを利用して行う必要があることに注意。
ボリュームの利用(NFS)
Persistence Volumeをシステムで作成し、Persistence Volume Claimをプロジェクトで利用するボリューム領域として作成します。
py.yml
apiVersion: v1
kind: PersistentVolume
metadata:
name: pv0001
spec:
capacity:
storage: 2Gi
accessModes:
- ReadWriteOnce
nfs:
path: /var/lib/docker/nfs
server: 10.0.0.7
persistentVolumeReclaimPolicy: Recycle
# oc login -u system:admin ... # oc create -f pv.yml
pvc.yml
apiVersion: "v1"
kind: "PersistentVolumeClaim"
metadata:
name: "claim1"
spec:
accessModes:
- "ReadWriteOnce"
resources:
requests:
storage: "1Gi"
volumeName: "pv0001"
# oc login -u system:admin ... # oc create -f pv.yml
イメージのプッシュ(内部レジストリ)
■内部レジストリのURL確認
[root@os-master1 ~]# oc login -u system:admin
Logged into "https://os-master1.local:8443" as "system:admin" using existing credentials.
You have access to the following projects and can switch between them with 'oc project <projectname>':
* common
default
kube-public
kube-service-catalog
kube-system
logging
management-infra
openshift
openshift-infra
openshift-node
Using project "common".
[root@os-master1 ~]# oc get svc -n default
NAME CLUSTER-IP EXTERNAL-IP PORT(S) AGE
docker-registry 172.30.207.150 <none> 5000/TCP 3d
kubernetes 172.30.0.1 <none> 443/TCP,53/UDP,53/TCP 3d
registry-console 172.30.108.12 <none> 9000/TCP 3d
router 172.30.164.49 <none> 80/TCP,443/TCP,1936/TCP 3d
■イメージのタグを作成
# docker tag docker.io/nginx:latest 172.30.207.150:5000/common/nginx:latest
■一般ユーザ(not system:admin)権限でログインしなおす
# oc login
Authentication required for https://os-master1.local:8443 (openshift)
Username: admin
Password:
Login successful.
You have one project on this server: "common"
Using project "common".
■レジストリにログイン
# docker login -u $(oc whoami) -p $(oc whoami -t) 172.30.207.150:5000
Login Succeeded
■プッシュ
# docker push 172.30.207.150:5000/common/nginx:latest
イメージのプッシュ(外部レジストリ)
OpenShiftにログイン
[root@os-master1 ~]# oc login
Authentication required for https://os-master1.local:8443 (openshift)
Username: admin
Password:
Login successful.
You don't have any projects. You can try to create a new project, by running
oc new-project <projectname>
イメージをアップロードするプロジェクトを作成
[root@os-master1 ~]# oc new-project common
Now using project "common" on server "https://os-master1.local:8443".
You can add applications to this project with the 'new-app' command. For example, try:
oc new-app centos/ruby-22-centos7~https://github.com/openshift/ruby-ex.git
レジストリにログイン
[root@os-master1 ~]# docker login -u $(oc whoami) -p $(oc whoami -t) docker-registry-default.router.default.svc.cluster.local
Login Succeeded
イメージのプッシュ
[root@os-master1 ~]# docker push docker-registry-default.router.default.svc.cluster.local/common/nginx:latest
The push refers to a repository [docker-registry-default.router.default.svc.cluster.local/common/nginx]
a103d141fc98: Pushed
73e2bd445514: Pushed
2ec5c0a4cb57: Pushed
latest: digest: sha256:926b086e1234b6ae9a11589c4cece66b267890d24d1da388c96dd8795b2ffcfb size: 948
OpenShift? Originのインストール
# yum install -y epel-release
(必要であれば)
# yum install -y docker
(OpenShift 3.5相当のOpenShift Originを使う場合)
# curl -k --location -O https://github.com/openshift/origin/releases/download/v1.5.1/openshift-origin-server-v1.5.1-7b451fc-linux-64bit.tar.gz
(OpenShift 3.6rc0相当のOpenShiftを利用する場合)
# curl -k --location -O https://github.com/openshift/origin/releases/download/v3.6.0-rc.0/openshift-origin-server-v3.6.0-rc.0-98b3d56-linux-64bit.tar.gz
# tar zxvf openshift-origin-server-*.tar.gz
# sudo mv openshift-* /opt/openshift
# firewall-cmd --permanent --add-port=8443/tcp
(firewalldが動作していれば)
# setenforce 0
# systemctl enable docker
# systemctl stop dnsmasq
# systemctl disable dnsmasq
(dnsmasqが動いていれば)
■下記のファイルの該当箇所を編集
○/etc/sysconfig/docker-storage
STORAGE_DRIVER='-s overlay2'
○/etc/sysconfig/docker
#OPTIONS='--selinux-enabled --log-driver=journald --signature-verification=false'
OPTIONS='--log-driver=journald --signature-verification=false'
○/etc/sysconfig/docker-network
DOCKER_NETWORK_OPTIONS='-dns 8.8.8.8'
○/etc/selinux/config
#SELINUXTYPE=enforcing
SELINUXTYPE=permissiv
■Docker / OpenShift実行
# systemctl restart docker
# cd /opt/openshift
# /opt/openshift/openshift start >& /var/log/openshift-console.log &
設定ファイルのパーミッション修正
# chmod +r "/opt/openshift/openshift.local.config/master/admin.kubeconfig"
■OpenShiftの利用
下記の環境変数を設定
export KUBECONFIG=/opt/openshift/openshift.local.config/master/admin.kubeconfig
export CURL_CA_BUNDLE=/opt/openshift/openshift.local.config/master/ca.crt
export PATH=/opt/openshift:${PATH}
$ oc login
※ ユーザadmin/パスワードadminでログインできれば成功
Wildcard DNSの設定
/etc/dnsmasq.conf(もしくはdnsmasq.d/xxx.conf)に下記のように設定する。
address=/cluster.local/10.0.0.7
test1.cluster.local,test2.cluster.localでアクセスすると、10.0.0.7で解決される。
DNSについて
詳細は下記の3.6以降のセクションを読んでください。その前まで読んで満足すると最新のアーキテクチャと違うのではまります
OpenShift?上では各ノード上で下記のDNSが動いています。
- Dnsmasq(host ip:53)
- SkyDNS(127.0.0.1:53)
- SkyDNS(127.0.0.1:8053, masterノードのみ)
また、外部からコンテナにアクセスするためのDNSが別途OpenShift外部に必要となります。
3は2から呼ばれるようになっていて、ユーザが意識する必要はあります。各OpenShiftノード(master/node)からは、 1を参照するように設定します。
### /etc/resolv.conf
search cluster.local test.example.com nameserver 192.168.1.3
cluster.localはOpenShiftのコンテナ名のためのsuffixで固定です。test.example.comは環境によりことなり、OpenShift?のホスト名(node,master)のsuffixです。(ose3-node1.test.example.comというホスト名を利用した例)
次に、dnsmasqを設定します。とは言っても、OpenShift?をインストールするとある程度自動で設定されます。 まず、コンテナの名前解決ように下記の設定がされます。
### /etc/dnsmasq.d/node-dnsmasq.conf
server=/in-addr.arpa/127.0.0.1 server=/cluster.local/127.0.0.1
コンテナ以外の名前解決については、自分で設定する必要があります。例えば、外部DNSを10.0.0.4とした場合、下記のような設定を自分で追加します。
### /etc/dnsmasq.d/upstream-dns.conf
server=10.0.0.4
### 外部DNS
外部のブラウザからアプリケーションの名前を解決するためのDNSが必要となります。Ansibleのインベントリの変数 openshift_master_default_subdomainで設定したホスト名を外部でLBのIPアドレスで解決するようにします。
server=8.8.8.8 address=/.apps.test.example.com/192.168.1.3
LBの設定については、また今度、、
