[Cloud] 클라우드 - 쿠버네티스 & 도커

Suyeon9911 commented 2 years ago

용어정리

Kubeflow

쿠버네티스용 머신러닝 툴킷 '쿠버플로우'를 통해 컨테이너를 할당하고, 생성하는 역할 중 머신러닝 프로젝트의 모든 단계를 관리하도록 설계됨
쿠버네티스 상에서 머신러닝 워크플로우를 구축하는 것은 물론 쿠버네티스 혹은 그 내부구조를 알 필요 없이 머신러닝 모델을 배포, 관리, 확장할 수 있음

GET/POST/PUT/DELETE

GET: URL에 변수를 포함시켜 요청, 데이터를 헤더에 포함하여 전송, URL에 데이터가 노출되어 보안에 취약
POST: URL에 특정 변수를 노출하지 않고 요청, 데이터를 Body에 포함, URL에 데이터가 노출되지 않아 기본 보안이 됨
URL Rules : 1) 마지막에 /는 포함하지 않는다
1. 언더바 대신 dash를 사용한다
2. 소문자를 사용한다
3. 행위는 URL에 포함하지 않는다
4. 의미에 맞는 HTTP State를 리턴한다

쿠버네티스

컨테이너 플랫폼 소개
1. 컨테이너 기반 애플리케이션 배포 및 관리를 위한 쿠버네티스 기반의 컨테이너 오케스트레이션
2. 애플리케이션플랫폼과 분리된 컨테이너 플랫폼 단독 배포기능 제공
3. 컨테이너 플랫폼의 오케스트레이션 기능을 엣지 호스트로 확장하기 위한 엣지 배포기능 제공
4. 단독 배포 및 엣지 배포 시, 사용자 포털, 운영자 포털 환경 제공
5. 애플리케이션 플랫폼의 서비스인 CaaS 배포 기능 및 서비스 대시보드 제공
6. 쿠버네티스 1.18.6 기준의 모든 기능 및 CLI 제공
쿠버네티스 소개
1. 컨테이너 오케스트레이션
2. 컨테이너화 된 애플리케이션의 배포, 확장 및 관리를 위한 오픈소스 플랫폼
3. 쿠버네티스, 쿠베르네테스, K8s, 쿠베, 쿠버, 큐브
4. 구글 설계 후 현재 리눅스 재단의 클라우드 네이티브 컴퓨팅 재단에서 관리
5. 고 언어로 작성
6. 아파치 2.0 오픈소스 라이선스

쿠버네티스 아키텍처

마스터 노드 : 모든 관리 작업의 시작점, 쿠버네티스 클러스터 메인 컴포넌트, Worker node 제어
워커 노드 : Pod가 실행되는 공간, Master node와 통신하는 에이전트, 도커 등의 컨테이너 런타임 실행

쿠버네티스 아키텍처 - 마스터 노드

API Server : 쿠버네티스 컴포넌트 허브 역할, Restful api 제공
스케쥴러 : 각 Node의 리소스 사용률 추적, 생성된 Pod 감시 및 Node가 미 할당 된 Pod가 실행되도록 노드 선택
Controller : 노드 관리 , 내부 정보 생성 및 갱신
etcd : 모든 클러스터 데이터에 대한 백업 저장소, Pod 세부사항 상태 저장

쿠버네티스 아키텍처 - 워커 노드

kubelet : 쿠버네티스 워커 노드 메인프로세스, Cluster의 각 Node에서 실행되는 에이전트
kube-proxy : 네트워크 프록시와 로드 밸런서 핸들링, TCP 및 UDP 패킷에 대한 네트워크 라우팅 담당
Pod : 클러스터에서 실행 중인 하나 이상의 컨테이너 그룹, 사용자가 생성 및 배포하는 객체 모델 중 가장 작고 간단한 단위
cAdvisor : 실행중인 컨테이너 리소스 사용량, 성능 등을 분석 및 제공

쿠버네티스는 컴퓨터 클러스터에 어플리케이션을 배치하고 실행을 관리하는 운영수준의 오픈소스 플랫폼

Control Plane

컨트롤 플레인은 클러스터의 관리를 담당
애플리케이션을 스케일링하거나, 변경을 반영하는 등 클러스터 내 모든 활동을 조율
쿠버네티스 API를 제공하며, 이를 통해 노드와 통신하고 사용자도 이를 통해 통신

Node

클러스터 내에서 동작하는 VM 또는 물리적인 컴퓨팅 자원
노드는 노드를 관리하고 있는 컨트롤 플레인과 통신하는 Kublet 이라는 에이전트를 가짐
컨테이너 운영을 담당하는 Containered 또는 도커와 같은 툴도 가질 수 있음
운영 트래픽을 처리하는 클러스터는 최소 세대의 노드를 가져야함

디플로이먼트

쿠버네티스가 애플리케이션의 인스턴스를 어떻게 생성하고 업데이트해야 하는지를 지시한다.
지속적으로 인스턴스를 모니터링
어플리케이션이 있는 노드가 다운되거나, 삭제되면 다른 노드로 교체

Kubectl

쿠버네티스 CLI를 통해 디플로이먼트를 생성하고 관리
클러스터와 상호작용하기 위해 쿠버네티스 api를 사용

Pod 파드

파드는 하나 또는 그 이상의 어플리케이션 컨테이너들의 그룹
스토리지나 IP주소 등을 동작시키는 방식에 대한 정보를 포함
쿠버네티스 플랫폼 상에서의 최소단위
각 파드는 스케쥴되어 노드에 묶이고 소멸되거나, 삭제되기 전까지 그 노드에 유지
노드에 문제가 생길 시 파드는 가용가능한 다른 노드로 편입

노드

파드는 언제나 노드상에서 동장
노드를 워커머신이라고도 하며, 각 노드는 마스터에 의해 관리
하나의 노드는 여러 개의 파드를 가질 수 있고, 쿠버네티스 마스터는 클러스터 내 노드를 관리

Kubelet

쿠버네티스의 마스터와 노드 간 통신을 책임지는 프로세스
하나의 워커 상에서 동작하는 파드와 컨테이너르 관리

레플리카셋/셀렉터/레이블

어플리케이션이 지속적으로 동작할 수 있도록 복제본을 만들 수 있음
복제본으로 생성된 파드는 클러스터 내에서 유일한 IP주소를 가짐에 따라 이를 관리해줄 셀렉터와 레이블이 필요

스케일링/ 로드밸런싱

동일한 내용의 신규 파드를 다른 노드들에 배치

롤링 업데이트

스케일업된 파드를 롤백하거나, 업데이트하게 될 때 사용 => 서비스의 중단없는 사용

Suyeon9911 commented 2 years ago

CLI

IDE - OpenPaaS 배포와 Release를 관리하기 위해 도움을 주는 커맨드 라인 유틸리티

cf CLI 도구는 파스타 API와 통신하는 방법을 알고 있음
cf CLI 도구가 포맷할 명령을 입력하고 파스타 공급자에게 전송할 수 있음
파스타는 처음에는 이러한 명령을 수락하지 않음
사용자는 개발자 권한의 계정으로 앱을 배포 및 관리할 수 있으며, 이 모든 작업을 위해 권한을 할당받아야함
cf login 명령으로 파스타 접속 정보, 패스워드 등의 정보로 인증
로그인하면 사용자는 엑세스 할 수 있는 org& space에 엑세스 할 수 있음
CLI 도구는 애플리케이션을 푸시하거나 변경하기 전에 PaaS-TA에 로그인하고 인증해야함 -이 작업은 cf login을 통해 수행되며, 다음과 같은 샘플이 아래에 표시됨
성공적으로 로그인하면 시스템으로 인증되며 사용하는 PaaS-TA 공급자는 액세스할수 있는 정보와 계정에서 수행할 수 있는 작업을 파악
CLI 도구는 일부 정보, 즉 PaaS-TA Endpoint API 및 인증 시 주어진 토큰(token)을 저장
로그인할 때 비밀번호를 저장하는 대신 PaaS-TA는 CLI가 저장할 수 있는 임시 토큰을 생성

-CLI는 모든 명령에 대해 이메일과 암호를 다시 묻는 대신 이 토큰을 사용할 수 있음

토큰은 보통 24 시간 후에 만료되며 CLI는 다시 로그인해야함

help 명령을 사용하여 필요에 따라 보다 자세한 도움말을 얻을 수 있음

명령 줄에서 다음을 사용할 수 있음 $ cf help restage $ cf restage --help

두 명령 모두 restage 명령에 대한 도움말과 동일한 결과를 표시 환경 변수 쌍을 설정하여 작업을 사용자 정의 할 수 있음

-a의 옵션은 CF CLI가 실행할 수 있는 모든 명령을 나열

$ cf login –a https://api. ktpaasta-v4.kr –skipssl-validation

로그인할 때 인증키가 아닌 아이디와 패스워드를 이용해 접근하기 위해서는 이 옵션을 넣어야 함 $ cf logout $ cf apps $ cf services

App을 OpenPaaS에 배포하고 app을 Start

$ cf push [-b BUILDPACK_NAME] [-c COMMAND] [-d DOMAIN] [-f MANIFEST_PATH] [-i NUM_INSTANCES] [-k DISK] [-m MEMORY] [-n HOST] [-p PATH] [-s STACK] [-t TIMEOUT] [--nohostname] [--no-manifest] [--no-route] [--no-start

$ cf delete [--f] [--r] $ cf start $ cf stop $ cf restart $ cf restage $ cf marketplace [-s SERVICE_NAME]

$ cf create-service [-c PARAMETERS_AS_JSON] [-t TAGS] $ cf delete-service SERVICE_INSTANCE [-f]

$ cf bind-service [-c PARAMETERS_AS_JSON] $ cf unbind-service

$ cf routes $ cf delete-orphaned-routes [-f

CLI로 배포하기 : CF 명령어로 배포하기위해 manifest.yml 을 작성

배포 명령어 : $ cf push

명세서를 자동으로 읽어서 호스트 이름으로 해당 파일이 업로드 됨

배포 결과 running이 확인되면 배포 완료!

서비스 리스트 확인 명령어 : $ cf marketplace
서비스 생성 및 확인 명령어 $ cf create-service 서비스명 플랜명 인스턴스명
앱 연결및 확인 명령어 : $ cf bind-service [애플리케이션 명] [서비스 인스턴스 명]
환경변수에서 서비스 확인 가능 명령어 : $ cf env
필요 App restage 명령어 (환경변수 설정 또는 서비스 바인딩시 사용) : $ cf restage

주의 사항

해당 서비스를 생성하고 바인딩하면 환경변수를 통해 해당 접속정보를 확인할 수 있음
이 접속정보를 툴을 이용해 데이터를 컨트롤 할 수 있음
바인딩을 새로 할 때마다 정보가 새로 생성되므로 한 번 바인딩한 이후에는 끊지 않는 것이 좋음

Suyeon9911 commented 2 years ago

IDE

= 프로그램 개발에 관련된 모든 작업을 하나의 프로그램 안에서 처리하는 환경을 제공하는 소프트웨어

코딩, 디버그, 컴파일, 배포 등의 관련 모든 작업을 포함
종래의 소프트웨어 개발에서 따로 사용했던 컴파일러, 텍스트 편집기, 디버거 등을 하나로 묶어 대화형 인터페이스를 제공
최근의 IDE는 그래픽 사용자 인터페이스(GUI) 애플리케이션 개발용 고속 개발 도구가 많음

이클립스에서 클라우드 파운더리 설치 이클립스 플러그인으로 파스타 연동 0 이메일 비번 계정인증 - 서버 생성완료 - 개발 프로젝트 배포

어플리케이션 설정- 서브도메인명 설정 - 연결할 서비스 설정

개발하고 파스 서버를 지정하고 IDE에서 변경한 것을 반영해서 결과로 확인할 수 있음

Portal, CLI, IDE를 이용해서 앱을 배포 및 관리할 수 있음

애플리케이션 리스트: 클라우드 상에 올라가 있는 앱을 확인. (삭제도 가능)

앱 컨트롤 : 앱을 배포 업데이트 시작/중지/재시작

Suyeon9911 commented 2 years ago

도커

컨테이너 기반의 오픈소스 가상화 플랫폼

컨테이너는 격리된 공간에서 프로세스가 동작하는 기술
이미지 기반 기술 : 컨테이너 실행에 필요한 파일과 설정 값 등을 포함하고 있는 것

레이어

가상화의 특성상 이미지는 용량이 크고 여러대의 서버에 배포하는 것을 감안하기 위해 레이어라는 개념으로 설계

이미지 경로 (허브와 레지스트리)

Suyeon9911 commented 2 years ago

PaaS

물리서버에서 하이퍼바이저로 가상화 VM생성 VM에 garden을 이용해 컨테이너로 가상화 앱 실행

=> IaaS 자원 위에 여러 인스턴스들의 유기적인 조합으로 파스 동작

BOSH

IaaS 환경에서 Stemcell, Deployment, Releas를 이용하여 VM들을 관리

Suyeon9911 commented 2 years ago

https://tecoble.techcourse.co.kr/post/2021-08-14-docker/

Suyeon9911 commented 2 years ago

도커란?

도커는 애플리케이션을 신속하게 구축, 테스트 및 배포할 수 있는 소프트웨어 플랫폼이다. 소프트웨어를 컨테이너라는 표준화된 유닛으로 패키징하며, 컨테이너는 라이브러리, 시스템 도구, 코드 등 소프트웨어 실행에 필요한 모든 것이 포함되어 있다. 즉, 도커는 컨테이너 환경에서 독립적으로 애플리케이션을 실행할 수 있도록 컨테이너를 만들고 관리하는 것을 도와주는 도구이다. 도커를 통해 애플리케이션을 실행하면 독립적인 환경에서 일관된 결과를 보장한다. 도커의 핵심 개념은 이미지와 컨테이너다. 그럼 먼저 컨테이너를 알아보자.

Suyeon9911 commented 2 years ago

컨테이너

컨테이너는 격리된 공간에서 프로세스가 동작하는 기술이다. 기존의 가상화 방식인 OS 가상화가 아닌 프로세스를 격리하는 방식으로 동작한다. 리눅스에서 프로세스를 격리하는 방식을 리눅스 컨테이너라고 한다. 단순히 프로세스를 격리하기 때문에 가볍고 빠르다. 또한 CPU나 메모리는 프로세스가 필요한 만큼만 추가 사용하여서 성능적으로 거의 손실이 없다. 아래 그림은 도커(왼쪽)와 가상머신(오른쪽)을 나타낸 것이다.

Suyeon9911 commented 2 years ago

컨테이너는 다음과 같은 특징이 있다.

서버에 여러 컨테이너를 실행하면 독립적으로 실행되어 VM(Virtual Machine) 을 사용하는 느낌을 준다.
실행 중인 컨테이너에 접속하여 명령어를 입력할 수 있다.
apt-get 이나 yum 등 운영체제에서 사용하는 패키지 매니저를 통해 설치할 수 있고 사용자도 추가하고 프로세스를 백그라운드로 실행할 수 있다.
CPU나 메모리 사용량을 제한할 수 있다
호스트의 특정 포트와 연결하거나 호스트의 특정 디렉토리를 내부 디렉토리인 것처럼 사용 가능
새로운 컨테이너를 만드는데 1~2초로 매우 빠르다.

Suyeon9911 commented 2 years ago

이미지

컨테이너 실행에 필요한 파일과 설정을 포함하고 있는 것으로 상태값을 가지지 않고 변하지 않는다. 컨테이너는 이미지를 실행한 상태이다. 추가되거나 변하는 값은 컨테이너에 저장된다. 같은 이미지에서 여러 개의 컨테이너를 만들 수 있고 컨테이너의 상태가 바뀌거나 삭제되어도 이미지는 변하지 않고 그대로 남아있다. 도커 이미지는 Docker hub에 등록하거나 Docker Registry 저장소를 직접 만들어 관리할 수 있다.

이미지는 다음과 같은 특징이 있다.

도커 이미지의 용량은 보통 수백 MB ~ 수 GB이지만 가상머신에 비하면 작은 용량이다
상태값을 가지지 않고 변하지 않는다
하나의 이미지를 통해 여러 컨테이너를 생성할 수 있고, 컨테이너를 삭제해도 이미지는 변하지 않는다
이미지들은 Docker Hub를 통해 버전 관리 및 배포가 가능
도커는 Dockerfile이라는 파일로 이미지를 만든다

Suyeon9911 commented 2 years ago

Dockerfile

도커 이미지를 만들기 위해 Dockerfile이라는 파일에 DSL(Domain Specific Language) 언어를 이용해 이미지를 생성할 수 있다. 단순 텍스트 파일로 일반적으로 소스와 함께 관리한다. 서버에서 프로그램을 설치하려고 할 때 Dockerfile 을 통하여 관리하면 된다. Dockerfile에서 사용할 수 있는 키워드는 20개 정도 있다. 여기서 중요한 건 FROM 과 RUN 이다. FROM 과 RUN 으로 이미지를 만들 수 있다.

Suyeon9911 / TIL