전체 글

IT 엔지니어 업무를 하게되면서 사용하였던 SW 위주로 정보를 정리하고자 블로그를 개설 하였습니다.
· Docker
1. 개  요 본 문서에서는 Dockerfile을 작성하여 Image Build 하는 방법을 설명합니다.Image Build를 하기전에 Docker 설치가 선행되어야 합니다.Docker 설치 참고 URL : https://sh-it-work.tistory.com/37 [Docker]설 치설치 환경CentOS7 Version과 CentOS8 Version 설치 시 차이가 존재. 7번전에는 yum 명령어를 통해 Docker Package가 검색 되지만, 8버전은 되지 않음.참고 링크 주소CentOS7 : https://docs.docker.com/engine/install/centos/#presh-it-work.tistory.com2. Dockerfile2.1. DockerfileDockerfile은 Doc..
1. Kafka SystemZookeeper는 Consumer와 통신, Kafka의 메타 데이터 정보를 저장, Kafka의 상태 관리 등 목적으로 사용Kafka 3점대 버전부터는 Zookeeper가 없더라도 Kafka 운영이 되지만 Zookeeper를 대체하는 것이 완벽하지 않기 때문에 Zookeeper를 사용Kafka Broker는 하나의 서버에 한 개가 실행되며, Kafka 클라이언트와 데이터를 주고받는 주체Kafka Broker는 1대로도 실행은 되지만, 가용성을 위해 3대 이상의 Broker를 1개의 Cluster로 묶어서 운영2. Zookeeper 역할2.1. 브로커 메타 데이터 저장Kafka 브로커들은 자신의 메타 데이터(브로커 ID, 브로커의 주소 등)를 Zookeeper를 사용하여 저장이 ..
1. 권고 사항1.1. 환경 구성 시 권고 사항Kafka는 전송된 데이터를 모두 파일 시스템에 저장하고 대규모 데이터 통신이 일어나기 때문에 고성능의 하드웨어를 사용해야 한다. Kafka Cluster 운영 시 브로커의 하드웨어 권고사항은 아래와 같다.종  류권고 설정 값메모리32GB 머신에 힙 메모리 6GB로 설정. 나머지는 OS의 페이지 캐시 영역으로 활용CPU24core 머신 사용, 만약 SSL과 같은 보안 설정 사용할 경우 추가 더 높은 사양 필요디스크RAID 10으로 설정된 디스크 사용. NAS 사용은 권고하지 않음파일시스템XFS 또는 ext41.2. 오픈소스 Kafka를 직접 설치하여 운영하는 경우종  류개발용 Kafka Cluster상용 환경 Kafka Cluster브로커 개수5개10개CPU..
1. 설치 환경SWVersionOSUbuntu 22.0.4PostgreSQLv15.32. 설치 요구 사항2.1. HW 요구 사항HW요구사항CPUMinimum 1GHz ProccessorMemory최소 2G 이상Disk - Engine Space : 최소 10GB- Data Space : 500GB 이상 권장- Log Space : 200GB 이상 권장 2.2. 라이브러리 설치$ yum install gcc zlib-devel readline-devel # RHEL/CentOS$ apt install gcc zlib1g-dev libreadline6-dev # Debian/Ubuntu 3. 설치3.1. PostgreSQL 다운로드인터넷이 되는 환경에서는 wget 명령어가 활용 가능하나, 그렇지 못한 경우 ..
Garfield_Jo
JOSIT