병렬 컴퓨팅과 분산 컴퓨팅에 대한 설명

컴퓨터는 사람이 제공 한 지침에 따라 작업을 수행합니다. 그 수행방식이 병렬 컴퓨팅과 분산 컴퓨팅은 두 가지 계산 유형입니다. 이번 포스팅에서는 병렬 컴퓨팅과 분산 컴퓨팅에 대하여 설명하겠습니다.

병렬 컴퓨팅과 분산 컴퓨팅의 비교

병렬컴퓨팅이란

컴퓨터는 사람이 제공 한 지시에 따라 작업을 수행 할 수있는 기계입니다. 컴퓨터 아키텍처는 컴퓨터에 제공된 명령을 실행하는 방법을 정의합니다. 이전 컴퓨터 시스템에는 하나의 프로세서가있었습니다. 해결해야 할 문제는 일련의 지침으로 나뉘어졌습니다. 이러한 지침은 프로세서에 차례로 전달되었습니다. 매 순간 하나의 명령 만 실행됩니다. 그런 다음 프로세서는 해당 명령을 처리하고 출력을 제공했습니다. 이것은 효율적인 메커니즘이 아닙니다. 주파수를 높이면 속도가 향상 될 수 있지만 온도도 높아집니다. 이는 더 많은 열 방출을 유발합니다. 따라서 프로세서의 속도를 높이는 것은 쉽지 않습니다. 이 병렬 컴퓨팅의 결과로 도입되었습니다.

병렬 컴퓨팅은 병렬 처리. 여러 계산을 동시에 수행 할 수있는 계산 형식입니다. 병렬 컴퓨팅은 많은 프로세서를 사용합니다. 해결해야 할 문제는 개별 부분으로 나뉩니다. 각 부분은 지침으로 더 세분화됩니다. 이러한 명령어는 프로세서간에 구분됩니다. 따라서 여러 프로세서가 동시에 명령을 실행합니다. 병렬 컴퓨팅은 프로세서가 작업 부하를 나누기 때문에 복잡한 계산을 수행하는 데 유용합니다. 시간도 절약됩니다.

병렬 컴퓨팅의 이용 분야

1- 수치해석

병렬 컴퓨팅이 이용되며 우리 삶과 밀접한 대표적인 분야로는 기상 예측이 있습니다. 대한민국의 기상청은 슈퍼컴퓨터를 운영하여 날씨, 자연재해 등을 계산합니다. 기상청은 전 세계 곳곳의 관측소와 위성에서 관측 데이터들을 수집한 후에 이를 수치예보모델에 입력합니다. 그러면 슈퍼컴퓨터가 계산 결과를 내놓고 기상청 직원들이 결과를 검토하여 예보가 이루어집니다.

 

기상청이 수집하는 데이터는 그 양만 하더라도 거대합니다. 그러므로 우리가 중고등학교 교육과정에서 배웠던 하나의 답이 존재하는 수학 문제와는 푸는 방식이 다르죠. 기상 예측에 사용하는 수치예보모델은 일반적으로 유한 차분의 수치 해석적 풀이에 기반합니다. 연속적인 대기 데이터를 일정한 간격으로 잘라 큐브 형태로 만들고 이를 토대로 방정식을 푸는 것입니다. 격자점의 간격이 좁을수록 실제 대기를 잘 나타내는 모델이므로 컴퓨터의 계산 속도가 모델의 정확도에 큰 영향을 줍니다. 병렬 컴퓨팅은 기상뿐만 아니라 유체와 고체의 움직임 등 다양한 수치해석 문제들에 널리 활용됩니다. 아래 그림은 심혈관 내부 혈액의 유동을 수치 해석적으로 분석한 결과를 보여줍니다.

2 - 인공지능

 

병렬 컴퓨팅은 인공지능, 그중에서도 딥러닝의 발전에 큰 역할을 수행해왔습니다. 딥러닝은 인공지능의 한 분야로 생물체의 뇌와 비슷한 원리로 구성되어 있습니다. 뉴럴 네트워크가 뇌의 뉴런과 유사한 역할로 신경망의 각 층을 통과하면서 데이터를 활용한 학습을 진행하는 방식입니다. 그러나 단순한 신경망조차 컴퓨터를 학습시키기 위해서는 엄청난 양의 연산을 요구합니다. 그래서 2000년대 초반까지만 해도 딥러닝은 개념만 존재하는 상태였습니다. 딥러닝이 지금처럼 전 세계적 트랜드로 부상하게 된 데에는 병렬 연산에 최적화된 GPU의 등장이 있었습니다.

 

GPU는 엔비디아에서 1990년대 말에 처음 개발된 컴퓨터 연산 처리 장치입니다. 이전까지 컴퓨터의 뇌로 이용되어 온 중앙처리장치(CPU)와 GPU는 확연한 차이가 존재합니다. GPU를 부르는 또 다른 단어는 그래픽 처리 장치입니다. 각각의 이름에서도 알 수 있듯이, CPU와 GPU는 서로 추구하는 바가 다릅니다. CPU는 복잡한 연산을 처리하기 위해 개발되었지만, GPU는 쉬운 계산을 대량으로 수행하는 장점이 있습니다. CPU가 한 명의 뛰어난 고급 인력이라면 GPU는 값싼 대량의 인력을 고용한 그룹과 같습니다. 인공지능의 학습은 많은 양의 데이터를 기반으로 단순한 계산을 반복적으로 수행하여 이루어집니다. 그러므로 GPU가 추구하는 목적과 잘 맞아떨어지는 것이죠. 이를 미리 알아본 엔비디아는 2010년대부터 인공지능 가속기로 활용될 GPU를 선보였습니다.

GPU는 코어의 개수가 한정적이고 복잡한 연산에 특화된 CPU와 비교할 때 다중 연산에 유리합니다. 대량의 계산을 수행할 경우 GPU를 이용하는 것이 인프라 구축 비용과 소비되는 전력이 CPU보다 훨씬 적기 때문입니다. 현재 GPU를 활용한 딥러닝 기술은 자율주행, 신약 개발, 로보틱스 등의 다양한 분야에서 꾸준히 발전하고 있습니다.

분산컴퓨팅이란

일상 생활에서 개인은 컴퓨터를 사용하여 Microsoft Word, Microsoft PowerPoint와 같은 응용 프로그램을 사용할 수 있습니다. 한 대의 컴퓨터로는 복잡한 문제를 해결할 수 없습니다. 따라서 단일 문제를 여러 작업으로 나누어 여러 컴퓨터에 배포 할 수 있습니다. 이러한 컴퓨터는 네트워크를 통해 다른 컴퓨터와 통신 할 수 있습니다. 이들은 모두 단일 엔티티와 유사하게 수행됩니다. 단일 작업을 여러 컴퓨터로 나누는 과정을 분산 컴퓨팅이라고합니다. 분산 시스템의 각 컴퓨터는 마디. 노드 집합은 클러스터.

 

분산 컴퓨팅은 오늘날 많은 애플리케이션에서 사용됩니다. 몇 가지 예는 Facebook과 Google입니다. 수백만 명의 사용자로 구성됩니다. 모든 사용자는 다른 사람과 의사 소통하고 사진을 공유합니다.이 많은 양의 데이터는 분산 컴퓨팅을 사용하여 저장됩니다. 은행, 전화 네트워크, 셀룰러 네트워크, 분산 데이터베이스의 현금 자동 입출금기도 분산 컴퓨팅을 사용합니다.

분산 컴퓨팅은 여러 가지 이점을 제공합니다. 분산 시스템은 증가하는 성장으로 확장 가능합니다. 확장 성을 제공하고 리소스를 쉽게 공유 할 수 있습니다. 일부 단점은 네트워크 문제가있을 수 있으며 분산 소프트웨어를 개발하기 어렵다는 것입니다

분산 컴퓨팅 이용 분야

1. 바이오, 기상, 천문학, 인공지능 등 첨단분야의 기술개발이 진행됨에 따라 ｢짧은 시간안에 대규모 데이터 처리｣의 필요성이 급속히 증가하여, IT기술을 활용한 대용량 컴퓨팅 환경을 구축하는 것이 국가의 새로운 핵심 역량으로 대두

- 국내에는 뛰어난 초고속인터넷망과 엄청난 PC자원을 보유하고 있으며, 이를 이용한 분산컴퓨팅 환경을 구축함으로써 저비용ㆍ고효율의 대용량 슈퍼컴퓨팅 환경구현이 가능

 

2. 미국과 유럽 등 선진국에도 인터넷 기반의 분산컴퓨팅 기술을 이용하여 첨단분야의 연구개발을 진행하고 있으며, 관련 연구사업인 ｢@Home 프로젝트｣를 산․학․연이 중심이 되어 수립․추진하고 있음

- 따라서 국내에서도 미국․유럽등 선진국과 경쟁할 수 있는 ｢Korea@Home 프로젝트｣를 수립․추진 필요

 

3. 21세기 ｢글로벌 리더, e코리아 건설｣을 목표로 국가 정보화를 촉진하고 세계 최고 수준의 초고속정보통신인프라를 활용하여 지식정보강국으로 도약하기 위한 ｢인터넷 기반 분산컴퓨팅｣ 환경 조성이 시급함

- 인터넷에 접속한 PC중 CPU가 작업에 참여하지 않는 시간이 전체 인터넷 접속 시간 중 90%를 차지하는 등 국내에는 약 천만대가 넘는 엄청난 PC파워의 활용이 가능

 

연관정보 : 멀티테넌시(Multi-tenancy)에 대한 설명

멀티 테넌시(Multi-tenancy)에 대하여 알아보자.

연관정보 : 멀티 쓰레드(Thread)의 장점과 문제점

멀티 쓰레드(Thread)의 장점과 문제점