일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
- 그래픽스
- Computer Vision
- OpenGL
- 컴퓨터 비전
- SGD
- pre-trained
- SVM
- neural network
- 백준
- recommender system
- 컴퓨터 그래픽스
- Vision
- cs231n
- Unsupervised learning
- 추천 시스템
- C++
- 머신러닝
- logistic regression
- 딥러닝
- 신경망
- CPP
- CNN
- 파이썬
- Support Vector Machine
- 비용함수
- Regularization
- Kaggle
- 로지스틱 회귀
- 인공지능
- petal to metal
- Today
- Total
kwan's note
14주차-병렬처리 (parallel processing) 본문
수강일시 :2021.01.02
출처: kmooc 컴퓨터구조
14주차: 병렬처리의 기본 개념과 그에 따른 문제점 및 선결조건들을 설명할 수 있다. 병렬컴퓨터의 명령어와 데이터에 따른 분류와 메모리 구성 방법에 따른 분류를 파악한다. 병렬 컴퓨터에 적용되는 연결망의 종류와 특징을 설명할 수 있다.
병렬처리란 다수의 프로세서들을 이용하여 여러개의 프로그램 혹은 프로그램의 분할된 부분을 다수의 프로세서가 동시에 처리하는 기술을 의미한다.
병렬처리가 되려면 해당 프로그램은
다음의 조건을 만족해야 한다.
flynn의 분류는 instruction과 data stream의 갯수에 따라 분류한다.
SISD: 프로세서한개 데이터스트림 한개인경우, 파이프라이닝 구조에서 이용된다.
SIMD: 분산데이터 형태.(벡터 컴퓨터)
MIMD: 다수의 프로세서들이 다른 명령어와 데이터를 처리한다. 밀결합(공유 기억장치, 다중 프로세서 시스템)과
소결합(로컬 메모들)으로 나뉜다.
MISD: 다수의 프로세서 단일메모리. systolic array
메모리 access 방법에 의한 분류.
UMA모델: 공유 메모리로 모든 영역에 엑세스가능하고 소요 시간이 동일하다. 대신 공유로 인한 지연시간이 있다.
NUMA 모델: 다수의 UMA 모델 클러스터들이 큰 시스템을 구성한다. cluster interconnection network로 접속된다. 위치에 따라 접속 시간이 달라진다.
COMA: distribute memory사 캐시로 변경된 형태
NORMA: 프로세서가 원격 기억장치를 직접 엑세스 할 수 없다. 모듈은 메세지 전송 방식으로 통신한다.
상호연결 네트워크 구조.
일반적으로 상호연결 네트워크의 구조에 있어서 하드웨어 복잡도 및 통신 효율, 비용등을 평가하는데 사용되는 파라미터로 노드의수를 사용한다.
네트워크 지름은 서로다른 노드를 잇는 가장 짧은 링크의 max값.
즉 n개의 노드에 대해
for ( i=0;i<n;i++)
for ( j=i;j<n;j++)
prevmac <- MAX(prevmax, len(i,k) )
'Computer Programming > Computer System' 카테고리의 다른 글
13주차 (0) | 2021.01.03 |
---|---|
12주차 - system bus and bus arbitration (0) | 2021.01.02 |
11주차 -보조저장장치 (ssd) (0) | 2020.12.31 |
10주차 - cache (캐시메모리) (0) | 2020.12.31 |
9주차 - 메인 메모리(주 기억장치) (0) | 2020.12.31 |