overview tensorflow는 graphs의 형태로 나타내는 프로그래밍 시스템을 말합니다. 그래프에 있는 노드들은 operations이라고 불리우는데, 줄여서 ops라고 칭합니다. op는 Tensor로 이루어져 있고, tensors간에 computaiton을 수행하게 됩니다. tensor는 multi-dimentional array형태로 되어있다. Tensorflow graph를 연산하기 위해서는 Session을 launch를 해야한다. Session은 Devices(CPUs, GPUs)위에서 연산을 실행한 후에 결과를 반환한다. The computation graph Tensorflow 프로그램은 graph의 형태로 되어 있고, 그래프에 있는 ops의 연산을 수행하기 위해 session을 이용한..

분산 시스템은 단일 시스템에서 처리하기 불가능한 요구사항을 충족시키기 위해 독립적인 여러 컴퓨터를 네트워크로 묶어서 만든 시스템입니다. 이러한 분산시스템은 단일 노드로 처리하기 힘든 비즈니스 요구사항을 충족시키기 위해서 나온 개념입니다. 엄청나게 커져가는 데이터와 트래픽을 처리하려면 단일 컴퓨터에서는 스펙을 높여 컴퓨팅 파워를 높여야 합니다. 이를 스케일업(Scale-Up)이라고 합니다. 하지만 이러한 방식은 큰 문제점에 부딪치게 됩니다. 일단 스펙을 높이기 위한 가격이 어마어마 하게 높아집니다. 보통 수천만원 이상은 우습고 억 단위 이상까지 가는 경우가 비일비재하죠. 그리고 물리적으로도 큰 문제가 있을 수 밖에 없습니다. 슬롯이 다 채워지면? 하드웨어 아키텍처 상에서 한계에 도달하면? 이런 문제를 해결..