분산 컴퓨팅 (Distributed Computing)
여러 서버와 장비가 작업을 나눠 동시에 처리해 대규모 연산을 수행하는 컴퓨팅 방식
#분산 컴퓨팅#Distributed Computing#분산 시스템#병렬 처리#클러스터 컴퓨팅
분산 컴퓨팅이란?
하나의 거대한 컴퓨터 대신, 여러 노드가 작업을 나눠 처리해 성능과 확장성을 확보하는 구조입니다.
어떻게 작동하나요?
작업을 작은 단위로 분할하고, 노드별로 병렬 실행한 뒤 결과를 다시 합칩니다. AI 학습과 추론 인프라의 핵심 기반입니다.
왜 중요한가요?
대형 모델은 단일 장비로 처리하기 어렵기 때문에 분산 컴퓨팅이 필수입니다. 비용, 지연시간, 안정성을 함께 최적화할 수 있습니다.
관련 용어
AI 인프라/모델 최적화
경사하강법 (Gradient Descent)
손실 함수를 최소화하기 위해 기울기 반대 방향으로 파라미터를 반복 업데이트하는 최적화 방법
AI 인프라/모델 최적화
딥러닝 (Deep Learning)
다층 신경망을 이용해 데이터의 복잡한 표현을 자동으로 학습하는 머신러닝 접근
AI 인프라/모델 최적화
레이트 리미팅 (Rate Limiting)
짧은 시간에 과도한 요청이 몰릴 때 API 호출량을 제한하는 제어 기법
AI 인프라/모델 최적화
로봇 파운데이션 모델 (Robot Foundation Model)
대규모 로봇 데이터와 멀티모달 입력으로 사전 학습되어 다양한 물리 작업에 전이 가능한 범용 로봇 AI 모델
AI 인프라/모델 최적화
로컬 AI (Local AI)
모델을 외부 API가 아닌 자체 PC·서버에서 직접 실행하는 방식
AI 인프라/모델 최적화
모델 증류 (Model Distillation)
대형 모델의 출력 신호를 활용해 더 작은 모델을 학습시키는 경량화 기법