AI반도체와 AI클라우드

AI 반도체 시장에서 클라우드 기업의 역할과 과제

 

AI 반도체가 개발된다고 해서 바로 클라우드 기업이 AI 반도체를 이용한 서비스를 제공할 수 있는 것은 아니다. AI 모델을 실제 하드웨어에서 연산할 수 있도록 하는 소프트웨어부터, 초거대 모델 학습을 위한 클러스터 구축, 그리고 온디맨드로 컴퓨팅 자원을 제공하기 위한 클라우드 컴퓨팅 기술과의 융합까지 이뤄져야 비로소 그 위에서 서비스를 개발할 수 있다.

 

 

AI 반도체 데이터센터 구축부터 AI 플랫폼까지

 

AI 반도체에서부터 고객에게 제공되는 서비스까지의 전 과정을 아우르는 기술, 서비스, 제품을 'AI 풀스택'이라고 한다. 

 

AI 반도체-클라우드-AI 서비스로 구성된 AI 풀스택에서 클라우드 기업이 담당하는 범위는 AI 반도체를 기반으로 하는 인프라를 구축하고 가상화하여 온디맨드로 리소스를 제공하고, 쉽게 AI 서비스를 개발하고 운영할 수 있는 플랫폼을 제공하는 것까지가 될 것이다.

 

다시 말해, AI 풀스택에는 하드웨어부터 AI 서비스까지 다양한 스택이 존재하는데, 이중 클라우드 기업은 클라우드/IDC 스택과 AI 플랫폼 스택에 해당한다.

 

AI 풀스택

 

 

📌 AI 풀스택 요소 1) AI 반도체 하드웨어 AI 반도체의 설계, 구현 및 양산 2) AI 반도체 소프트웨어 컴파일러 : 작성된 코드를 AI 칩에서 연산할 수 있도록 연산 명령어를 번역해주는 소프트웨어 스택 런타임 라이브러리 : 컴파일러에 의해 생성된 명령어를 하드웨어의 메모리에 저장하고, 저장된 명령어를 여러 연산기 리소스에 분배하여 차례로 수행할 수 있도록 해주는 소프트웨어 스택 3) 클라우드/IDC AI 반도체 기반 서버와 스토리지, 네트워크, 등 컴퓨팅 자원 컴퓨팅 자원을 온디맨드로 제공하기 위한 클라우드 컴퓨팅 기술 스택 4) AI 플랫폼 AI 프레임워크: 모델 개발부터 배포까지 Pipeline 전체 단계를 쉽게 사용할 수 있도록 자동화된 툴킷(PyTorch, TensorFlow, Caffe, Theano 등) IDE(개발환경): AI 발 관련된 모든 작업을 하나의 프로그램 안에서 처리하는 환경을 제공하는 소프트웨어(Jupyter, VS Code, PyChar 등) AI 모델과 알고리즘: 주어진 문제의 데이터에 적합한 모델 구조와 모델을 학습하는 알고리즘 5) AI 서비스 AI 모델을 사용해 문제를 해결하는 애플리케이션 레벨

 

 

 

클라우드 기업의 과제

 

AI 풀스택을 완성하여 AI 반도체 기반 서비스를 상용화하기 위해 앞으로 클라우드 기업이 해결해야 할 과제들이 있는다. 이를 정리해 보면 다음과 같다.

📌 클라우드 기업의 과제 1) AI 반도체 기반 서버 구축 및 AI 반도체 SW 검증 AI 반도체 기반 서버 구축 AI 반도체 소프트웨어인 컴파일러, 라이브러리와 AI 모델 병렬화 기술을 검증 이기종/다중 AI 반도체 지원을 위한 컴파일러 검증 2) AI 반도체 기반 클라우드 서비스 개발 AI 반도체 기반 자원의 가상화 및 컨테이너, 클러스터 기술 스택 3) 초거대 모델을 위한 AI 반도체 Farm 구축과 분산학습 SW 개발 초거대 AI 모델을 학습하기 위한 대규모 AI 반도체 서버 클러스터인 AI 반도체 Farm을 구축

 

 

출처: 카카오엔터프라이즈

 

뜨리스땅