AI 클라우드 서비스 프로바이더를 위한 데이터센터

서비스 프로바이더(SP)와 네오클라우드 프로바이더들은 엔터프라이즈, 정부, 교육 기관에 빠르게 출시 가능한 경제적인 맞춤형 AI 서비스를 제공하기 위해 특화된 AI 데이터센터를 구축하고 있습니다. 클라우드 호스팅 AI 서비스는 최종 사용자에게 가상화된 안전한 컴퓨팅, 스토리지, 네트워킹을 제공하는 동시에 효율성을 높이고 총 소유 비용을 낮춰 새로운 수익 창출 기회를 열어줍니다.  

네오클라우드는 가상화된 GPU 컴퓨팅과 이를 지원하는 스토리지, 보안 네트워킹을 제공하는 데 중점을 두는 새로운 유형의 AI 클라우드 컴퓨팅 프로바이더입니다. 이러한 GPU 특화 클라우드는 대규모 고객 기반을 통해 AI 클라우드 인프라 비용을 분산시킴으로써 고객에게 최첨단 성능과 유연성을 제공할 수 있습니다. 네오클라우드는 클라우드 도구와 자동화를 활용하여 고객 수요에 맞게 스케일업과 스케일아웃을 수행할 수 있는 클라우드 민첩성을 갖춤으로써 기반 AI 인프라의 효율성을 높입니다.

AI 모델은 학습 단계에서 세심하게 제작된 데이터 세트를 사용하여 개발됩니다. 학습은 네트워크를 통해 하나의 클러스터로 연결된 수십, 수백, 또는 수천 개의 GPU에 걸쳐 발생하며 GPU 간에는 지속적으로 데이터 교환이 이루어집니다. 이 학습 단계가 끝나면 모델은 기본적으로 완료된 것입니다. 추론 단계에서는 사용자들이 모델과 상호 작용하는데, 모델은 이미지를 인식하거나 그림과 텍스트를 생성하면서 사용자 질문에 답변을 제공합니다. 학습은 보통 오프라인 작업인 반면, 추론은 일반적으로 온라인에서 이루어집니다.

막대한 양의 AI 데이터 세트로 인해 더욱 강력한 컴퓨팅 성능, 더욱 신속한 저장, 대용량 저지연 네트워킹 등이 필요합니다. 주니퍼는 다음과 같은 방식으로 이러한 요구 사항을 충족할 수 있도록 지원합니다.

• 컴퓨팅: AI/ML 컴퓨팅 클러스터의 노드 간 네트워크는 높은 수준의 요구 사항을 충족해야 합니다. JCT(Job Completion Time) 단축이 필수적인데, 효율적인 클러스터 운영에 있어 네트워크가 핵심적인 역할을 합니다. 주니퍼는 고성능 논블로킹 스위치를 다양하게 제공하고 있으며, 이러한 제품은 딥 버퍼 기능과 혼잡 관리 기능을 갖추고 있어 최적으로 설계될 경우 네트워크의 모든 병목 현상을 제거해 줍니다.
• 스토리지: AI/ML 클러스터와 하이 퍼포먼스 컴퓨팅에서는 전체 데이터 세트 또는 모델을 컴퓨팅 노드에 저장할 수 있는 경우가 드물기 때문에 고성능 스토리지 네트워크가 필요합니다. 주니퍼 QFX 시리즈 스위치는 IP 스토리지 연결에 적합합니다. 이 제품은 NVMe/RoCE(Non-Volatile Memory Express/RDMA over Converged Ethernet) 및 NFS(Network File System)/RDMA를 비롯한 RDMA(Remote Direct Memory Access) 네트워킹을 완벽하게 지원합니다.
• 네트워크: AI 학습 모델은 수백 또는 수천 개의 CPU, GPU, TPU 프로세서에 대규모의 집중적인 연산을 분산시켜 실행합니다. 이러한 연산에는 수평 확장이 가능하고 오류가 없는 고용량 네트워크가 필요합니다. 주니퍼 QFX 스위치와 PTX 시리즈 라우터는 업계 최고 수준의 스위칭 및 라우팅 처리량과 DCI(Data Center Interconnect) 기능을 바탕으로, 이러한 데이터센터 내부 및 데이터센터 간의 대규모 컴퓨팅을 지원합니다.

Apstra Data Center Director는 데이터센터 자동화 및 보장을 위한 주니퍼의 선도적인 플랫폼입니다. 이 제품은 설계부터 일상 운영에 이르기까지 멀티벤더 데이터센터의 전체 네트워크 라이프 사이클을 자동화하며, 지속적인 검증, 강력한 분석, 근본 원인 식별을 통해 신뢰성을 보장합니다. Marvis AI Assistant for Data Center를 사용하면 이러한 정보를 Data Center Director에서 Juniper Mist Cloud로 가져와 공통 대시보드에 표시하므로, 엔드투엔드 인사이트를 확보할 수 있습니다. 또한 Marvis AI Assistant for Data Center는 강력한 대화형 인터페이스(생성형 AI 사용)를 제공하여 지식 베이스 쿼리를 획기적으로 간소화합니다.

주니퍼의 고성능 논블로킹 데이터센터 스위치는 딥 버퍼링 및 혼잡 관리 기능을 제공하여 네트워크 병목 현상을 제거합니다. 주니퍼는 트래픽 로드 밸런스를 유지하기 위해 다이나믹 로드 밸런싱(Dynamic Load Balancing)과 적응형 라우팅(Adaptive Routing)을 지원합니다. 주니퍼는 혼잡을 관리하기 위해 DCQCN(Data Center Quantized Congestion Notification), PFC(Priority Flow Control), ECN(Explicit Congestion Notification)을 지원합니다. 마지막으로 주니퍼는 지연을 줄이기 위해 필요한 경우 버퍼를 최대화하는 동급 최강의 머천트 실리콘 및 커스텀 ASIC 아키텍처, VOQ(virtual output queuing), 스파인 아키텍처 내 셀 기반 패브릭을 사용합니다.

주니퍼의 포트폴리오에는 NVMe/RoCE 또는 NFS/RDMA를 사용하여 IP 기반 스토리지 연결을 제공하는 표준 기반의 개방형 스위치가 포함되어 있습니다(이전 FAQ 참조). 주니퍼의 IP 스토리지 네트워킹 솔루션 설계는 소규모 4노드 구성에서 수백 또는 수천 개의 스토리지 노드로 확장할 수 있습니다.