AI 네트워킹 인프라, 이더넷과 인피니밴드 중 누가 승리할까

 

Dell'Oro Group 의 연구에 따르면 이러한 애플리케이션을 지원하는 데 필요한 인공 지능(AI) 워크로드와 백엔드 네트워크 인프라로 인해 데이터 센터 스위치 지출이 50% 증가할 것으로 예상됩니다 . 그러나 여전히 논쟁의 여지가 있는 것은 InfiniBand 또는 이더넷이 곧 100억 달러 규모가 될 이 시장에서 지배적인 AI 백엔드 네트워크 패브릭으로 부상할 것인지 여부입니다.

AI 백엔드 네트워크에 대한 지출은 현재 전체 데이터 센터 스위치 시장의 15% 미만을 차지합니다. 그러나 분석가들은 2027년까지 AI 백엔드 네트워크 스위치가 데이터센터 스위치 시장의 40%를 차지할 것으로 예상하고 있습니다.

GenAI(Generative AI) 애플리케이션은 AI 시대의 새로운 시대를 열고 있습니다. Dell'Oro 부사장 Sameh Boujelbene은 "처리해야 하는 매개변수의 수가 엄청나게 많다는 점에서 두각을 나타내고 있습니다"라고 말했습니다.

일부 대형 AI 애플리케이션은 오늘날 수조 개의 매개변수를 처리하고 있으며 그 수는 매년 10배씩 증가할 것입니다. “이러한 급속한 성장에는 수천 또는 심지어 수십만 개의 가속 노드 배포가 필요합니다. 대규모 클러스터에서 이러한 가속화된 노드를 연결하려면 AI 백엔드 네트워크로 알려진 데이터 센터 규모의 패브릭이 필요합니다. 이는 범용 서버를 연결하는 데 주로 사용되는 기존 프런트엔드 네트워크와 다릅니다.”라고 Boujelbene은 말했습니다.

이 회사는 Google , Amazon Web Services , Microsoft , Meta, Alibaba, Tencent, ByteDance 및 Baidu와 같은 주요 클라우드 서비스 제공업체가 구축한 다양한 AI 백엔드 네트워크를 분석했습니다 . Boujelbene는 현재 배포된 고급 가속 서버의 수를 기준으로 Microsoft의 서버가 "단연 최대 규모이고 Google과 Meta가 그 뒤를 따른다"고 판단했습니다.

반응형

이더넷과 InfiniBand

InfiniBand와 이더넷은 양측 제조업체가 AI 백엔드 네트워크 시장 지배력을 추구함에 따라 여전히 치열한 경쟁을 벌이고 있습니다. Dell'Oro는 Infiniband가 현재의 선두를 유지할 것으로 예상하지만 이더넷 또한 도입에 있어 상당한 이득을 볼 것으로 예상합니다. Boujelbene은 이더넷이 2027년까지 시장 점유율 20%에 도달할 것으로 예상한다고 말했습니다.

시장 예측에도 불구하고 중요한 질문은 여전히 ​​남아 있습니다. "최소 작업 완료 시간을 보장하면서 수십만, 잠재적으로는 수백만 개의 가속 노드로 확장할 수 있는 가장 적합한 패브릭은 무엇입니까?"

그 논쟁은 계속해서 치열해질 것 같습니다.

어떤 사람들은 이더넷이 InfiniBand보다 적어도 한 세대 앞서 있다고 주장할 수도 있지만, 네트워크 속도가 중요한 것은 아닙니다. Boujelbene은 InfiniBand와 이더넷이 혼잡 제어와 적응형 라우팅을 다양한 방식으로 처리하며 이러한 요소는 기업이 자신의 요구 사항에 가장 적합한 패브릭을 결정하는 데 도움이 될 수 있다고 말했습니다.

"InfiniBand는 AI 백엔드 네트워크의 성능 측면에서 이더넷보다 앞서 있었지만 격차를 줄이기 위해 이더넷이 크게 개선되고 있습니다."라고 말했습니다.

Dell'Oro는 시장이 지속적으로 발전함에 따라 클라우드 서비스 제공업체가 InfiniBand를 선호하고 대기업이 이더넷을 선호할 것으로 예상합니다.

<sdxcentral>

 

관련기사

AI 네트워킹, 인피니밴드에서 이더넷으로 대세 바뀐다 (ZDNET Korea)

Cisco explains why AI networking and Ethernet fabric are a perfect match (sdxcentral)

Cisco shapes its strategy for Ethernet-based AI networks (networkworld)

What AI Means For Networking Infrastructure In 2024 (Forbes)