NVIDIA, NVLink Fusion 공개: AI 인프라 혁신의 새 시대가 열리다

2025년 5월, 대만에서 열린 컴퓨텍스(Computex)에서 NVIDIA가 차세대 AI 인프라를 위한 혁신 기술인 NVLink Fusion을 전격 공개했습니다. 이 기술은 AI와 데이터센터 시장에 지각변동을 예고하며, 업계의 뜨거운 관심을 받고 있습니다.

 

 

NVLink Fusion 이란 ?

NVLink Fusion은 NVIDIA가 자사의 고성능 인터커넥트 기술(NVLink)을 외부 기업에 개방한 첫 사례입니다. 이 기술은 기존에는 NVIDIA GPU와 CPU 간의 초고속 데이터 교환을 위해 내부적으로만 사용됐지만, 이제는 외부의 커스텀 CPU, ASIC, 다양한 AI 가속기와도 연결할 수 있도록 확장되었습니다.

주요 특징

• 이기종 AI 인프라 구현: NVIDIA 하드웨어와 타사 커스텀 칩(ASIC, CPU 등)을 랙 단위로 자유롭게 연결해, 반(半)맞춤형 AI 인프라를 구축할 수 있습니다.
• 초고속 데이터 전송: 5세대 NVLink는 800Gbps의 처리량을 제공하며, GPU당 최대 1.8Tbps의 대역폭을 지원합니다. 이는 PCIe Gen5 대비 14배 빠른 속도입니다.
• 확장성 극대화: 클라우드 사업자와 대형 데이터센터는 NVLink Fusion을 활용해 수백만 개의 GPU와 다양한 ASIC을 조합, 초대형 AI 팩토리(공장)를 손쉽게 구축할 수 있습니다.

주요 파트너 및 생태계 확장

NVIDIA는 이번 NVLink Fusion 출시에 맞춰 미디어텍(MediaTek), 마벨(Marvell), 알칩(Alchip), 아스테라 랩스(Astera Labs), 시놉시스(Synopsys), 케이던스(Cadence) 등과 협력한다고 밝혔습니다. 이들 기업은 모델 트레이닝과 AI 추론을 위한 NVLink Fusion 실리콘 디자인 서비스를 제공합니다.
또한, 후지쯔(Fujitsu)와 퀄컴(Qualcomm)은 자사 CPU에 NVLink Fusion을 최초로 통합할 예정입니다.

NVLink Fusion의 주요 장점 : 타 칩 대비 차별화 포인트

 

1. 초고속 대역폭과 저지연 통신

NVLink Fusion은 5세대 NVLink 기술을 기반으로 GPU, CPU, ASIC 등 다양한 칩 간에 최대 800Gb/s의 처리량과 GPU당 1.8TB/s의 대역폭을 제공합니다. 이는 기존 PCIe Gen5 대비 14배 빠른 속도이며, 데이터 전송 지연도 극히 낮아 대규모 AI 트레이닝과 추론 환경에서 병목 현상을 최소화합니다
이러한 고성능 연결은 복잡한 AI 워크로드, 대규모 병렬 처리, 실시간 데이터 분석 등에서 탁월한 성능을 발휘합니다.

2. 이기종 칩(타사 CPU/ASIC 등)과의 유연한 연결

NVLink Fusion은 Nvidia의 GPU뿐 아니라 후지쯔, 퀄컴 등 타사 CPU와 미디어텍, 마벨, 알칩 등 다양한 ASIC까지 자유롭게 연결할 수 있도록 설계되었습니다.
이로써 데이터센터와 클라우드 사업자는 맞춤형(세미 커스텀) AI 인프라를 구축할 수 있으며, 특정 벤더에 종속되지 않고 다양한 하드웨어를 조합해 최적의 성능과 비용 효율을 달성할 수 있습니다

3. 뛰어난 확장성과 네트워킹 생태계

NVLink Fusion은 랙 스케일 시스템, NVIDIA ConnectX-8 SuperNIC, Spectrum-X 이더넷, Quantum-X800 InfiniBand 등 엔드-투-엔드 네트워킹 플랫폼과 통합됩니다.
이 덕분에 수백만 개의 GPU와 다양한 칩을 단일 AI 팩토리로 확장할 수 있으며, NVLink Switch를 통한 올 투 올(all-to-all) 통신 구조로 대규모 모델 병렬 처리와 멀티 노드 클러스터링이 용이합니다

4. 메모리 일관성과 효율적 리소스 활용

NVLink Fusion은 GPU, CPU, ASIC 간 **메모리 일관성(coherent memory)**을 지원하여, 여러 칩의 메모리를 하나의 풀처럼 사용할 수 있습니다.
이로써 대용량 데이터셋을 빠르게 공유하고, 워크로드 분산과 리소스 활용이 극대화됩니다

5. 개방형 생태계와 파트너십

Nvidia는 NVLink Fusion을 통해 자사 생태계를 외부 파트너에게 개방, 다양한 반도체 설계 기업과 협력하여 맞춤형 AI 인프라 구축을 지원합니다.
이러한 개방성은 기존의 폐쇄적 인터커넥트와 달리, 시장의 다양한 요구에 유연하게 대응할 수 있는 강점입니다

 

특징	NVLink Fusion	PCIe Gen5 등 기존 인터커넥트
대역폭	최대 1.8TB/s(GPU당)	최대 64GB/s(PCIe 4.0)
지연 시간	5~10ns(4세대 기준)	100~200ns
확장성	랙·클러스터 단위 확장	제한적
이기종 칩 연결	가능	제한적
메모리 일관성	지원	미지원
생태계 개방성	매우 높음	낮음

연결 방식의 핵심 구조

 

1. 칩렛(Chiplet) 및 IP 통합

NVLink Fusion은 외부 CPU 또는 ASIC 설계에 Nvidia의 NVLink 인터페이스 IP(지적재산권)를 통합하거나, 별도의 NVLink 칩렛을 추가함으로써 Nvidia GPU와 직접 연결할 수 있도록 설계되었습니다.

• ASIC 또는 CPU 설계자가 NVLink 칩렛이나 IP를 자신의 칩에 통합하면, 해당 칩은 NVLink 기반 고속 데이터 전송 네트워크에 바로 참여할 수 있습니다

2. 랙 스케일 아키텍처
이렇게 NVLink Fusion이 적용된 CPU, ASIC, Nvidia GPU는 랙 단위의 대규모 AI 인프라(예: AI 팩토리)에서 자유롭게 혼합·배치될 수 있습니다.

• 예를 들어, 후지쯔(Fujitsu), 퀄컴(Qualcomm) 등은 자사 CPU에 NVLink Fusion을 통합해 Nvidia GPU와 직접 연결된 AI 데이터센터를 구축할 수 있습니다

3. 초고속·저지연 데이터 전송
NVLink Fusion은 5세대 NVLink 기술을 활용해, GPU당 최대 1.8TB/s(테라바이트/초)의 대역폭을 제공합니다. 이는 PCIe Gen5 대비 14배 빠른 속도입니다

• 이 덕분에 AI 트레이닝, 추론 등 대규모 연산에서 CPU, ASIC, GPU 간 데이터 병목현상이 크게 줄어듭니다.

4. 생태계 및 파트너십
NVLink Fusion은 미디어텍, 마벨, 알칩, 아스테라 랩스, 시놉시스, 케이던스 등 다양한 반도체 설계 기업과의 협업을 통해, 맞춤형(세미 커스텀) AI 인프라를 손쉽게 구축할 수 있도록 지원합니다

왜 중요한가 ?

 

NVIDIA의 CEO 젠슨 황(Jensen Huang)은 “데이터센터 아키텍처의 대전환이 시작됐다. AI가 모든 컴퓨팅 플랫폼에 융합되고 있다”며, “NVLink Fusion은 NVIDIA의 AI 플랫폼과 생태계를 파트너들에게 개방해, 맞춤형 AI 인프라 구축을 가능하게 한다”고 강조했습니다.

이전까지 NVIDIA는 NVLink 기술을 자사 생태계에만 제한해왔으나, 최근 AMD, 인텔, Arm, 구글, 마이크로소프트 등 주요 기업들이 ‘UALink 컨소시엄’을 결성해 오픈 AI 인터커넥트 표준을 추진하는 등 시장의 변화 압력이 커졌습니다.
NVLink Fusion은 이러한 흐름에 대응하면서도, NVIDIA의 생태계 주도권을 강화하는 전략적 한 수로 평가받고 있습니다.

NVLink Fusion이 AI 워크로드에 미치는 5가지 핵심 영향

1. 대규모 모델 훈련 시간 단축

NVLink Fusion은 GPU당 1.8TB/s의 대역폭과 5~10ns의 초저지연을 제공해, 기존 PCIe Gen5 대비 14배 빠른 데이터 전송을 가능하게 합니다

• 예시: OpenAI의 GPT-3 훈련 시 NVLink 기반 시스템은 InfiniBand 대비 51.2배 빠른 성능을 기록했습니다
• 효과: 1,000억 개 이상의 파라미터를 가진 초대형 언어 모델(LLM) 훈련 시간을 주 단위에서 시간 단위로 단축

2. 이기종 칩 협업을 통한 워크로드 최적화

CPU, ASIC, GPU가 NVLink Fusion으로 직접 연결되면, 각 칩의 특화된 연산 기능을 활용한 워크로드 분산이 가능해집니다.

• 사례:
  • CPU: 데이터 전처리 및 메모리 관리
  • ASIC: 특정 AI 추론 작업(예: 컴퓨터 비전)
  • GPU: 대규모 트레이닝
• 결과: 에너지 효율 30% 향상, 전체 시스템 성능 2배 증가

3. 메모리 일관성으로 인한 리소스 활용도 극대화

NVLink Fusion은 GPU, CPU, ASIC 간 **메모리 공유(coherent memory)**를 지원합니다.

• 장점:
  • 데이터 복사 오버헤드 90% 감소
  • 대용량 데이터셋 처리 시 메모리 병목 현상 해결
• 적용 분야: 실시간 추론(예: 자율주행), 대화형 AI(예: 챗봇).

4. AI 팩토리 확장성 증대

NVLink Fusion은 랙 스케일 아키텍처와 결합해 수백만 개의 GPU/ASIC을 단일 클러스터로 통합할 수 있습니다

• 주요 기술:
  • NVIDIA Quantum-X800 InfiniBand: 800Gb/s 처리량
  • NVIDIA Spectrum-X 이더넷: 다중 노드 간 지연 시간 최소화1
• 효과: 10,000개 이상의 GPU를 사용하는 초대형 모델(예: GPT-5) 훈련 시 95%의 하드웨어 활용률 달성

5. 에이전틱 AI 구현 가속화

에이전틱 AI(자율적 목표 수행 AI)는 복잡한 의사결정을 위해 실시간 데이터 교환이 필수적입니다.

• NVLink Fusion의 역할:
  • 다중 AI 에이전트 간 협업 시 1ms 미만의 지연 시간 보장
  • 예시: 제조 공장에서 100대의 로봇 협업 시스템 응답 속도 4배 향상

결론 및 전망

 

NVLink Fusion의 등장은 AI 인프라 시장에서 이기종 하드웨어의 자유로운 조합, 초고속 데이터 전송, 대규모 확장성 등 새로운 패러다임을 제시합니다.
클라우드, 데이터센터, AI 팩토리 등 다양한 분야에서 맞춤형 AI 인프라 구축이 가속화될 것으로 기대됩니다.
NVIDIA가 주도하는 AI 생태계가 한층 더 개방적이고 확장성 높은 방향으로 진화하고 있음을 보여주는 상징적인 사건입니다.