AI 데이터 센터를 위한 광학 상호 연결: 플러그형 광학 모듈부터 공동 패키지 광학까지

AI 데이터 센터를 위한 광학 상호 연결GPU, 스위치, 랙 및 데이터 센터 시스템 간에 정보를 이동하기 위해 빛을 사용하는 고속 데이터 링크입니다. 대규모 AI 클러스터에는 원시 컴퓨팅 성능 이상의 것이 필요하기 때문에 중요합니다. 또한 여러 장치에서 고대역폭, 짧은 대기 시간, 전력 효율적인 데이터 이동이 필요합니다.

지난 몇 년 동안 대부분의 AI 인프라 논의는 GPU에 집중되었습니다. GPU는 대규모 교육 및 추론에 필요한 병렬 컴퓨팅을 제공하므로 이러한 초점을 이해할 수 있습니다. 그러나 GPU 클러스터는 단순한 가속기 더미가 아닙니다. 이는 분산 컴퓨팅 시스템이며, 분산 시스템은 각 프로세서가 얼마나 빨리 계산할 수 있는지뿐만 아니라 프로세서 간에 데이터가 얼마나 빨리 이동할 수 있는지에 따라 제한됩니다.

수천 개의 GPU가 함께 작동하면 상호 연결이 컴퓨팅 시스템 자체의 일부가 됩니다. GPU, 스위치 및 랙 간의 데이터 경로가 유지되지 않으면 값비싼 가속기는 기다리는 데 더 많은 시간을 소비하고 컴퓨팅 시간은 더 적게 소비합니다. 그런 의미에서 광 상호 연결은 주변 네트워킹 주제가 아닙니다. 대규모 AI 시스템이 설치된 컴퓨팅을 효과적으로 사용할 수 있는지 여부를 결정하는 물리적 계층 중 하나입니다.

AI 훈련은 문제를 가장 쉽게 볼 수 있는 곳이다. 대규모 모델에는 단일 GPU가 효율적으로 보유하거나 처리할 수 있는 것보다 훨씬 더 많은 수의 매개변수가 포함될 수 있습니다. 워크로드는 여러 액셀러레이터에 분산됩니다. 각 GPU는 작업의 일부를 계산한 다음 중간 결과를 다른 GPU와 교환합니다. 이러한 교환은 훈련 중에 반복적으로 발생하여 AI 클러스터 내부에 과도한 동서 트래픽을 생성할 수 있습니다.

추론은 또한 더 단순해 보이곤 했습니다. 이전 세대의 AI 애플리케이션에서는 소수의 GPU가 쿼리를 처리하는 것을 상상하는 것이 합리적이었습니다. 현대의 추론은 더 복잡한 추론, 더 긴 맥락, 검색, 도구 사용, 계획 및 에이전트 워크플로로 이동하고 있습니다. 이러한 경우 시스템은 더 많은 단계에서 더 많은 컴퓨팅 리소스를 조정해야 할 수 있습니다. 결과적으로 추론은 상호 연결에 민감한 워크로드가 될 수도 있으며, 특히 배포가 대규모로 많은 사용자에게 서비스를 제공하는 경우 더욱 그렇습니다.

실질적인 교훈은 간단합니다. 일단 AI 워크로드에 하나의 시스템처럼 작동하려면 많은 프로세서가 필요합니다.GPU 상호 연결 대역폭성과 방정식의 일부가 됩니다.

훈련과 추론은 네트워크에 서로 다른 압력을 가하지만 둘 다 데이터 이동에 따라 달라집니다.

훈련 중에 GPU는 기울기, 활성화, 매개변수 및 중간 데이터를 교환합니다. 모델이 더 많이 분산되고 클러스터가 클수록 동기화 및 데이터 교환이 더욱 중요해집니다. 추론 중 부담은 워크로드 설계에 따라 달라집니다. 간단한 요청-응답 추론은 훈련만큼 네트워크에 스트레스를 주지 않을 수 있지만 다단계 추론, 검색 및 에이전트 실행은 컴퓨팅 노드, 스토리지 시스템 및 가속기 그룹 간의 통신을 증가시킬 수 있습니다.

이것이 바로 광학 상호 연결이 AI 데이터 센터 아키텍처의 핵심이 된 이유입니다. 더 이상 더 빠른 칩을 만드는 방법만이 문제가 아닙니다. 또한 높은 대역폭, 관리 가능한 거리, 낮은 대기 시간, 제어 가능한 전력 소비를 유지하는 방식으로 이러한 칩을 연결하는 방법이기도 합니다.

구리는 여전히 AI 시스템에서 중요한 위치를 차지하고 있습니다. 서버, 섀시 또는 긴밀하게 통합된 캐비닛 내부의 매우 짧은 전기 경로의 경우 구리는 효율적이고 서비스 가능하며 비용 효율적일 수 있습니다. 동일한 구리 기반 접근 방식이 더 높은 레인 속도, 더 긴 링크 및 더 큰 클러스터 토폴로지로 추진될 때 문제가 나타납니다.

고속에서 구리 링크는 신호 무결성, 도달 범위 및 전력이라는 세 가지 연결 제약 조건에 직면합니다. 데이터 전송률이 높을수록 깨끗한 ​​전기 신호를 먼 거리로 전송하는 것이 더 어려워집니다. 패시브 구리는 일반적으로 짧은 링크로 제한됩니다. 활성 구리 솔루션은 전자 장치를 추가하여 범위를 확장할 수 있지만 이러한 전자 장치는 전력, 열, 비용 및 설계 복잡성을 추가합니다.

SerDes 기술은 초고속 전기 인터페이스를 가능하게 했지만 신호 속도가 높을수록 구리 링크는 손실, 반사, 누화 및 등화 복잡성에 점점 더 민감해졌습니다. AI 시스템이 더 빠른 전기 경로로 이동함에 따라 구리의 유효 도달 범위는 제품 및 아키텍처에 더욱 의존하게 됩니다.

이것은 구리가 사라진다는 의미는 아닙니다. 이는 구리의 강도가 여전히 물리적 거리와 일치하는 곳, 즉 짧고 엄격하게 제어되는 전기 경로에서 구리가 점점 더 많이 사용되고 있음을 의미합니다. 링크가 몇 미터 이상으로 이동하거나 많은 링크가 랙 규모 또는 클러스터 규모 시스템에서 조밀하게 작동해야 하면 광 링크가 더욱 매력적이 됩니다.

가장 중요한 차이점은 추상적으로 "구리 대 섬유"가 아닙니다. 실제 차이점은 링크 거리와 시스템 계층입니다.

캐비닛 내부에서 GPU와 스위치 칩은 매우 짧은 전기 경로를 통해 통신할 수 있습니다. 고밀도 GPU 캐비닛과 같은 시스템에서는 물리적 거리가 짧기 때문에 많은 내부 링크가 전기적으로 유지될 수 있습니다. 그러나 랙 간, 캐비닛 간, 데이터 센터 규모의 링크는 다른 문제를 야기합니다. 이러한 거리는 더 길고, 링크 수는 더 많으며, 신호 손실 비용은 시스템 수준에서 훨씬 더 뚜렷해집니다.

구리는 여전히 특정 단거리 응용 분야에 맞게 설계될 수 있습니다. 아키텍처가 더 길거나 더 많이 분산된 연결에서 높은 대역폭을 요구할 때 파이버는 강력해집니다.

상호 연결 전원은 단지 구성 요소 사양의 품목이 아닙니다. AI 데이터 센터 규모에서는 수천 또는 수백만 개의 고속 레인이 링크 전력을 주요 설계 제약으로 바꿀 수 있습니다. 활성 구리 링크, 리타이머, 균등화 및 열 관리는 모두 시스템에 부담을 더합니다.

마지막 엔지니어링 질문은 링크가 작동할 수 있는지 여부만이 아닙니다. 이는 해당 링크가 밀집된 AI 시설의 전력 및 열 범위 내에서 대규모로 작동할 수 있는지 여부입니다. 이것이 광 상호 연결이 네트워킹 주제에서 AI 인프라 주제로 이동한 이유 중 하나입니다.

AI 데이터 센터의 구리 및 광섬유 상호 연결

광섬유 링크는 전류 대신 빛을 사용하여 정보를 전달합니다. 이는 AI 데이터 센터에서 높은 대역폭, 긴 도달 범위, 전자기 간섭에 대한 내성, 거리에 따른 조밀한 고속 링크에 대한 더 나은 적합성 등 여러 가지 이점을 제공합니다.

광섬유의 가치는 시스템이 여러 랙, 여러 캐비닛 또는 여러 데이터 홀을 연결해야 하는 경우 특히 분명합니다. 전기 구리 신호는 거리와 속도에 따라 성능이 저하됩니다. 광 신호는 높은 데이터 속도를 유지하면서 훨씬 더 멀리 이동할 수 있으므로 광섬유는 분산 AI 클러스터에 자연스럽게 적합합니다.

WDM또는 파장 분할 다중화를 통해 여러 광 파장이 동시에 동일한 광섬유를 통해 이동할 수 있습니다. 각 파장은 별도의 데이터 스트림을 전달할 수 있습니다. 실제로 WDM은 하나의 광섬유를 여러 개의 병렬 광 채널로 전환합니다.

이것이 광 링크가 구리 링크와 다르게 확장되는 이유 중 하나입니다. 모든 트래픽 경로에 별도의 물리적 도체를 추가하는 대신 광학 시스템은 파장 채널, 더 높은 변조 형식 및 더 빠른 광학 구성 요소를 결합하여 용량을 늘릴 수 있습니다.

단일 광섬유에서 WDM 다중 파장 전송

올바른 엔지니어링 선택은 거리, 대역폭, 비용, 서비스 가능성 및 열 설계에 따라 달라집니다. 구리는 짧게 제어되는 링크에 여전히 유용합니다. AI 클러스터가 외부로 확장됨에 따라 광섬유의 중요성이 점점 커지고 있습니다.

에이플러그형 광트랜시버전기신호를 광신호로, 광신호를 다시 전기신호로 변환하는 모듈입니다. 한쪽은 스위치, 네트워크 인터페이스 또는 시스템 보드에 전기적으로 연결됩니다. 반대쪽은 광섬유에 연결됩니다.

AI 데이터 센터에서 플러그형 광 모듈은 캐비닛, 랙 및 스위치 간의 링크에 특히 중요합니다. 일반적으로 GPU 캐비닛 내부의 모든 짧은 링크에 대한 주요 기술은 아닙니다. 이러한 구별은 일반적인 오해를 방지하기 때문에 중요합니다. 광학 모듈은 모든 내부 GPU 배선을 자동으로 교체하지 않습니다.

고밀도 GPU 캐비닛 내부에서 GPU, 스위치 및 보드 사이의 거리는 불과 센티미터에서 소수 미터에 불과할 수 있습니다. 특히 시스템이 긴밀하게 통합된 장치로 설계된 경우에는 전기 링크가 여전히 의미가 있습니다.

트래픽이 캐비닛을 떠나 다른 랙, 다른 스위치 또는 다른 공간으로 이동하면 링크 요구 사항이 변경됩니다. 거리가 길어지고 링크 수가 늘어나고 광 모듈이 더욱 매력적으로 보입니다.

계층 구조에 대해 생각하는 유용한 방법은 다음과 같습니다.

수요망은 간단합니다. 더 많은 GPU에는 더 많은 시스템이 필요합니다. 더 많은 시스템에는 더 많은 캐비닛이 필요합니다. 캐비닛이 많을수록 캐비닛과 스위치 사이에 더 빠른 속도의 상호 연결이 필요합니다. 이러한 링크 수가 증가함에 따라 광 모듈에 대한 수요가 증가합니다.

이것이 광트랜시버가 AI 인프라 성장과 밀접하게 연관되는 이유입니다. 모듈은 독립형 상자이기 때문에 가치가 없습니다. 대규모 GPU 클러스터가 하나의 시스템으로 작동할 수 있는 물리적 네트워크를 가능하게 한다는 점에서 가치가 있습니다.

플러그형 광 트랜시버는 외부에서 단순해 보이지만 내부적으로는 광학, 전자, 반도체, 패키징 및 정밀 정렬을 결합합니다. 주요 구성요소는 레이저, 변조기, 광검출기, DSP 및 광커플링 시스템입니다.

플러그형 광트랜시버 내부

레이저 다이오드는 광 신호의 광원을 제공합니다. 반드시 그 자체로 데이터를 전달하는 것은 아닙니다. 대신 변조될 수 있는 안정적인 광 캐리어를 생성합니다.

재료 시스템이 중요합니다. 실리콘은 디지털 로직에는 탁월하지만 효율적인 발광체는 아닙니다. 광학 레이저는 일반적으로 다음과 같은 III-V 화합물 반도체를 사용합니다.InP또는GaAs, 왜냐하면 이러한 물질은 빛을 생성하는 데 훨씬 더 적합하기 때문입니다.

광학 모듈 및 관련 시스템에는 여러 가지 레이저 유형이 나타납니다.

기존의 플러그형 광학 장치에서 실리콘 포토닉스 및 CPO로의 전환은 레이저의 역할을 변화시킵니다. 많은 플러그형 모듈에서 레이저와 변조기는 긴밀하게 통합될 수 있습니다. CPO 스타일 설계에서 레이저는 외부 광원으로 패키지 외부에 있을 수 있으며 변조는 실리콘 포토닉스 칩 내부에서 발생합니다.

변조기는 빈 광 캐리어를 데이터 전달 신호로 바꾸는 구성 요소입니다. 이는 전기 데이터 스트림을 가져와 광 신호를 변경하여 1과 0이 빛의 강도 또는 위상 동작으로 표시될 수 있도록 합니다.

두 가지 중요한 변조 방식은 다음과 같습니다.EAM그리고MZI.

전기흡수 변조기는 전압이 가해질 때 물질이 빛을 흡수하는 강도를 변경합니다. 레이저와 통합하여 EML을 형성할 수 있으며 이는 기존 고속 광학 모듈에 널리 사용됩니다.

Mach-Zehnder 간섭계 변조기는 다르게 작동합니다. 빛을 두 개의 경로로 나누고 한 경로의 위상을 변경한 다음 빛을 재결합합니다. 위상 관계에 따라 재결합된 신호는 더 강해질 수도 있고 약해질 수도 있습니다. 이 접근법은 실리콘 도파관 구조를 사용하여 구현될 수 있기 때문에 실리콘 포토닉스에서 중요합니다.

수신 측에서는 광신호를 다시 전기 신호로 변환해야 합니다. 그것이 광검출기의 역할이다.

광검출기는 광전 효과를 사용합니다. 즉, 들어오는 광자가 반도체 재료의 캐리어를 여기시켜 전류를 생성합니다. 좋은 광검출기는 신속하게 반응하고, 약한 광전력에서 충분한 전류를 생성하며, 잡음을 낮게 유지해야 합니다.

특히 중요한 세 가지 매개변수는 다음과 같습니다.

실리콘 포토닉스에서는 실리콘 자체가 1310nm 및 1550nm와 같은 일반적인 통신 파장을 흡수하는 데 효과적이지 않기 때문에 게르마늄이 광검출에 자주 사용됩니다. 이는 실리콘 포토닉스가 순수한 실리콘만이 아닌 신중한 재료 통합에 어떻게 의존하는지 보여주는 한 예입니다.

그만큼DSP많은 고속 광 모듈 내부의 디지털 신호 처리 엔진입니다. 이는 신호를 인코딩, 균등화, 복구 및 정리하는 데 도움이 됩니다.

고속에서 광 링크는 단순한 온-오프 펄스를 보내는 것이 아닙니다. 최신 모듈은 자주 사용합니다.PAM4는 4개의 신호 레벨을 사용하여 기호당 2비트를 나타냅니다. PAM4는 대역폭 효율성을 향상시키지만 신호가 잡음과 왜곡에 더 민감하게 만듭니다. DSP는 불완전한 신호에서 의도한 데이터를 복구하는 데 도움이 됩니다.

광학 모듈 속도 로드맵은 400G에서 800G로 이동했으며, 1.6T 배포와 더 빠른 속도의 설계로 업계는 더 빠른 전기 및 광학 레인을 향해 나아가고 있습니다. 정확한 아키텍처는 모듈 설계, 레인 수, 변조 방식 및 시스템 요구 사항에 따라 다르지만 추세는 분명합니다. 모든 세대가 DSP, 광학 장치, 패키징 및 테스트 프로세스에 더 많은 압력을 가하고 있다는 것입니다.

마지막으로 중요한 기능은 광학 결합입니다. 칩에서 생성되거나 처리된 빛은 매우 높은 정밀도로 광섬유에 들어가야 합니다. 단일 모드 광섬유 코어의 너비는 약 8~9마이크로미터에 불과하므로 결합은 마이크론 규모의 정렬 문제입니다.

두 가지 일반적인 접근 방식은 맞대기 결합과 격자 결합입니다.

맞대기 커플링칩 가장자리에서 광섬유로 빛을 직접 보냅니다. 효율적일 수 있지만 정렬이 까다롭습니다.그레이팅 커플링칩 표면의 패턴 구조를 사용하여 빛을 도파관 안팎으로 방향을 전환합니다. 일부 설계에서는 더 많은 정렬 허용 오차를 제공할 수 있지만 파장 및 효율성도 고려해야 합니다.

생산 규모에서는 단순히 광학 커플링을 한 번만 시연하는 것이 과제가 아닙니다. 문제는 이를 대량으로 반복적이고 안정적이며 경제적으로 수행하는 것입니다.

광학 모듈은 양방향 변환 시스템으로 이해될 수 있습니다. 전송 시 전기 데이터를 광학 데이터로 변환합니다. 수신 시 광학 데이터를 전기 데이터로 다시 변환합니다.

전기-광-전기 신호 흐름

전송 방향에서는 GPU 또는 스위치 ASIC이 광학 모듈을 향해 전기 신호를 보냅니다. DSP는 신호를 조절합니다. 변조기는 레이저 소스의 빛에 정보를 부여합니다. 그런 다음 결합 광학 장치가 해당 빛을 광섬유에 정렬합니다.

수신 방향에서는 빛이 광섬유를 빠져나와 광검출기로 향하게 됩니다. 광검출기는 광신호를 전류로 변환합니다. 그런 다음 DSP는 데이터를 복구하고 왜곡을 수정한 다음 사용 가능한 전기 신호를 시스템으로 다시 보냅니다.

이러한 전기-광-전기 변환은 플러그형 광 상호 연결의 기초입니다.

광학 모듈은 자연적으로 병합되지 않는 두 개의 반도체 세계를 결합합니다.

첫 번째는 실리콘 디지털 세계입니다. DSP는 실리콘 기반 IC입니다. 이는 고급 CMOS 설계, 디지털 신호 처리 및 고속 전기 인터페이스에 의존합니다.

두 번째는 화합물-반도체 광학계이다. 레이저, 많은 변조기 및 일부 광검출기는 InP 및 GaAs와 같은 재료를 사용합니다. 이러한 물질은 실리콘이 할 수 없는 방식으로 효율적으로 빛을 생성, 변조 또는 감지할 수 있기 때문에 사용됩니다.

실리콘 DSP와 InP 광학 칩 제조

DSP는 기본적으로 디지털 칩입니다. 기호, 코딩, 수정, 등화 및 신호 복구를 다룹니다. 그 장벽은 알고리즘의 복잡성, 고속 혼합 신호 설계 및 고급 실리콘 구현입니다.

이는 레이저 제조의 세계보다는 CPU, GPU, 스위치, 네트워킹 ASIC의 세계에 더 가깝습니다. 따라서 설계 팀, 프로세스 흐름 및 제조 파트너는 화합물 반도체 광학 장치에 사용되는 것과 다릅니다.

InP 및 GaAs 광학 장치는 다른 프로세스 생태계에 속합니다. 웨이퍼는 더 작고, 재료는 다르게 작동하며, 공정 화학도 다르며, 광학 성능은 에피택시, 결함 제어 및 장치 구조에 크게 좌우됩니다.

선도적인 실리콘 파운드리가 자동으로 선도적인 InP 레이저 제조업체가 되는 것은 아닙니다. 장비, 조리법, 재료 지식 및 수율 문제가 다릅니다. 이것이 광학 상호 연결 공급망이 GPU 공급망보다 더 분산되어 있는 이유 중 하나입니다.

기판은 광학 장치를 구성하는 기본 재료입니다. InP 기반 레이저의 경우 결함이 그 위에서 성장한 광학 장치에 영향을 미칠 수 있으므로 재료 품질이 중요합니다.

에피택시는 기판 위에 기능성 층을 성장시키는 과정이다. 레이저 장치에서 이러한 층에는 전자와 정공이 재결합하여 광자를 방출하는 양자 우물 구조가 포함될 수 있습니다. 층 두께, 구성, 도핑을 엄격하게 제어해야 합니다. 작은 편차로 인해 파장이 바뀌거나 효율성이 감소하거나 신뢰성이 저하될 수 있습니다.

화합물 반도체 제조가 단순히 '다른 재료를 이용한 칩 제조'가 아닌 이유다. 이는 전문적인 광학 장치 제조 분야입니다.

실리콘 포토닉스 PIC기술은 실리콘 기반 구조를 사용하여 통합 칩에서 빛을 안내, 변조, 분할, 결합 및 감지합니다. 이는 첨단 전자제품의 제조 및 포장 세계에 광학 기능을 더 가깝게 가져오기 때문에 중요합니다.

실리콘 포토닉스 PIC는 모든 광학 기능이 실리콘만으로 만들어진다는 의미는 아닙니다. 실리콘은 빛을 유도하고 소형 도파관, 변조기 및 통합 체계를 지원할 수 있습니다. 그러나 실리콘은 효율적인 광원이 아니므로 외부 또는 별도로 통합된 III-V 레이저가 여전히 중요합니다.

Silicon Photonics는 SOI(silicon-on-insulator)를 플랫폼으로 사용하는 경우가 많습니다. 단순화된 용어로 SOI는 절연 산화물 층에 의해 기판으로부터 분리된 실리콘 층을 제공합니다. 실리콘과 이산화규소 사이의 높은 굴절률 대비는 소형 실리콘 도파관 내부에 빛을 가두는 데 도움이 됩니다.

이 도파관은 칩의 광학 와이어처럼 작동합니다. 이는 변조기, 스플리터, 커플러, 검출기 및 기타 광학 구조 사이에 빛을 전달합니다.

주요 제한은 빛 생성입니다. 실리콘은 빛을 조작하는 데 유용하지만 레이저 재료로는 비효율적입니다. 이것이 바로 실리콘 포토닉스 시스템이 종종 InP 기반 레이저 소스에 의존하는 이유입니다.

이러한 업무 분업은 CPO 아키텍처의 핵심입니다. 실리콘 포토닉스 PIC는 ASIC 가까이에 위치하여 도파관, 변조 및 감지를 처리할 수 있습니다. 레이저는 외부 광원으로 패키지 외부에 남아 포토닉 칩에 지속적인 빛을 공급할 수 있습니다.

함께 패키지된 광학 장치, 또는CPO, 광학 기능을 스위치 ASIC, GPU 인접 컴퓨팅 아키텍처 또는 패키지 수준 전자 장치에 더 가깝게 이동합니다. CPO는 시스템 후면의 플러그형 모듈에 모든 광학 변환 기능을 배치하는 대신 광학 엔진을 칩에 훨씬 더 가깝게 통합합니다.

NVIDIA가 CPO 전환 접근 방식을 설명합니다.ASIC과 동일한 패키지에서 플러그형 트랜시버를 실리콘 포토닉스로 교체하는 것과 같습니다. Broadcom은 마찬가지로 CPO 이더넷 스위치 아키텍처를 스위치가 있는 공통 패키지에 광학 엔진을 통합하는 것으로 설명합니다. 엔지니어링 목적은 전기 거리를 단축하고 고속 전기 신호 부담을 줄이며 높은 대역폭 밀도에서 전력 효율성을 향상시키는 것입니다.

단순화된 CPO 아키텍처에는 다음 네 가지 주요 블록이 포함됩니다.

Silicon Photonics PIC 및 외부 레이저 소스를 갖춘 CPO 아키텍처

아키텍처 변화는 광학 인터페이스의 위치입니다. 플러그형 모듈에서는 전기 신호가 칩이나 보드에서 모듈로 이동합니다. CPO에서는 광학 인터페이스가 ASIC 패키지에 더 가깝게 이동합니다. 짧은 전기 경로는 CPO가 초고밀도 AI 네트워킹에 매력적인 주된 이유입니다.

CPO는 레이저를 제거하지 않습니다. 앉는 자리와 하는 일이 달라집니다.

외부 레이저 소스는 패키지의 가장 뜨겁고 복잡한 부분 외부에 유지하면서 실리콘 포토닉스 엔진에 지속적인 빛을 제공할 수 있습니다. 이는 서비스 용이성과 열 설계에 도움이 됩니다. 레이저를 패키지 외부에 보관하면 ASIC 패키지에서 분리할 수 없는 부품이 아니라 교체 가능한 광전원으로 취급될 수 있습니다.

레이저 소스는 여전히 일반적으로 InP와 같은 III-V 재료를 기반으로 합니다. 실리콘 포토닉스는 ASIC에 가까운 광 라우팅 및 변조를 제공할 수 있지만 여전히 적절한 광원이 필요합니다.

CPO를 플러그형 광학 장치의 보편적인 대체품으로 이해해서는 안 됩니다. 두 아키텍처는 데이터 센터 네트워크의 서로 다른 계층에 서비스를 제공합니다.

보다 현실적인 미래는 공존이다. 플러그형 광학 장치는 많은 데이터 센터 링크에서 여전히 중요할 것입니다. CPO는 대역폭 밀도와 전력 압력이 가장 심각한 곳에서 성장할 것입니다.

CPO를 위한 가장 강력한 엔지니어링 동인은 그것이 "새롭다"는 것이 아닙니다. 대역폭 밀도가 높아질수록 고속 전기적 거리는 점점 더 비싸진다는 것이다. 광 변환을 ASIC에 더 가깝게 이동하면 가장 어려운 전기 경로의 길이가 줄어듭니다.

이를 통해 복잡한 전기 타이밍 조정의 필요성을 줄이고, 신호 무결성을 개선하고, 링크 전력을 낮추고, 밀도가 높은 스위치 시스템을 지원할 수 있습니다. 그러나 CPO는 또한 광학 패키징, 레이저 소스 전략, 열 설계 및 테스트 복잡성의 중요성을 높입니다.

플러그형 광학 아키텍처는 모듈을 ASIC과 물리적으로 분리된 상태로 유지합니다. 전기 신호는 모듈에 도달하기 위해 보드를 가로질러 이동해야 합니다. 매우 빠른 속도에서 이 거리를 유지하려면 신중한 채널 설계가 필요하며 종종 활성 신호 조절이 필요합니다.

CPO는 이 잔액을 변경합니다. ASIC 근처에 광학 엔진을 배치함으로써 빛으로 변환되기 전의 전기적 거리를 줄입니다. 그런 다음 광학 경로는 거리 확장이 더 유리한 광섬유를 통해 신호를 전달합니다.

공급업체가 보고한 CPO 성능 수치는 제품별로 다르며 각 스위치 아키텍처의 맥락 내에서 해석되어야 합니다. NVIDIA의 공개 CPO 자료에서는 플러그형 트랜시버 기반 설계에 비해 향상된 네트워크 탄력성과 지속적인 애플리케이션 런타임을 설명합니다.Broadcom은 Tomahawk 6 Davisson CPO 이더넷 스위치를 발표했습니다.102.4Tbps의 스위칭 용량을 제공하고 기존 플러그형 솔루션에 비해 광 상호 연결 전력 소비를 70% 줄입니다.

이러한 주장은 중요한 신호이지만 "모든 CPO 시스템이 항상 동일한 이점을 제공한다"로 일반화되어서는 안 됩니다. 실제 이점은 스위치 아키텍처, 광학 엔진 설계, 링크 토폴로지, 열 설계 및 배포 환경에 따라 달라집니다.

광 상호 연결은 일련의 전문 기술에 의존합니다. 한 레이어의 부족이나 생산량 문제로 인해 최종 모듈이나 시스템의 가용성이 제한될 수 있습니다.

공급망은 다음과 같은 계층으로 이해될 수 있습니다.

화합물 반도체 기판은 많은 광학 장치의 출발점입니다. InP와 GaAs는 재료 특성이 실리콘이 할 수 없는 방식으로 빛 생성 및 감지를 지원하기 때문에 사용됩니다.

결함이 장치 레이어로 전파되어 성능이나 신뢰성을 저하시킬 수 있으므로 고품질 기판이 필수적입니다. AI 데이터 센터 광학의 경우 고속 모듈과 CPO 광원에는 안정적이고 반복 가능한 광학 성능이 필요하기 때문에 이것이 중요합니다.

SOI 웨이퍼는 소형 광 도파관 및 통합 광자 구조를 위한 플랫폼을 제공하기 때문에 실리콘 포토닉스에 중요합니다. 이는 실리콘 포토닉스의 유일한 요소는 아니지만 기본적인 입력 요소입니다.

실리콘 포토닉스가 특수 광학 장치에서 대용량 데이터 센터 상호 연결 아키텍처로 이동함에 따라 SOI의 중요성이 커지고 있습니다.

디지털 IC 레이어는 여전히 필수적입니다. CPO가 긴 전기 경로의 역할을 줄이더라도 광학 시스템에는 여전히 드라이버 IC, 제어 로직 및 신호 처리 인텔리전스가 필요합니다. 플러그형 모듈에서 DSP는 가장 복잡하고 값비싼 구성 요소 중 하나일 수 있습니다. CPO에서는 일부 신호 처리 기능이 단순화될 수 있지만 전기-광자 조정은 여전히 ​​중요합니다.

CPO는 흔히 광학 기술로 설명되지만 패키징 기술이기도 합니다. 광 엔진, 전기 IC, 광섬유 인터페이스, 레이저 소스 및 열 경로는 하나의 시스템으로 함께 작동해야 합니다.

또한 순수 전기 장치보다 테스트가 더 어렵습니다. 엔지니어는 광 전력, 결합 손실, 변조 동작, 수신기 감도, 신호 무결성, 열 동작, 링크 신뢰성 등 광학 및 전기 성능을 모두 검증해야 합니다. 대규모로 보면 패키징과 테스트가 칩 설계만큼 중요해집니다.

시장 데이터는 광학 상호 연결 용량이 왜 전략적으로 중요해졌는지 보여 주지만 엔지니어링 사례는 여전히 대역폭 밀도, 전력 예산, 도달 범위, 패키징 타당성 및 시스템 신뢰성에 따라 달라집니다. 예측은 수요 압력을 나타낼 수 있지만 모든 광학 아키텍처가 동일한 속도로 확장된다는 것을 증명하지는 않습니다.

LightCounting은 광트랜시버 및 관련 제품 판매를 보고했습니다.2025년에는 238억 달러에 이르렀으며 이는 2024년보다 55% 증가한 것입니다. 이러한 성장은 데이터 센터 및 AI 인프라 배포, 특히 고속 이더넷 광학 및 관련 제품에 대한 높은 수요를 반영합니다.

이는 모든 광 모듈 카테고리가 동일하게 성장한다는 의미는 아닙니다. 이는 AI 클러스터가 확장됨에 따라 광-전기 경계가 주요 인프라 투자 영역이 되었음을 보여줍니다.

골드만삭스리서치는 예측했다.AI 네트워킹 전체 주소 지정 가능 시장은 2028년까지 9배 증가해 1,540억 달러에 이를 수 있으며 CPO가 해당 기회의 상당 부분을 차지할 수 있습니다. 이러한 수치는 모든 CPO 아키텍처가 동일한 속도로 채택될 것이라는 직접적인 증거보다는 시나리오 기반 시장 추정치로 가장 잘 처리됩니다.

엔지니어링 시사점은 헤드라인 숫자보다 더 중요합니다. AI 시스템이 더 밀도가 높아지고 분산됨에 따라 인터커넥트 레이어의 가치가 높아집니다. CPO, 실리콘 포토닉스, 외부 레이저, 광학 모듈, 광섬유 및 패키징은 모두 AI 데이터 이동 경로에 직접적으로 위치하기 때문에 더욱 중요해지고 있습니다.

AI 클러스터는 분산 시스템이기 때문에 광학적 상호 연결이 중요합니다. 시스템에서 사용하는 GPU와 스위치가 많을수록 데이터 이동이 더욱 중요해집니다.

구리는 짧고 제어된 전기 경로에 여전히 유용하지만 더 긴 고속 링크를 통해 확장하기가 더 어려워집니다. 광섬유는 도달 범위, 대역폭, EMI 내성 및 WDM 기반 용량 확장을 제공합니다.

플러그형 광 모듈은 여전히 ​​데이터 센터 네트워킹의 핵심입니다. 랙, 스위치 및 시스템을 연결하는 유연하고 서비스 가능한 방법을 제공합니다. CPO가 등장한다고 해서 사라지지는 않을 것이다.

CPO는 단순한 광학 모듈이 아닌 아키텍처의 변화입니다. 이는 종종 실리콘 포토닉스 PIC 및 외부 레이저 소스를 사용하여 광 변환을 ASIC에 더 가깝게 이동합니다. 대역폭 밀도와 전력 압력이 가장 심각한 곳에서 그 값이 가장 강합니다.

실리콘 포토닉스는 전자공학과 광학공학 사이의 가교 역할을 하지만 화합물 반도체 광원의 필요성을 제거하지는 않습니다. InP 레이저, SOI 웨이퍼, 광자 통합, 커플링, 패키징 및 테스트는 모두 시스템의 일부로 남아 있습니다.

광 인터커넥트 공급망이 분산되어 있습니다. 단일 기술 계층이 성공을 결정하지는 않습니다. 재료, 에피택시, 레이저, DSP, 실리콘 포토닉스, 패키징, 테스트, 모듈 및 광섬유 인프라는 모두 함께 확장되어야 합니다.

광 상호 연결은 빛을 사용하여 GPU, 스위치, 랙 및 데이터 센터 시스템 간에 정보를 이동하는 고속 데이터 링크입니다. 이는 AI 클러스터가 구리가 대규모로 효율적으로 지원할 수 있는 것보다 더 먼 거리와 더 높은 대역폭에서 데이터를 교환하는 데 도움이 됩니다.

섬유는 모든 곳에서 구리를 대체하지 않습니다. 구리는 짧은 내부 링크에 여전히 유용합니다. 파이버는 더 긴 도달 범위, 높은 대역폭, EMI 내성 및 광 멀티플렉싱을 통한 더 나은 확장성을 제공하므로 랙 간, 스위치 간 및 클러스터 규모 링크에 더욱 매력적입니다.

플러그형 광 트랜시버에는 일반적으로 레이저 소스, 변조기, 광검출기, DSP 및 광 커플링 구성 요소가 포함됩니다. 이들 부품은 함께 전기 신호를 광섬유 전송을 위한 광 신호로 변환한 다음 수신된 광 신호를 다시 전기 데이터로 변환합니다.

플러그형 광학 장치는 시스템 가장자리에 설치된 교체 가능한 모듈입니다. CPO는 광학 엔진을 ASIC 패키지에 더 가깝게 이동합니다. 플러그형 광학 장치는 서비스 가능성과 유연성을 우선시하는 반면, CPO는 선택된 고밀도 링크에서 더 짧은 전기 경로, 더 높은 대역폭 밀도 및 더 낮은 전력 압력을 목표로 합니다.

실리콘 포토닉스는 빛을 유도, 분할, 변조 및 감지할 수 있지만 실리콘은 광원으로서 비효율적입니다. 특히 실리콘 포토닉스 PIC가 변조 및 라우팅을 처리하고 외부 레이저가 연속적인 빛을 공급하는 아키텍처에서는 광 출력을 제공하기 위해 InP 레이저가 여전히 필요합니다.

CPO가 모든 데이터 센터 링크에서 플러그형 광학 장치를 대체할 가능성은 거의 없습니다. 두 아키텍처는 서로 다른 계층을 처리합니다. CPO는 고밀도 칩 인접 또는 스위치 수준 광학 통합에 적합한 반면, 플러그형 광학은 많은 랙, 스위치 및 데이터 센터 상호 연결에 여전히 유용합니다.