AI 기술이 정말 하루가 다르게 발전하고 있다는 것을 피부로 느끼는 요즘인데요. 오늘은 그야말로 세상을 깜짝 놀라게 할 만한 소식을 가져왔어요! 미국의 AI 프로세서 스타트업 세레브라스 시스템(Cerebras Systems)에서 어마어마한 녀석을 내놓았다는 이야기인데요. 바로 세계에서 가장 빠른 AI 칩, 'WSE-3'랍니다! 작년에 발표된 이 칩이 올해 AI 시장에 어떤 바람을 불어넣고 있을지, 저와 함께 자세히 알아보실까요?

## AI 칩의 새로운 지평을 열다! 세레브라스 WSE-3 등장!

AI 기술의 발전 속도는 정말 눈부시죠? 그 중심에는 바로 강력한 연산 능력을 제공하는 AI 칩이 있어요. 세레브라스는 이전에도 WSE-2라는 걸출한 칩으로 우리를 놀라게 했는데요, 이번 WSE-3는 그야말로 '괴물'이라는 표현이 아깝지 않답니다.

### 괴물 AI 칩이 나타났어요!

세레브라스 WSE-3(Third Generation 5nm Wafer Scale Engine)는 무려 4조 개의 트랜지스터를 탑재했다고 해요! 네, 잘못 들으신 게 아니에요. 4조 개라니, 정말 상상조차 하기 힘든 숫자죠? 이 덕분에 세계에서 가장 빠른 AI 칩이라는 타이틀을 거머쥐게 되었답니다. 한 변이 21.5cm인 정사각형 모양으로, 세계 최대 단일 칩이기도 해요! 이 거대한 칩 하나에 얼마나 많은 기술력이 집약되어 있을지, 생각만 해도 가슴이 웅장해지네요.

### WSE-2에서 얼마나 발전했을까요?

이전 세대인 WSE-2도 정말 대단한 칩이었는데요. WSE-3는 이 WSE-2에 비해 성능은 무려 2배로 향상시켰다고 해요! 그런데 더 놀라운 건 뭔지 아세요? 성능은 두 배가 되었는데, 소비전력과 판매 가격은 그대로라는 점이에요! 기술 발전의 정말 바람직한 모습 아닌가요? 더 강력해졌지만, 부담은 늘리지 않았다니, 정말 칭찬해주고 싶어요.

### 기술력의 정점, TSMC 5nm 공정!

이런 엄청난 성능 향상과 집적도는 그냥 이루어지는 게 아니겠죠? WSE-3는 세계적인 파운드리 기업 TSMC의 5nm 공정을 통해 탄생했어요. 최첨단 미세 공정 기술이 있었기에 이렇게 작고 강력한 칩을 만들 수 있었던 거죠. 역시 기술의 발전은 끝이 없나 봐요!

## WSE-3, 대체 뭐가 그렇게 대단한 걸까요? (상세 스펙 파헤치기)

자, 그럼 이제 WSE-3가 구체적으로 어떤 스펙을 가지고 있는지 좀 더 자세히 들여다볼까요? 정말 입이 떡 벌어지는 수준이랍니다!

### 상상 초월! 트랜지스터 4조 개, AI 코어 90만 개!

앞서 말씀드린 것처럼 트랜지스터 수는 4조 개고요, AI 연산을 담당하는 AI 코어 수는 무려 90만 개에 달해요! 일반적인 CPU나 GPU와는 비교가 안 되는 규모죠. 이 정도면 AI 모델 학습이나 추론 속도가 얼마나 빠를지 상상도 안 되네요.

### 메모리가 어마어마해요! 44GB 온칩 SRAM과 21PB/s 대역폭!

AI 연산에서 중요한 것 중 하나가 바로 메모리인데요. WSE-3는 칩 내부에 44GB의 SRAM을 가지고 있고, 메모리 대역폭은 초당 21페타바이트(PB/s)에 달해요. 네트워크 패브릭 대역폭도 초당 214페타비트(Pbit/s)나 된다고 합니다. 데이터 병목 현상 없이 빠르게 정보를 처리할 수 있는 기반이 마련된 셈이죠.

### 모델 학습? 최대 24조 개 매개변수도 거뜬해요!

요즘 AI 모델들은 점점 더 커지고 복잡해지고 있잖아요? WSE-3는 최대 24조 개의 매개변수(파라미터)를 가진 AI 모델까지 학습할 수 있도록 설계되었어요. 스픽 할인코드 GPT-4나 제미나이(Gemini) 같은 거대 언어 모델보다 10배 더 큰 차세대 프런티어 모델도 훈련할 수 있다는 의미예요!

### CS-3 시스템: AI 모델 학습의 게임 체인저!

WSE-3 칩을 탑재한 컴퓨팅 시스템을 CS-3라고 부르는데요. 이 CS-3 시스템은 최대 1.2페타바이트(PB)의 외부 메모리를 지원하고, 최대 2048개의 CS-3 시스템을 클러스터로 구성할 수 있어요. 더 대단한 건, 24조 개의 파라미터 모델을 파티셔닝(테이블을 작은 단위로 나누어 관리하는 것)이나 리팩터링(결과 변경 없이 코드 구조를 재조정하는 것) 없이 단일 로직 메모리 공간에 저장할 수 있다는 점이에요! 이건 정말 혁신적인데요. 개발자분들이 모델을 쪼개고 합치는 복잡한 과정 없이 바로 대규모 모델 학습에 집중할 수 있게 되니, 생산성이 엄청나게 향상될 거예요. 세레브라스에 따르면 CS-3에서 1조 개 파라미터 모델을 훈련하는 것이 GPU에서 10억 개 파라미터 모델을 훈련하는 것만큼이나 쉬워진다고 하니, 정말 놀랍죠? 심지어 메타의 라마(Llama) 70B 모델(700억 개 파라미터)을 하루 만에 처음부터 훈련할 수 있다고 하니, 개발 속도가 어마어마하게 빨라지겠어요!

## AI 운영의 고민, 이제 안녕~? (비용 효율과 추론 성능)

AI 모델을 개발하고 훈련하는 것도 중요하지만, 실제로 운영하면서 발생하는 비용 문제도 무시할 수 없죠. 특히 추론 과정에서의 비용과 에너지 소비는 큰 부담이 될 수 있어요.

### 챗GPT, 매일 쓰면 비용이... 1조 달러?!

세레브라스는 AI 도입의 진정한 한계가 추론, 즉 신경망 모델을 실행하는 데 있다고 봤어요. 만약 지구상의 모든 사람이 오픈AI의 챗GPT를 매일 이용한다면 연간 1조 달러(한화 약 1,330조 원)의 비용이 들 것이라는 추산도 내놓았는데요. 헉! 소리가 절로 나오죠? 에너지 소비량도 상상 초월일 거예요.

### 퀄컴 AI 100 Ultra와의 환상적인 만남!

그래서 세레브라스는 AI 추론에서 전례 없는 성능과 효율성을 구현하기 위해 퀄컴의 AI 100 Ultra를 활용한다고 발표했어요. 이를 통해 추론 비용을 최대 10분의 1로 낮출 수 있다고 하니, 정말 반가운 소식이 아닐 수 없네요! 앤드류 펠드먼 세레브라스 CEO는 "퀄컴의 AI 100 Ultra를 통해 고객들은 추론 시 많은 비용을 지불하지 않고도 최고 품질의 최첨단 모델을 훈련시키는 데 집중할 수 있다"고 말했어요. 모델 품질 저하 없이 추론 비용을 크게 절감할 수 있다니, 정말 개발자와 사용자 모두에게 윈윈 아닐까요?

## AI 슈퍼컴퓨터의 진화! 콘도르 갤럭시 3 (CG-3)

세레브라스는 단순히 칩 개발에만 머무르지 않고, 이를 활용한 슈퍼컴퓨터 구축에도 힘쓰고 있어요. 아랍에미리트(UAE)의 AI 클라우드 기업 G42와 손잡고 말이죠!

### G42와 손잡고 만든 세 번째 역작!

세레브라스와 G42는 이미 '콘도르 갤럭시 1'과 '콘도르 갤럭시 2'라는 AI 슈퍼컴퓨터를 공동 개발한 경험이 있어요. 그리고 이번에 WSE-3를 탑재한 CS-3 시스템 64대로 구성된 '콘도르 갤럭시 3(CG-3)' 구축 계획을 발표했답니다. 이 CG-3는 작년 2분기에 출시되어 지금도 열심히 AI 연구를 지원하고 있을 거예요.

### 8 엑사플롭스! 상상도 안 되는 처리 속도!

CG-3는 AI에 최적화된 코어 수가 무려 5,800만 개가 넘고, 처리 속도는 8 엑사플롭스(EFLOPS)에 달한다고 해요. 1초에 800경 번의 연산을 할 수 있다는 뜻인데, 정말 어마어마한 규모죠? 이로써 콘도르 갤럭시 1, 2, 3를 모두 합친 콘도르 갤럭시 네트워크의 전체 처리 속도는 총 16 엑사플롭스에 이를 것으로 보여요!

### 이미 성과로 증명된 콘도르 갤럭시 시리즈!

세레브라스와 G42가 함께 만든 콘도르 갤럭시 슈퍼컴퓨터는 이미 여러 첨단 생성 AI 모델(Jais-30B, Med42, Crystal-Coder-7B, BTLM-3B-8K 등) 훈련에 활용되어 그 성능을 입증했어요. 이름만 들어도 알 만한 AI 모델들이 여기서 탄생했다니, 정말 대단해요. CG-3는 앞으로 더욱 강력한 AI 모델 개발에 기여할 것으로 기대됩니다.

### 더 똑똑한 AI 시대를 향하여!

세레브라스의 WSE-3 칩과 이를 기반으로 한 CS-3 시스템, 그리고 콘도르 갤럭시 3 슈퍼컴퓨터까지! 정말 AI 기술의 한계를 끊임없이 확장해 나가는 모습이 인상적인데요. 이러한 노력 덕분에 우리는 더욱 똑똑하고 유용한 AI를 더 빠르고 효율적으로 만날 수 있게 될 것 같아요. 앞으로 세레브라스가 또 어떤 혁신으로 우리를 놀라게 할지, 정말 기대되지 않나요? :)