'HBM 전쟁' 불붙었다..SK·삼성의 수직 대결 - 아시아경제

오늘 공부해볼 기사는 요즘 그렇게 핫하다는 HBM 관련 기사다.

'HBM 전쟁' 불붙었다..SK·삼성의 수직 대결 - 아시아경제

https://n.news.naver.com/mnews/article/277/0005413996

'HBM 전쟁' 불붙었다..SK·삼성의 수직 대결

 

요즘 AI가 생활 곳곳으로 확대 적용되고 고도화되면서 반도체에 대한 관심도 폭발적으로 증가하고 있다.

 

관련 기사들도 정말 많이 나오고 있고 기업들도 투자에 박차를 가하는 모습인데

더 늦기전에 반도체에서 AI로 이어지는 시리즈 게시물을 작성하며 반도체 공부를 해 볼 생각이다.

 

그 중에서도 오늘은 국내 업체들의 경쟁이 치열하게 벌어지는 HBM 을 공부해보자.

 

음... 우선 HBM이 무엇인지부터 공부를 하고 가야할까?

 

마침 SK하이닉스 뉴스룸에서는 다양한 반도체 관련 기술들에 대한 시리즈 포스팅을 확인할 수 있어 공부에 큰 도움이 되었다.

https://news.skhynix.co.kr/series

THE SERIES - SK하이닉스 뉴스룸

 

HBM은 메모리 반도체 중 하나로 정식 명칭은 고대역폭 메모리(High Bandwidth Memory)이다. 

 

참고로 우리는 보통 반도체를 메모리 or 비메모리로 나눠서 구분하는데 

1) 메모리 반도체 - 정보를 저장하는 용도의 반도체 (D램, SSD등 낸드플래시)

2) 비메모리 반도체 - 연산이나 논리와 같은 정보 처리가 주 역할인 반도체 (CPU, GPU, AP 등)

 

사실 엄밀히 말하자면 '비메모리 반도체'라는 용어는 한국에서만 주로 사용된다고 한다.

그 이유는 국내 반도체 산업이 메모리 중심으로 시작되었고 현재도 주를 이루고 있기 때문에

메모리 반도체가 아닌 나머지 반도체들을 묶어서 '비메모리'라고 통칭하는 풍조가 생겼다고 한다.

실제로는 글로벌 반도체 시장에서 비메모리 부문의 규모가 훨씬 더 크고 종류가 매우 다양하다.

 

아무튼 그런 메모리 반도체 중 하나가 바로 HBM인 것이다.

메모리의 경우 중요한 요소가 '저장용량', '반응 속도', 그리고 '대역폭'이라고 한다.

 

'저장 용량'과 '반응 속도'는 매우 직관적이다.

즉 얼마나 많은 데이터를 저장할 수 있는지와 CPU 등에서 데이터를 요청했을 때 얼마나 빨리 반응할 수 있는지일 것이다.

그러나 '대역폭'은 쉽게 와닿지 않을수도 있다.

대역폭은 한번에 전달할 수 있는 데이터의 양이라고 한다.

아래 그림을 보면 보다 쉽게 이해할 수 있을 것이다.

 

SK하이닉스의 포스팅에 따르면 HBM은 대역폭과 용량에 중점을 두되, 반응 속도는 다소 양보한 제품이라고 한다.

일반적인 D램 수직으로 층층이 쌓아올려(적층) 면적 대비 용량을 끌어올리고 TSV라는 방식으로 좁은 면적에 D램 층간의 데이터 연결 통로를 촘촘하게 만들어 대역폭을 높인 제품인 것이다. 다만  칩을 적층했기 때문에 발열 문제가 발생할 수 있어 개별 칩의 동작 속도를 다소 줄였다.

 

**TSV란? Through Silicon Via 의 약자로 위로 쌓아올린 반도체들 무더기에 수직으로 통로를 뚫는 공정 방식을 말한다.

건물에 있는 엘리베이터를 상상하면 될 듯 하다. (아래 그림 참고)

HBM은 원래 그래픽 처리를 위해 탄생한 제품이라고 한다.

그래픽 처리를 위해서는 모니터의 수많은 픽셀을 컨트롤하며 병렬 연산이 필요하기 때문에 높은 대역폭이 필요했다.

이러한 연산을 처리하는 것이 잘 알려진 GPU라는 칩이며, 그 GPU를 보조하며 필요한 데이터를 저장 및 공급하는 것이 HBM인 것이다.

 

한편 인공지능(AI)를 동작하는데 필요한 연산도 그래픽 처리와 마찬가지로 비교적 간단한 계산을 한번에 병렬로(많이) 처리해야 했기 때문에 최근 AI 가 대두될 때 GPU와 HBM도 함께 급부상한 것이라고 이해하면 되겠다.

엔비디아의 GPU칩의 모습

위의 그림에서 보듯이 HBM은 GPU 주변에 배치되며 인터포저라고 하는 중간기판을 공유한다.

아무래도 대역폭이 크고 GPU와 밀접하게 작동해야 하기 때문에 기판에 각각 배치하는 것보다 인터포저를 통해 연결하는 것이 유리한 것이다.

그리고 이러한 인터포저 구조를 가능케 하는 패키징 공정이 대만 TSMC의 CoWoS (Chip on Wafer on Substrate)이다.

이름 그대로 기존 기판인 Substrate 위에 인터포저인 Wafer가 있고 그 Wafer 위에 GPU와 HBM이 실장되어 있는 형태다.

 

좀더 이해를 쉽게 하기 위해  구조를 아파트 단지에 빗대어 생각해 보았다.

옛날에 지어진 아파트의 경우 주차장은 대개 지상으로 아파트 단지 옆에 구성되어 있고 공원, 상가 같은 시설도 잘 없거나 단지와 떨어진 곳에 따로 마련된 경우가 많았다.

그러나 최근에 지어지는 아파트는 복합 주거 단지 어쩌고 해서 주차장은 단지 밑 지하에, 상가 건물도 단지 내에, 심지어 초등학교도 단지와 함께 건설되는 경우가 있다. 이를 통해서 주민들의 편의성과 원활한 통행을 가능하게 하듯이

반도체 칩도 인터포저라는 단지 내에 함께 구축되어 빠른 정보처리를 가능케 하는것으로 이해하면 될듯하다.

 

이러한 CoWoS 패키징 공정이 TSMC에 의해 2012년 개발되었고 이후 SK하이닉스와 TSMC는 함께 협력하며 HBM 개발과 발전이 본격화 되었다.

 

 

이로써 HBM에 대한 이해는 어느정도 했고, 이제 기사로 돌아와보면

D램 시장에서 삼성전자에 밀리던 SK하이닉스지만 D램의 일종인 HBM 부문에서는 닉스가 보다 강점이 있다는 사실은

기사 등을 통해 접한 것 같다.

국내 업체인 삼성전자, SK하이닉스가 HBM시장을 90%이상 과점하고 있으며 미국 기업인 마이크론이 10% 조금 안되게 시장을 점유하고 있는 것으로 추정되며 그 중 SK하이닉스의 점유율이 더 높은 것으로 보인다.

얼핏 듣기로 HBM 초창기에 삼성전자는 HBM의 잠재력을 간과하고 SK하이닉스만큼의 투자를 하지 않다가 뒤늦게 투자하면서 닉스를 추격하고 있는 것으로 알고 있다.

 

 

HBM은 이제 5세대 제품 양산을 앞두고 있으며 세대를 거듭할수록 단수도 높아지고 있다.

 

위 그림은 차세대 HBM 제품의 양산 시점을 추정한 표이고

1세대 HBM부터 간단하게 서칭을 해보았다.

 

1세대 HBM

2013년 닉스는 세계 최초로 D램을 4층으로 쌓은 HBM을 개발하였으며 2014년 출시되었다.

양산은 2015년부터 본격화되었으나 당시에는 GPU를 보조하던 D램인 GDDR이 있었고 성능이 HBM의 성능이 GDDR에 비해 월등하지도 않은데 가격이 비싸서 채택율이 높지는 않았다.

 

2세대 HBM2

HBM개발후 약 4년 뒤인 2017년에 용량은 8배, 대역폭은 2.4배 확장된 2세대 HBM2가 개발되었다.

속도도 전작보다 개선되었고 층수를 더 높일수도 있었다(8층).

 

3세대 HBM2e

이후 2년 뒤인 2019년에 용량은 2배, 대역폭은 1.5배 확장된 3세대 HBM2e가 개발되었다.

HBM2때만큼의 성능 개선을 달성하지는 못해서 HBM3가 아닌 HBM2 Extended라고 이름붙여졌다.

 

4세대 HBM3

다시 2년 뒤인 2021년에 HBM3가 개발되었다. 전작 대비 용량은 1.5배, 대역폭은 1.8배 늘어났다.

2019년에 HBM 사업을 일시 철수했던 삼성전자는 뒤늦게 HBM의 잠재력을 확인하고 HBM3 개발에 다시 뛰어들어 2022년 개발을 완료했으나 먼저 개발된 SK하이닉스의 HBM3가 글로벌 주요 GPU 업체인 엔비디아에 납품되고 있는 상황이었다.

게다가 SK하이닉스는 기존 8층보다도 단수를 더 올린 12단 HBM3를 2023년 4월에 최초 개발했다.

 

5세대 HBM3e

이제 우리가 봤던 뉴스의 내용이 나온다. 5세대 HBM3e부터는 층수에 대한 경쟁도 본격적으로 치열해지는데

중간에 사업을 철수한 영향으로 뒤처진 삼성전자는 12단 HBM3e 개발에 몰두하며 격차를 따라잡기 위해 안간힘을 쓰고 있다. 실제로 그 결과 12단 HBM3e 개발은 삼성전자가 2024년 2월 가장 먼저 달성했으나 8단 HBM3e의 양산은 하이닉스가 2024년 3월 가장 먼저 시작했다. 그로부터 한달 뒤인 4월에는 삼성전자도 8단 HBM3e 양산을 시작했다.

 

그렇다면 12단 HBM3e의 본격 양산에 먼저 돌입하는 업체는 어디일까?

기사에서 보듯이 삼성전자는 올해 2분기 안에 양산하겠다고 밝힌 상태이며 이에 질세라 SK하이닉스도 3분기에는 양산을 하겠다며 기존 일정을 앞당겼다. 

내년에는 차세대 HBM인 HBM4의 개발 경쟁도 치열해질 전망이다. SK하이닉스는 내년까지 HBM4의 개발을 완료하고 양산까지 진행한다는 계획이며 삼성전자도 결코 질수 없다는 반응으로 마찬가지로 2025년 HBM4 개발이 전망된다.

 

HBM 수요 증가의 배경은?

AI의 확산은 글로벌 빅테크 업체들(구글, MS, 메타, 아마존 등)의 서버 증설로 이어지고 있다.

 

MS, 말레이시아 AI·클라우드에 3조원대 투자

https://www.edaily.co.kr/news/read?newsId=03585046638884984&mediaCodeNo=257&OutLnkChk=Y

"MS 135조원, 아마존 202조원" AI 데이터센터 확보 경쟁

https://www.newsis.com/view/?id=NISX20240413_0002698322&cID=10406&pID=13100

구글, 데이터 센터 확장에 10억달러 투입

http://www.koreatimes.com/article/1512336

“묻고 더블”… 빅테크 수백조 ‘AI 쩐의 전쟁’

https://www.chosun.com/economy/tech_it/2024/05/04/ZPAIJBUJNVD6LDEJKUCOO5KFCU/?utm_source=naver&utm_medium=referral&utm_campaign=naver-news

 

 

AI를 구동하기 위해서는 수백 수천억개의 매개변수를 갖춘 알고리즘이 작동하며 연산을 해야하고

이러한 연산을 하기 위한 AI전용 데이터센터 건설이 최근 급증하고 있는 것이다.

그리고 그 데이터 센터에서 AI 연산을 담당하는 주요한 칩이 엔비디아의 GPU이다.

물론 최근에는 엔비디아의 GPU말고 자체 AI 전용 칩을 개발해 채택하는 CSP(Cloud Service Provider) 업체들이 늘어나고 있다. 아무래도 시장을 독점하고 있는 GPU이다 보니 가격도 비싸고 사실 GPU는 원래부터 AI연산용으로 개발된 것이 아니라 그래픽 처리 용도라서 목적이나 AI 연산 효율성, 전력 효율 등이 썩 좋은 편은 아니다.

특히 GPU 칩 제조에 필요한 CoWoS 공정은 최근에 워낙 수요가 폭발적으로 증가했는데 반해 공급 능력이 따라가지 못해서 병목 현상이 발생하고 있고 그로 인해 공급받는데 걸리는 시간도 매우 길다.

“TSMC 첨단패키징 병목... 엔비디아 AI반도체 공급, 벽에 부딪힐 수도”

https://www.chosun.com/economy/tech_it/2024/02/25/ODMCRQOQ35H6RKIRIYFI5F4VWE/?utm_source=naver&utm_medium=referral&utm_campaign=naver-news

 

하지만 그렇다고 엔비디아가 물 들어오는데 노를 젓지 않을수는 없지.

엔비디아도 현 AI 수요 증가에 발맞춰 자사 GPU를 더 강화하고, 다양한 글로벌 빅테크 업체들의 수요를 충족할 수 있는 맞춤형 '칩 디자이너 봇' 까지 제공하며 시장 점유율 수성에 박차를 가하고 있다.

 

AI인프라 시장 다 먹겠다는 젠슨 황 "TSMC는 칩의, 엔비디아는 AI의 파운드리"

https://www.joongang.co.kr/article/25236369

 

때문에 HBM 역시 AI와 함께 계속된 성장 흐름을 타지 않을까 기대해본다.

 

 

여기까지 HBM에 대해서 간단하게 공부해 보았다.

기술적으로 너무 깊게 들어가면 끝도 없이 어려워 질 것 같아서 최대한 겉핥기 식으로 서칭을 해 보았다.

그래도 이것저것 찾다 보니 반도체 관련한 다양한 용어들과 더 공부해 보고 싶은 부분들이 있었고

앞으로도 반도체 관련 포스팅을 종종 써 볼 생각이다.