SK하이닉스는 21일 서울 강남구 한국과학기술회관에서 열린 ‘2025년 과학·정보통신의 날 기념식’에서 도승용 부사장(DT 담당)이 정보통신 부문 동탑산업훈장을 수상했다고 밝혔다.

과학기술정보통신부 및 방송통신위원회는 과학의 날(4.21)과 정보통신의 날(4.22)을 맞아 산업 종사자의 자긍심을 고취하고, 과학기술의 중요성을 알리고자 매년 기념식과 시상식을 진행하고 있다. ‘AI로 디지털 대전환, 과학기술로 미래 선도’를 슬로건으로 열린 올해 행사에서는 국가 과학기술 및 정보통신 산업 발전에 기여한 유공자를 대상으로 부문별 포상이 진행됐다.

이날 도승용 부사장은 AI(Artificial Intelligence)와 DT(Digital Transformation) 기반으로 스마트팩토리(Smart Factory) 시스템을 구축해 HBM*과 메모리 제품의 시장 경쟁력을 강화하고, 국내 제조 산업의 기술력을 끌어올린 공로를 인정받았다.

* HBM(High Bandwidth Memory): 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E)-6세대(HBM4) 순으로 개발됨

▲ (왼쪽부터)한덕수 대통령 권한대행 국무총리와 SK하이닉스 도승용 부사장(DT 담당)

▲ 도승용 부사장(오른쪽)이 한덕수 대통령 권한대행 국무총리(가운데)로부터 동탑산업훈장을 받고 있다.

▲ 서울 강남구 한국과학기술회관에서 열린 ‘2025년 과학·정보통신의 날 기념식’ 현장

주요 공적은 ▲HBM 향(向) 스마트팩토리 시스템 구축을 통한 HBM 생산성 향상 및 개발 기간 단축 ▲AI 업무 자동화 및 토탈 모니터링 시스템 구축 ▲AI 기반 가상 계측 시스템을 통한 품질 혁신(全 웨이퍼 품질 검사 실현) ▲EUV* 장비의 글로벌 운영 시스템 구축을 통한 장비 가동률 30% 향상 등이다.

* EUV(Extreme Ultraviolet): 짧은 파장의 빛(극자외선)을 이용하는 리소그래피 기술. 웨이퍼에 회로 패턴을 새기는 장비에 사용

SK하이닉스는 “도 부사장이 제조 IT 혁신을 주도하고 스마트팩토리 시스템을 개발해 AI 기반의 디지털 대전환을 성공적으로 완수했다”며 “앞으로도 이를 지속 개발하고 제조 현장에 적용해 주요 제품의 생산성 및 품질을 향상하고 시장 리더십을 확고히 할 계획”이라고 밝혔다.

“AI/DT 기반 스마트팩토리 구축… 생산성·품질 끌어올려 HBM 등 주요 제품 매출 증대”

뉴스룸은 동탑산업훈장 수상의 영예를 안은 도승용 부사장을 만나, 수상 소감을 듣고 핵심 공적을 자세히 살펴봤다.

도승용 부사장은 27년 경력의 제조 IT기술 전문가로, 2020년 SK하이닉스에 합류해 제조 현장의 디지털 전환을 주도하고 있다. 특히 AI 기반 스마트팩토리 구축, 각종 모니터링 및 자동화 시스템 도입 등 지난 5년간 굵직한 공적을 쌓았는데, 이는 제조 산업 전반에 영향을 주었다.

“그동안의 공적은 모두 구성원들의 헌신과 열정으로 맺은 결실이라 생각합니다. 지난 메모리 다운턴 등 난관 속에서도 함께 고민하고 솔루션을 찾아온 구성원들에게 동탑산업훈장의 공을 돌리며, 감사하다는 말을 전합니다. 제조 경쟁력 향상을 위해 더욱 정진하라는 메시지로 알고, 앞으로 솔선수범의 자세로 더욱더 최선을 다하겠습니다.”

수상에 영향을 준 핵심 공적을 묻는 말에 그는 ‘HBM 향 스마트팩토리 시스템’을 꼽았다. 무엇보다도 ‘하이브리드 생산 프로세스’를 언급했다.

“생성형 AI가 급부상하며 HBM, 3DS* 제품의 수요가 폭발적으로 증가했습니다. HBM 장비의 긴급 투자에도 불구하고 고객의 수요를 충족시키는 것이 쉽지 않았습니다. 이를 해결하기 위해 후공정 조직과 DT 조직은 기존 패키지 라인 장비를 활용할 하이브리드 생산 시스템을 구축했습니다. 이를 통해, 생산의 유연성을 극대화하여 대규모 추가적인 장비 투자 없이 HBM 수요에 효과적으로 대응하고, 매출 증대에도 기여할 수 있었습니다. DT 기술이 없었으면 이러한 하이브리드 시스템을 단기간에 신속하게 구축할 수 없었을 것이라고 생각합니다.”

* 3DS(3D Stacked Memory): 2개 이상의 D램 칩을 TSV(수직관통전극)로 연결해 패키징을 완료한 고대역폭 메모리 제품. 3DS와 달리 HBM은 패키징 완료 전에 시스템 업체에 공급되어 GPU와 같은 로직 칩과 함께 패키지화된다는 점에서 차이가 있다.

이뿐만 아니다. ‘전·후공정을 연계한 생산 계획 및 스케줄링’, ‘저진동 반송 제어’ 등 HBM 향 맞춤형 스마트팩토리 시스템은 HBM 생산성 및 품질 향상에 많은 도움을 주고 있다. 도 부사장은 “병목 발생 공정에서의 생산성을 31% 끌어올렸고, 이슈 공정 수율을 21% 개선했다”며 “결과적으로 HBM 매출을 전년 대비 4.5배 향상하는 데 크게 기여했다”고 설명했다.

‘선도적인 설계 자동화 기술 도입’ 또한 도 부사장이 손꼽는 성과다. 그는 “HBM3E보다 훨씬 복잡해 개발 기간이 크게 늘어날 것으로 예상됐던 HBM4 등 미래 제품 개발에 새로운 설계 시뮬레이션 기법을 도입했다”며 “이를 통해 개발 기간을 획기적으로 단축하며, 차세대 AI 메모리 시장에서도 SK하이닉스가 기술 우위를 이어갈 수 있는 발판을 마련하는 데 DT 조직의 기술력이 큰 역할을 했다”고 강조했다.

Global Operation 시스템 구축을 위한 ‘EUV 장비의 개발-양산-해외법인 통합‘ 역시 주요 성과로 손꼽힌다.

“메모리 제조의 핵심인 고가의 EUV 장비를 물리적으로 옮기지 않고도 여러 생산라인과 연구 조직, 심지어 해외생산 법인까지 마치 하나의 장비처럼 공유하고 협업할 수 있는 시스템을 구축했습니다. 이를 통해 신제품 개발부터 양산까지의 전환 속도를 높이고, EUV 장비의 가동률을 향상시켰습니다. 이 역시 DT 기술 없이는 불가능할 것이라고 생각합니다.”

“현장 곳곳에 AI… 적용 분야 늘려 완전한 AI 스마트팩토리 구축한다”

도승용 부사장은 엔지니어의 업무 효율을 개선하고, 소재·부품·장비의 활용성을 대폭 개선하기도 했다. 모두 AI와 DT 기술로 이뤄낸 성과였다.

“엔지니어의 경험적 판단과 조치에 의존했던 많은 업무를 AI/DT를 활용해 자동화했습니다. 덕분에 엔지니어들은 단순 반복 업무에서 벗어나 공정 개선과 같은 더 높은 고부가가치를 창출하는 핵심 업무에 집중할 수 있게 됐죠. 특히, AI 기반 결함(Defect) 이미지 분석시스템은 엔지니어의 분석 시간을 획기적으로 단축시켰으며, 장비의 유지보수 업무 자동화는 장비 비가동 시간을 개선해 상당한 규모의 웨이퍼 추가 생산 효과를 가져왔습니다. 또한 장비-웨이퍼-소재의 통합품질제어 체계를 구축해 불필요한 업무를 줄였으며 장비 및 소재 관련 잠재적인 사고를 예방하고 있습니다. 장비에서 발생하는 미세데이터를 활용한 AI 기반의 가상계측 기술 역시 완제품 생산 시간의 증가 없이 모든 웨이퍼의 품질의 이상을 감지하고 검사하는 혁신을 실현하고 있습니다.”

한편, 도 부사장이 일군 성과들은 SK하이닉스를 넘어 국내 제조 산업으로 확산되고 있다는 점에서 의미가 크다. 도부사장은 “자사의 Best Practice 전이를 통해 SK 관계사들의 스마트팩토리 시스템 구축을 지원하고 있다”며 이러한 경험과 기술이 더 많은 기업으로 확산된다면 국내 제조 산업 전반의 기술력과 경쟁력이 한층 높아질 것”이라고 기대감을 표했다.

앞으로의 과제에 대해선 “제조 전 영역의 AI 스마트팩토리 완성을 위해선 실패를 두려워하지 않는 끊임없는 도전과 혁신, 시행착오를 최소화할 수 있는 치밀함이 필요하다”고 말했다. 아울러 구성원들에게는 지속적인 원팀 협업을 부탁했다.

“현재의 성공을 기반으로 제조 전 영역에 더욱 지능화된 AI 스마트팩토리를 구축하기 위해서는 우리 모두 머리를 맞대고 창의적인 아이디어와 솔루션을 공유하고 강력한 시너지를 창출해야 합니다. 지금껏 잘해 왔듯이, 앞으로도 원팀 스피릿(One Team Sprit)으로 목표 달성을 향해 힘을 모았으면 합니다.”

마지막으로, 도승용 부사장은 AI 중심의 제조 혁신을 넘어 기업 전체의 지능화를 위한 비전을 공유하며 적극적인 노력을 다짐했다.

“SK하이닉스는 AI 시대를 선도하는 ‘Full Stack AI Memory Provider’로서, 제조 현장 전반에 AI를 깊숙이 접목해 지속적인 혁신을 추구할 것입니다. 궁극적으로는 제조 영역을 넘어 연구개발, 공급망 관리, 마케팅, 고객 지원에 이르기까지 전사적인 가치 사슬(Value Chain) 전체를 최적화하고 지능화함으로써, 스마트팩토리를 뛰어넘는 ‘지능형 기업(Intelligent Enterprise)’ 구축이라는 더 큰 목표를 향해 나아갈 것입니다. 구성원들과 함께 이러한 목표 달성을 위해 더욱 열심히 달려 나가겠습니다.”

이러한 흐름을 반영하듯, SK하이닉스는 최근 조직 개편을 단행하며 젊고 혁신적인 리더십을 강화했다. 특히, 1982년생인 최준용 부사장을 HBM사업기획을 총괄하는 최연소 임원으로 선임하며 업계의 주목을 받고 있다. 그는 모바일 D램 상품기획 팀장을 거치고 HBM사업기획을 담당하는 등 주로 HBM 사업의 성장을 이끌어온 핵심 인물이다.

뉴스룸은 최준용 부사장을 만나 HBM 사업 역량 강화를 위한 전략과 앞으로의 포부를 들어봤다.

새로운 시각으로 더 큰 미래를 준비할 것

최 부사장은 HBM사업기획 조직의 원동력으로 ‘자부심’을 꼽았다. 그는 강한 책임감과 자부심으로 HBM 사업의 성장을 견인해 온 구성원들에게 새로운 에너지를 불어넣어 조직의 더 큰 성장을 이끌겠다는 강한 의지를 밝혔다.

“HBM사업기획 조직은 막대한 규모의 투자와 전략적 방향을 결정하는 핵심 조직입니다. 제품 기획에 그치지 않고, 기술 개발 로드맵 수립부터 전 세계 고객들과의 협력에 필요한 전략을 마련하는 등 HBM 사업 전반에 걸쳐 중요한 역할을 하고 있습니다. 새롭게 선임된 리더로서 구성원들이 원 팀 마인드로 뭉쳐 함께 성장하고 최고의 성과를 창출할 수 있도록 돕는 것이 제 역할이라고 생각합니다.”

최 부사장은 회사가 ‘풀스택 AI 메모리 프로바이더(Full Stack AI Memory Provider)’로 지속 성장할 수 있도록 자신의 소임을 다하겠다는 포부를 함께 전했다.

“풀스택 AI 메모리 프로바이더란 고객이 필요로 하는 제품의 전체 포트폴리오를 구성하고, 이를 고객이 요구하는 시점에 정확히 제공하는 것을 의미합니다. 신규 HBM 개발과 병행하여 고객의 특화된 요구에 맞춘 커스텀(Custom) HBM을 통해 다양한 고객 요구를 최적의 솔루션으로 제공할 것입니다.”

‘원 팀(One Team) 스피릿’으로 달성한 세계 최고 HBM 경쟁력

누구보다 바쁜 나날을 보내고 있는 최 부사장이지만, 최근 그는 어느 때보다 큰 보람을 느끼고 있다. SK하이닉스가 세계 최초로 HBM 6세대 제품인 HBM4 12단 샘플을 성공적으로 고객사에 공급했기 때문이다.

“그동안 새로운 개념의 제품을 개발하고 사업화하는 과정에서 신규 시장을 개척하고 다양한 고객들을 만나며 여러 경험을 쌓아왔습니다. 그 모든 경험이 소중하지만, AI 메모리가 갖춰야 할 세계 최고 수준의 속도를 갖춘 HBM4 12단 샘플을 당초 계획보다 조기에 출하한 것이 가장 기억에 남습니다.”

세계 최고 수준의 HBM 경쟁력을 확보한 SK하이닉스. 이 성과는 모든 구성원이 ‘원 팀(One Team)’으로 똘똘 뭉쳐 끊임없는 기술 혁신에 매진한 결과다.

“낙수 효과처럼 한 방울 한 방울이 모여서 바위를 깨는 것처럼, 오랜 시간 끈기 있게 HBM 시장을 준비해 왔습니다. 구성원 모두가 원 팀 스피릿으로 묵묵히 도전을 이어온 결과, HBM4를 성공적으로 개발할 수 있는 기회를 만들었다고 생각합니다. 앞으로도 예상치 못한 수많은 도전이 기다리고 있겠지만, 우리는 이를 극복하며 HBM 경쟁력을 더욱 견고히 다져나갈 것입니다.”

누구도 넘볼 수 없는 HBM 리더십, 구성원들과 만들어 갈 것

AI 기술이 눈부시게 진보하면서 반도체에 대한 수요가 그 어느 때보다 많아지고 있다. HBM은 AI 메모리가 가장 필요로 하는 전력 효율성(Power)과 성능(Performance)에 가장 최적화된 제품으로 앞으로도 그 중요성은 더욱 커질 것이다.

최 부사장은 이를 바탕으로 더 먼 미래를 내다보며, 회사가 HBM 시장에서 주도적인 위치를 이어갈 수 있도록 선봉에서 최선을 다하겠다고 전했다.

“올해 HBM4 12단 양산을 성공적으로 진행하는 것은 물론 고객 요구에 맞춰 HBM4E도 적기에 공급함으로써 HBM 리더십을 더욱 공고히 하는 것입니다. 시장을 선제적으로 준비하고 최적화된 사업 기획을 할 수 있도록 최선을 다하겠습니다.”

최 부사장은 끝으로 젊은(MZ) 구성원들을 ‘Motivated & Zealous(동기부여가 만드는 열정적인 인재들)’로 설명하며, 그들이 새로운 기회와 목표에 맞서 성장할 수 있도록 동기를 부여하는 리더가 되겠다고 강조했다. 이어서 그는 구성원들에게 한 가지를 약속했다.

“저는 제 자신을 스스로 새장에 가두지 않는 소통의 리더가 되고자 합니다. 다양한 관점이 담긴 구성원들의 아이디어를 경청하며, 함께 최적의 방향을 만들어 나가겠습니다. 구성원들이 부담 없이 많은 이야기를 들려주실 수 있도록 제 자리를 언제든 열어 놓겠습니다.”

SK하이닉스가 3월 17일부터 21일(현지 시간)까지 미국 캘리포니아주 새너제이(San Jose)에서 열리는 ‘GTC(GPU Technology Conference) 2025’[관련링크]에 참가해, AI 시대를 선도하는 메모리 기술을 선보였다.

GTC는 엔비디아(NVIDIA)가 매년 개최하는 세계 최대 AI 전문 콘퍼런스다. 올해는 ‘What’s Next in AI Starts Here’라는 슬로건 아래 약 1,000개 이상의 세션과 300개 이상의 전시가 진행됐으며, AI 관련 최신 기술과 솔루션이 공유됐다.

▲ GTC 2025 행사장 내부 SK하이닉스 전시 부스

이번 행사에서 SK하이닉스는 ‘Memory, Powering AI and Tomorrow(메모리가 불러올 AI의 내일)’라는 주제로 전시 부스를 운영하며 ▲AI/DC(Data Center) ▲HBM* ▲온디바이스(On-Device) ▲오토모티브(Automotive) 등 네 가지 주요 영역에서 AI 혁신을 가속하는 메모리 제품들을 소개했다. 특히, HBM 섹션에서는 현재 개발 중인 HBM4 12단 모형을 공개하며 압도적인 기술 우위를 선보였다.

* HBM(High Bandwidth Memory): 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E)-6세대(HBM4) 순으로 개발됨

▲ GTC 2025 행사장 내 SK하이닉스 전시 부스(AI/DC 섹션)

AI/DC 섹션에는 대규모 데이터 처리와 저장에 최적화된 기업용 SSD(Enterprise SSD, eSSD) ▲PEB110 ▲PS1010 ▲PE9010 등과 데이터센터용 DIMM* 제품인 ▲DDR5 RDIMM과 ▲MRDIMM, 세계 최고 사양의 그래픽 메모리 ▲GDDR7이 전시됐다. 또한, DDR5 기반의 CXL* 제품인 ▲CMM-DDR5과 AI 서버용 저전력 D램 모듈인 ▲SOCAMM* 등 차세대 AI 메모리도 함께 선보여 눈길을 끌었다. 회사는 LPDDR5X와 서버용 메모리 시장에서의 경쟁력을 바탕으로 SOCAMM 시장이 개화하는 시기에 맞춰 양산을 시작해 AI 메모리 포트폴리오를 확대해 나갈 계획이다.

* DIMM(Dual In-line Memory Module): 여러 개의 D램이 기판에 결합한 모듈
* CXL(Compute Express Link): 고성능 컴퓨팅 시스템에서 CPU/GPU, 메모리 등을 효율적으로 연결해 대용량, 초고속 연산을 지원하는 차세대 인터페이스. 기존 메모리 모듈에 CXL을 적용하면 용량을 10배 이상 확장할 수 있음
* SOCAMM(Small Outline Compression Attached Memory Module): 기존의 서버용 메모리 모듈보다 더 작은 폼팩터를 가지면서 전력 효율이 높은 LPDDR5X 기반 차세대 메모리 모듈

HBM 섹션에서 가장 주목받은 제품은 단연 HBM4였다. 이번 행사에서 처음 공개된 SK하이닉스의 HBM4는 베이스 다이(Base Die) 성능을 대폭 개선하고, 전력 소모를 획기적으로 줄이는 방향으로 개발 중이다. 회사는 AI 메모리 솔루션인 HBM4를 선보이며 업계 선도적 위치를 더욱 공고히 할 것이라고 설명했다. 또한, 현존 최고 성능과 용량을 갖춘 HBM3E 12단 제품[관련기사]과 엔비디아의 ‘GB200 그레이스 블랙웰 슈퍼칩(GB200 Grace Blackwell Superchip)’을 함께 전시해 시장에서의 경쟁 우위를 증명했다.

▲ GTC 2025 행사장 내부 SK하이닉스 전시 부스(온디바이스 섹션)

온디바이스 섹션에는 디바이스 자체에서 데이터 처리와 AI 연산을 수행할 수 있도록 최적화된 ▲LPDDR6 ▲LPCAMM2 ▲PCB01 ▲ZUFS 4.0 등의 고성능·저전력 메모리 솔루션들이 소개됐다.

▲ GTC 2025 행사장 내부 SK하이닉스 전시 부스(오토모티브 섹션)

오토모티브 섹션에서는 ▲HBM2E ▲LPDDR5 ▲UFS 3.1 ▲Gen4 SSD 등의 차량용 메모리 솔루션을 선보이며, 자율주행 및 미래 모빌리티 시대를 앞당길 혁신 기술을 제시했다.

이번 행사에서는 오프라인 전시 부스와 함께 온라인 방문객들을 위한 버추얼 부스(Virtual Booth)도 마련됐다. [관련링크] 회사는 지난해 성과와 함께 서버 솔루션, PS1012, GDDR7, CMM-DDR5 등의 주요 제품 정보를 웹 브로슈어로 제공하고, HBM, 1c DDR5*, Automotive 등의 혁신 솔루션을 소개하는 영상을 공개해 방문객들이 SK하이닉스의 지속적인 기술 리더십을 확인할 수 있게 했다.

* 10나노급 6세대(1c) 미세공정을 적용한 16Gb(기가비트) DDR5 D램. 10나노급 D램 공정 기술은 1x-1y-1z-1a-1b 순으로 개발돼 1c는 6세대다. 2024년 8월 SK하이닉스가 세계 최초로 개발에 성공했다.

▲ AI시대 HBM의 중요성에 대해 발표 중인 박정수 TL(HBM상품기획)

회사는 전시 외에도 발표 세션을 통해 업계 관계자들과 인사이트를 공유했다. 박정수 TL(HBM상품기획)은 ‘High-Bandwidth Memory: Backbone of High Performance Computing and AI(HBM: 고성능 컴퓨팅 및 AI의 핵심)’라는 주제로 발표를 진행하며, HBM 기술의 발전과 SK하이닉스의 독보적인 리더십을 강조했다.

▲ SK하이닉스의 차량용 메모리에 대해 발표 중인 김기홍 TL(Mobility사업)

김기홍 TL(Mobility사업)은 온라인 세션을 통해 ‘Preparing for the Future: Automotive Memory and Storage requirements(미래 전략: 차량용 메모리 및 스토리지 요구 사항)’라는 주제로 자동차 산업에서의 메모리 및 스토리지 특성과 SK하이닉스의 전략을 소개했다.

SK하이닉스는 “AI 기술이 급속도로 발전하는 가운데, 메모리 솔루션의 중요성도 더욱 커지고 있다”며, “이번 GTC 2025에서 AI 시대를 위한 최적의 메모리 솔루션을 선보이며 원팀 파트너십을 바탕으로 글로벌 AI 기업들과의 협력을 더욱 강화할 것”이라고 밝혔다.

▲ SK하이닉스 HBM4 12단 샘플

SK하이닉스가 AI용 초고성능 D램 신제품인 HBM4 12단 샘플을 세계 최초로 주요 고객사들에 제공했다고 19일 밝혔다.

SK하이닉스는 “HBM 시장을 이끌어온 기술 경쟁력과 생산 경험을 바탕으로 당초 계획보다 조기에 HBM4 12단 샘플을 출하해 고객사들과 인증 절차를 시작한다”며, “양산 준비 또한 하반기 내로 마무리해, 차세대 AI 메모리 시장에서의 입지를 굳건히 하겠다”고 강조했다.

이번에 샘플로 제공한 HBM4 12단 제품은 AI 메모리가 갖춰야 할 세계 최고 수준의 속도를 갖췄다. 12단 기준으로 용량도 세계 최고 수준이다.

우선 이 제품은 처음으로 초당 2TB(테라바이트) 이상의 데이터를 처리할 수 있는 대역폭*을 구현했다. 이는 FHD(Full-HD)급 영화(5GB = 5기가바이트) 400편 이상 분량의 데이터를 1초 만에 처리하는 수준으로, 전세대(HBM3E) 대비 60% 이상 빨라졌다.

* 대역폭(Bandwidth): HBM 제품에서 대역폭은, HBM 패키지 1개가 초당 처리할 수 있는 총 데이터 용량을 뜻함

아울러 회사는 앞선 세대를 통해 경쟁력이 입증된 어드밴스드(Advanced) MR-MUF 공정을 적용해 HBM 12단 기준 최고 용량인 36GB를 구현했다. 이 공정을 통해 칩의 휨 현상을 제어하고, 방열 성능도 높여 제품의 안정성을 극대화했다.

SK하이닉스는 2022년 HBM3를 시작으로 2024년 HBM3E 8단, 12단도 업계 최초 양산에 연이어 성공하는 등 HBM 제품의 적기 개발과 공급을 통해 AI 메모리 시장 리더십을 이어왔다.

SK하이닉스 김주선 AI Infra(인프라) 사장(CMO, Chief Marketing Officer)은 “당사는 고객들의 요구에 맞춰 꾸준히 기술 한계를 극복하며 AI 생태계 혁신의 선두 주자로 자리매김했다”며 “업계 최대 HBM 공급 경험에 기반해 앞으로 성능 검증과 양산 준비도 순조롭게 진행할 것”이라고 말했다.

▲ SK하이닉스 HBM4 12단 샘플

SK하이닉스의 HBM은 업계 최고 수준의 기술력을 바탕으로 2024년 역대 최대 실적 달성에 중추적 역할을 했다. 올해는 더 큰 성장을 위한 기술 혁신과 생산성 향상이 필요한 시점으로, 수율·품질·비용 최적화 및 패키징 기술 고도화를 책임지는 HBM 융합기술 조직의 역할이 어느 때보다 중요하다.

뉴스룸은 2025년 신임임원으로 선임된 HBM융합기술 한권환 부사장을 만나 AI 메모리 반도체 시장을 선도할 HBM 기술 혁신 전략과 앞으로의 목표에 대해 이야기를 나눴다.

기술 혁신과 운영 혁신, 두 마리 토끼 잡는다

2002년 SK하이닉스에 입사한 한 부사장은 초기 HBM 개발부터 참여하여 이후 모든 세대 HBM 제품 개발과 양산을 이끌며 1등 리더십을 구축해 온 주역이다.

“HBM이 처음 출시될 당시, 생산 규모나 제품 수요는 지금과 비교할 수 없을 정도로 미미했습니다. 하지만 2023년 챗GPT의 등장과 함께 AI 시장이 폭발적으로 성장하기 시작했고, 고객 수요가 급격히 늘었는데요. 이에 대응하기 위해 기존의 라인보다 훨씬 규모가 큰 생산 라인을 단기간에 구축해야 하는 과제가 주어 졌고, 일부 수요에 대해서는 다른 제품의 생산 라인 일부를 HBM 생산 라인으로 전환하며 대규모 양산 체계를 구축했습니다. 당시에는 불가능에 가깝다고 여겼던 일이지만, HBM융합기술 구성원을 비롯한 유관 부서의 헌신적인 노력으로 성공할 수 있었습니다.”

한 부사장의 전략적 대응은 SK하이닉스의 HBM 시장 점유율을 높이고, 세계 최고 수준의 생산 능력과 품질을 확보하는 기반이 됐다. 그는 이러한 경험과 역량을 바탕으로 HBM융합기술 조직을 총괄하며, 제품 양산성을 높이고 차세대 HBM으로의 원활한 전환을 위해 새로운 기술적 토대를 마련하는 중책을 수행할 예정이다.

“HBM 시장 경쟁에서 우위를 점하기 위해서는 기술력은 기본이고, 최상의 제품을 적시에 고객에게 공급할 수 있어야 합니다. 기술 및 운영 혁신을 통해 시장과 고객 요구에 기민하게 대응할 수 있는 협업 체계를 구축하고, 안정적인 양산까지 이어질 수 있도록 맡은 바 최선을 다하겠습니다.”

시장과 고객 요구에 대응한 최적의 양산 환경 구축이 목표

한 부사장은 “2025년 가장 중요한 과제는 늘어나는 시장 수요에 안정적으로 대응하고, 동시에 차세대 HBM 양산을 위한 기술적 준비를 탄탄히 하는 것”이라고 강조했다.

“올해 주력으로 생산될 12단 HBM3E 제품은 기존의 8단 HBM3E 제품에 비해 공정 기술의 난이도가 높습니다. 또한, 차세대 HBM 제품은 진화하는 제품 세대에 따라 기술적인 과제가 더욱 늘어날 것으로 생각됩니다. 개발 과정에서 많은 기술적 도전을 극복하고 양산을 시작하겠지만, 생산량을 급격히 늘려가는 과정에서 예상치 못한 변수가 추가로 발생할 수 있고 해결도 매우 어렵습니다. HBM융합기술 조직은 이를 사전에 예측하고 철저한 대응 전략을 마련하는 데 집중할 계획입니다.”

최근 AI 메모리 반도체 수요가 늘면서, 글로벌 빅테크 기업을 중심으로 고객 맞춤형(Customized) 제품에 대한 요구도 점차 증가하고 있다. 하지만 HBM은 다른 제품보다 공정 수가 많고 생산 과정도 복잡해, 이에 대응하는 것이 쉽지 않다. 한 부사장은 “단순히 생산량을 늘리는 것이 아니라 효율적인 운영 체계를 구축하는 것이 더욱 중요해졌다”며 “생산 라인의 유연성을 높이고 고객과의 협력을 강화해 자사 HBM 경쟁력을 극대화하겠다”고 밝혔다.

“HBM 생산라인의 유연성을 제고하기 위해 다양한 운영 시스템을 협업을 통해 개선하고 있고, 개발 단계부터 개발/양산이 한팀이 되어 고객과 더욱 밀도 높은 협업으로 생산 효율성을 높일 것입니다. 이를 위해 유관 부서와 함께 기술적인 문제들을 사전에 해결해 최적의 양산 환경을 구축하는 것이 목표입니다. 이를 바탕으로 SK하이닉스가 풀 스택 AI 메모리 프로바이더로서 한 단계 도약하는 데 기여하겠습니다.”

구성원과 회사가 함께 성장할 수 있도록, 리더의 역할 다 할 것

한 부사장은 탁월한 성과를 끌어내는 힘은 구성원들의 자발적인 ‘동기부여’라며, 이를 위한 리더의 역할을 강조했다. 특히, 조직의 젊은 구성원들의 성장을 적극적으로 돕겠다는 의지를 드러냈다.

“구성원들이 스스로 동기부여하고, 주인의식을 가질 수 있는 환경을 조성하기 위해 리더가 할 일은 ‘소통’이라고 생각합니다. 열정을 가지고 각자의 자리에서 최선을 다하는 젊은 구성원들이 회사와 함께 성장할 수 있도록, 적극적으로 소통하고 함께 문제를 해결해 나가겠습니다.”

또한, 한 부사장은 급변하는 시장 환경에서도 가장 중요한 가치는 ‘안전’이라고 당부하며, 자신감을 갖고 함께 나아가자고 구성원들을 격려했다.

“우리는 지금 빠르게 성장하고 있고, 목표를 달성하는 데 집중해야 하는 상황입니다. 하지만 안전보다 중요한 것은 없습니다. 이를 위해 리더들이 앞장서겠습니다. 그리고 우리가 세계 최고라는 사실을 잊지 않았으면 합니다. 앞으로도 구성원들과 함께 소통하고 협력하면서, 더욱 강한 SK하이닉스를 만들어가겠습니다.”

▲ 제32회 한국반도체학술대회(KCS)에서 제8회 강대원상(소자/공정 분야)을 수상한 SK하이닉스 이강욱 부사장(PKG개발 담당)

SK하이닉스 이강욱 부사장(PKG개발 담당)이 지난 13일 강원도 정선에서 열린 제32회 한국반도체학술대회(Korean Conference on Semiconductors, KCS)에서 제8회 강대원상(소자/공정 분야)*을 수상하는 영예를 안았다.

모스펫*, 플로팅게이트* 개발 등 반도체 산업에 기념비적 발자취를 남긴 故 강대원 박사의 업적을 기리고자 제정된 이 상은 그동안 반도체 전공정인 소자 및 공정 분야의 저명한 교수들에게 수여됐는데, 소자/공정 분야에서는 올해 처음으로 후공정인 ‘반도체 패키징 분야의 기업인’에게 수여돼 많은 관심을 받고 있다.

뉴스룸은 이강욱 부사장을 만나 자세한 수상 소감과 공적을 들어봤다.

“큰 상 수상에 영광… SK하이닉스의 위상과 역량 인정받는 것”

이강욱 부사장은 글로벌 학계 및 업계에서 3차원 패키징* 및 집적 회로 분야에 대한 연구 개발을 27년 이상 이어 온 반도체 패키징 분야의 최고 기술 전문가다.

2000년 일본 도호쿠 대학에서 박사 학위를 받은 그는 미국 렌슬리어 공과대학 박사 후 연구원, 일본 도호쿠 대학 교수를 거쳐 2018년 SK하이닉스에 합류했다. 국내 최초로 TSV* 기술 개발에 성공한 이 부사장은 SK하이닉스 입사 후 HBM*2E(3세대)에 MR-MUF* 기술을 적용하며 ‘AI 메모리 성공 신화’의 기틀을 마련했다는 평가를 받는다.

▲ 제32회 한국반도체학술대회(KCS)에서 제8회 강대원상(소자/공정 분야)을 수상한 SK하이닉스 이강욱 부사장(오른쪽)

“TSV 기반 3차원 패키징 연구 성과들은 다양한 분야에서 상용화되고 있는데, 가장 대표적인 제품이 HBM입니다. SK하이닉스의 독자적 패키징 기술인 ‘MR-MUF’는 고난도의 HBM 제품을 높은 제조 수율과 양산성을 가지고 안정적으로 대량 생산할 수 있도록 해주었고, 핵심 특성인 열 방출 성능도 개선해 주었습니다. 이 기술은 HBM2E에 처음 적용되어 SK하이닉스가 글로벌 AI 메모리 리더로 도약하는 데 기여했는데요. 지속적인 기술 고도화를 거쳐 HBM3 및 HBM3E에도 성공적으로 적용되면서, SK하이닉스가 HBM 시장 우위를 굳건히 하는 데 큰 힘이 되었습니다.”

패키징의_가치를_증명하다_SK하이닉스_이강욱_부사장_기업인_최초_강대원상 수상_08_기타_사진_2025이 부사장은 굵직한 공적만큼 특출한 수상 이력도 자랑한다. 지난해 한국인 최초로 받은 ‘IEEE EPS 어워드 전자제조기술상[관련기사]’이 그것이다. 올해는 강대원상이라는 이력을 추가했는데, 그는 이번 수상이 특히 각별하다는 소감을 전했다.

“업계에서도 의미가 큰 상을 받게 돼 영광입니다. 무엇보다 SK하이닉스의 위상 그리고 PKG개발 조직의 높은 역량을 인정받은 듯해 보람찹니다. 과분한 상이지만, 반도체 산업 발전에 더 많이 기여하라는 뜻으로 생각하겠습니다. 함께 노력해 준 PKG개발 구성원분들에게도 감사 인사를 전합니다.”

“반도체 혁신 중심에 ‘패키징 기술’과 ‘원팀 협업’ 있어”

이 부사장이 강대원상 수상을 더욱 값지게 여기는 이유는 ‘최초의 패키징 분야 기업인 수상자’란 타이틀 때문이기도 하다.

“반도체 기술 발전의 패러다임이 미세화 중심에서 패키징 중심으로 바뀌는 등 전공정만큼 후공정의 역할도 커졌습니다. 혁신을 이루기 위한 기업의 역할도 매우 중요해졌죠. 즉, 반도체 혁신의 중심에 패키징 기술과 기업이 있다는 것인데요. 저의 수상은 이러한 사실을 다시 한 번 상기시킨 계기가 됐다고 생각합니다.”

이 부사장은 패키징 기술이 더 중요해질 것으로 내다보기도 했다. 패키징 기술의 진화가 새로운 산업의 성장으로 이어지고 있고, 향후에는 패키징 역량이 기업 생존을 좌우하고 기업 가치를 결정하는 핵심 요소가 된다는 것이 그의 설명이다. 아울러 이 부사장은 “패키징 기술을 확보해 반도체 패권을 강화하려는 글로벌 업체 간 경쟁은 이미 시작됐다”며 “PKG개발은 탄탄한 기술력과 원팀 협업을 기반으로 패권 경쟁에 대응할 것”이라고 강조했다.

“PKG개발 구성원들은 실패를 두려워하지 않는 도전 정신, 발생한 문제는 끝까지 해결한다는 강한 집념을 갖고 있습니다. 이것이 바로 PKG개발이 보유한 압도적 기술력의 원천입니다. 이에 더해 SK하이닉스의 강한 원팀 문화가 반도체 혁신을 성공적으로 이끈 원동력 입니다. 덕분에 MR-MUF 기술을 성공적으로 도입하고 HBM 시장을 선점하는 성과를 낼 수 있었습니다. 앞으로도 우리 조직은 도전 정신과 원팀 마인드를 바탕으로 미래 시장에 대응하고, 또 다른 혁신을 만들어 갈 것입니다.”

“첨단 패키징 기술 확보하고, 도전하는 개발 환경 조성할 것”

한편, 이강욱 부사장은 미래 시장에 대응하기 위해 두 가지 계획을 마련해 두었다고 밝혔다. ▲HBM 패키징 기술 고도화 ▲칩렛* 기반 이종 결합 기술의 확보 등이다.

“AI 시스템의 대용량·고성능·에너지 효율화 요구를 충족하려면 HBM 패키징 기술의 지속적 혁신이 필요합니다. 이를 위해 MR-MUF 기술 고도화, 하이브리드 본딩* 등 차세대 기술 개발에 역량을 쏟고 있습니다. 중장기적으로는 칩렛 기술로 2.5D, 3D SiP* 등을 구현해 메모리 센트릭*에 대응할 것입니다. 이 과정에서 팬아웃 웨이퍼 레벨 패키징*, 하이브리드 본딩 등으로 칩 간 연결성을 높여 성능을 향상시키고 에너지 효율을 높이는 ‘첨단 패키징 기술’을 확보해 나가고자 합니다.”

결과적으로 이 부사장은 소자, 공정, 설계, 패키징이 유기적으로 결합된 ‘토탈 반도체 솔루션(Total Semiconductor Solution)’을 완성하고, 이를 회사의 핵심 경쟁력으로 성장시킨다는 전략이다.

관련해 구성원에게는 “도전 정신과 원팀 마인드를 지속해서 발휘한다면 충분히 이뤄낼 수 있는 목표”라고 당부했다. 또한, “좋은 제품을 넘어 세상을 바꿀 기술을 개발한다는 큰 목표를 갖길 바란다”며 “구성원들이 퍼스트무버로서 새로운 길을 개척해 나갈 수 있도록 적극 지원하겠다”고 덧붙였다.

“IEEE EPS 어워드에 이어 강대원상이라는 큰 상을 받게 돼 무거운 책임감을 느낍니다. 후배 엔지니어들이 마음껏 도전할 수 있는 환경을 조성하는 것이 제 역할이라 생각하고, 반도체 산업을 선도하는 기업인으로서 SK하이닉스와 대한민국 반도체 산업의 경쟁력을 높이는 데 최선을 다하겠습니다.”

SK하이닉스가 1월 7일(이하 현지시간)부터 10일까지 나흘간 미국 라스베이거스에서 열린 세계 최대 IT/가전제품 전시회 ‘CES 2025(Consumer Electronics Show 2025)’에 참가했다.

올해 CES는 ‘연결하고, 해결하며, 발견하라: 뛰어들다(Connect, Solve, Discover: DIVE IN)’를 주제로 개최됐으며, 전 세계 글로벌 ICT 기업들의 기술력을 엿볼 수 있는 다양한 전시가 진행됐다.

SK하이닉스는 SK멤버사*와 함께 ‘혁신적인 AI 기술로 지속가능한 미래를 만든다(Innovative AI, Sustainable tomorrow)’를 주제로 전시관을 꾸미고, 지속가능한 미래를 위한 다양한 AI 메모리 기술력을 선보이며, SK의 미래 비전을 제시했다.

놀라운 기술력으로 CES 2025를 빛낸 SK 전시관(이하 SK관)을 함께 살펴보자.

* SK하이닉스, SK텔레콤, SKC, SK엔무브 등

지속가능한 미래, AI로 그리다

‘AI’와 ‘지속가능성’을 핵심 테마로 590여 평 규모의 전시관을 꾸민 SK는 AI 기술력을 활용해 개인의 생활과 공공 분야 서비스를 혁신하는 인프라 구축 모델을 선보이며, 지속가능한 미래를 만들겠다는 의지를 전시에 담아냈다.

SK관은 크게 ▲AI 데이터센터(Data Center, DC) ▲AI 서비스(Service) ▲AI 생태계(Eco-system)로 파트를 구성했다. 각 파트에서는 SK멤버사들의 최신 AI 기술과 AI를 활용한 다양한 서비스 및 시스템 등을 확인할 수 있었다.

SK관 외부에는 데이터의 최소 단위인 비트(bit)를 파도(Wave)처럼 형상화한 그래픽을 구현해 관람객들의 발길을 끌어모았다. 여기에는 데이터와 ICT 기술이 세상을 바꾸는 파도가 될 것이라는 의미를 담았다.

또한, AI 시대에서 핵심적인 역할을 하게 될 데이터센터를 형상화한 전시관에는 SK하이닉스의 AI 메모리 반도체를 비롯해 더욱 효율적이고 안정적인 데이터센터 운영을 위한 AI 솔루션들을 확인할 수 있었다.

우리가 일상생활에서 활용할 수 있는 다양한 AI 서비스와 함께, AI 전문 회사인 가우스랩스[관련기사]를 비롯해, SK멤버사들과 지속적인 협력 관계를 맺고 있는 글로벌 AI 파트너사(SGH, 람다, 앤트로픽, 퍼플렉시티 등)의 소식을 함께 전하기도 했다.

SK관을 방문한 관람객들은 “AI 구현을 위한 데이터센터 혁신 기술뿐만 아니라 AI 활용 방안 등에 대한 자세한 내용을 확인할 수 있어 유익했다”고 소감을 밝혔다.

혁신적인 AI 기술력 선보인 SK하이닉스

SK하이닉스는 이번 CES 2025에서 ▲AI 데이터센터와 ▲AI 서비스 파트에 최신 AI 메모리 반도체 제품을 전시했다. 회사는 이와 관련해 “AI를 활용해 지속가능한 미래를 실현하려는 SK의 비전에 적극 동참하며, 이번에 전시된 혁신적인 AI 메모리 반도체 제품들은 SK의 비전을 실현하는 데 큰 도움이 될 것”이라고 밝혔다.

1. 압도적 성능의 AI 메모리 반도체, 데이터센터를 혁신하다

AI 데이터센터 전시관에서 가장 먼저 눈길을 끄는 제품은 기업용 SSD(Enterprise SSD, 이하 eSSD)다. 대규모 데이터 처리와 저장에 최적화된 eSSD는 데이터센터의 핵심 구성요소로 최근, 데이터양이 기하급수적으로 증가하면서 중요성이 더 부각되고 있다.

▲ AI 데이터센터 전시관에 전시된 SK하이닉스와 솔리다임의 eSSD 제품군

▲ AI 데이터센터 전시관에 전시된 SK하이닉스와 솔리다임의 eSSD 제품군

▲ AI 데이터센터 전시관에 전시된 SK하이닉스와 솔리다임의 eSSD 제품군

▲ AI 데이터센터 전시관에 전시된 SK하이닉스와 솔리다임의 eSSD 제품군

▲ AI 데이터센터 전시관에 전시된 SK하이닉스와 솔리다임의 eSSD 제품군

▲ AI 데이터센터 전시관에 전시된 SK하이닉스와 솔리다임의 eSSD 제품군

이에, SK하이닉스는 176단 4D 낸드플래시(NAND Flash, 이하 낸드) 기반의 데이터센터 eSSD인 ▲PS1010 E3.S를 비롯해 ▲PE9010 M.2, 238단 4D 낸드 기반의 ▲PEB110 E1.S, QLC* 기반 61TB(테라바이트) 제품인 ▲PS1012 U.2* 등 압도적인 성능의 eSSD 제품을 선보였다.

* 낸드플래시는 한 개의 셀(Cell)에 몇 개의 정보(비트 단위)를 저장하느냐에 따라 SLC(Single Level Cell, 1개)-MLC(Multi Level Cell, 2개)-TLC(Triple Level Cell, 3개)-QLC(Quadruple Level Cell, 4개)-PLC(Penta Level Cell, 5개) 등으로 규격이 나뉨. 정보 저장량이 늘어날수록 같은 면적에 더 많은 데이터를 저장할 수 있음
* U.2: SSD의 형태를 칭하는 폼팩터(FormFactor)의 일종으로 2.5인치 크기의 SSD로 주로 서버나 고성능 워크스테이션(Workstation)에서 사용됨. 대용량 저장과 높은 내구성이 특징

여기에는 자회사 솔리다임(Solidigm)이 작년 11월 개발한 ▲D5-P5336 122TB 제품도 포함됐다. 이 제품은 현존 최대 용량을 자랑하며, 높은 수준의 공간 및 전력 효율성까지 갖춰 AI 데이터센터 고객들로부터 큰 관심을 받았다.

▲ SK 전시관에 전시된 HBM3E 16단 제품

▲ SK 전시관에 전시된 HBM3E 16단 제품

▲ 엔비디아(NVIDIA)의 GB200에 적용된 HBM3E

고도화된 AI 구현을 지원하는 대용량 메모리 제품도 소개했다. SK하이닉스는 최근 AI 메모리 제품으로 많은 관심을 받는 HBM*의 최신 제품인 ▲16단 HBM3E를 공개했다. 이 제품은 1.2TB 이상의 대역폭과 48GB(기가바이트)의 용량을 갖춘 현존 최고 사양의 HBM으로 업계 관계자와 관람객으로부터 큰 관심과 호응을 얻었다.

* HBM(High Bandwidth Memory): 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E) 순으로 개발됨. HBM3E는 HBM3의 확장(Extended) 버전

▲ GDDR6-AiM과 AiMX

이와 함께, 데이터센터용 DIMM* 제품군인 ▲DDR5 RDIMM과 ▲MRDIMM* 등도 선보였다. 2024년, SK하이닉스는 업계 최초로 10nm 공정의 6세대 기술(1cnm)을 기반으로 한 DDR5를 개발했으며, 이 기술이 적용된 DDR5 RDIMM은 기존 제품 대비 동작 속도는 11%, 전력 효율은 9% 향상된 제품이다.

* DIMM(Dual In-line Memory Module): 여러 개의 D램이 기판에 결합한 모듈
* MRDIMM(Multiplexer Ranks Dual In-line Memory Module): DIMM 제품 중에서도, 모듈의 기본 정보처리 동작 단위인 랭크(Rank) 2개가 동시 작동되어 속도가 향상된 제품

▲ CMM-DDR5와 CMM-Ax

▲ CMM-DDR5와 CMM-Ax

차세대 인터페이스로 주목받는 DDR5 기반의 CXL* 제품으로 최대 128GB의 개별 용량과 초당 35GB의 대역폭을 자랑하는 ▲CMM-DDR5* 역시 큰 관심을 받았다. 부스에서는 카드 형태의 CXL 메모리 제품인 ▲CMM-Ax의 모습도 확인할 수 있었다. CMM-Ax는 내부에 NMP(Near Memory Processing) 장치를 탑재해 연산 기능을 더한 제품으로, 최대 512GB 용량과 초당 76.8GB 대역폭의 압도적인 성능을 보인다.

* CXL(Compute Express Link): 고성능 컴퓨팅 시스템에서 CPU/GPU, 메모리 등을 효율적으로 연결해 대용량, 초고속 연산을 지원하는 차세대 인터페이스. 기존 메모리 모듈에 CXL을 적용하면 용량을 10배 이상 확장할 수 있음
* CMM-DDR5: CXL 기술을 적용한 DDR5 기반 메모리 모듈로, 기존 대비 대역폭을 50% 확장하고 메모리 용량을 두 배로 늘려 고성능 컴퓨팅(HPC)과 AI 응용에서 탁월한 성능을 발휘함. SK하이닉스의 CMM-DDR5는 AI 추론 및 인메모리 데이터베이스(DB) 환경에서 데이터 접근 속도와 자원 활용을 최적화해 데이터 처리 효율을 크게 높임

▲ GDDR6-AiM과 AiMX

부스에서는 PIM* 제품군 역시 찾아볼 수 있었다. 초당 16Gb(기가비트)의 속도로 데이터를 처리하는 GDDR6에 연산기능을 더한 ▲GDDR6-AiM은 CPU/GPU와 함께 사용할 경우, 특정 조건에서 연산 속도가 최대 16배 이상 빨라지는 제품이다. 또한 가속기 카드 제품인 ▲AiMX*를 전시하며, AI 데이터센터를 혁신하는 ‘풀 스택 AI 메모리 프로바이더(Full Stack AI Memory Provider)’로서의 면모를 뽐냈다.

* PIM(Processing-In-Memory): 메모리 반도체에 연산 기능을 더해 인공지능(AI)과 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀 수 있는 차세대 기술
* AiMX(AiM based Accelerator): GDDR6-AiM 칩을 사용해 대규모 언어 모델(Large Language Model, 대량의 텍스트 데이터로 학습하는 인공지능으로 챗GPT가 이에 해당)에 특화된 SK하이닉스의 가속기 카드 제품

2. 일상 속 AI의 발견, ‘온디바이스 AI’

SK하이닉스는 데이터센터용 AI 메모리 제품에 이어 일상에서 사용하는 디바이스에 최적화된 온디바이스 AI* 제품들도 선보였다. LPCAMM2, ZUFS 4.0, PCB01 등 혁신적인 제품들은 전시 내내 많은 관람객의 이목을 끌었다.

* 온디바이스(On-Device) AI: 물리적으로 떨어진 서버의 연산을 거치지 않고 기기 자체에서 AI 기능을 구현하는 기술. 스마트폰 기기가 자체적으로 정보를 수집하고 연산하기 때문에 AI 기능의 반응 속도가 빨라지고 사용자 맞춤형 AI 서비스 기능도 강화되는 장점이 있음

▲ LPCAMM2

▲ LPCAMM2

먼저, 저전력, 고성능, 모듈 방식으로 구현한 ▲LPCAMM2*는 여러 개의 LPDDR5X*를 하나로 묶은 모듈로 기존 SODIMM* 두 개를 하나로 대체하는 성능을 제공한다. 저전력 특성에 더해, 공간 절약까지 가능해 최근 온디바이스 AI 제품으로 주목받고 있다.

* LPCAMM2(Low-Power Compression Attached Memory Module): 데스크톱/노트북/태블릿용 메모리를 차세대 모듈 규격(CAMM)에 맞춰 개발한 제품. 기존 모듈 대비 단면 구성으로 두께가 반으로 줄고, 고용량 저전력의 특성을 지니고 있음
* LPDDR5X: 스마트폰과 태블릿 등 모바일용 제품에 들어가는 D램 규격으로, 전력 소모량을 최소화하기 위해 저전압 동작 특성을 갖고 있음. 규격 명에 LP(Low Power)가 붙으며, 최신 규격은 LPDDR 7세대(5X)로 1-2-3-4-4X-5-5X 순으로 개발됨. LPDDR5T는 SK하이닉스가 최초 개발한 버전으로, 8세대 LPDDR6가 업계에 공식 출시되기 전 7세대인 LPDDR5X의 성능을 업그레이드한 제품
* SODIMM(Small Outline DIMM): PC에서 사용되는 초소형 모듈로 전체 길이가 짧음

▲ ZUFS

▲ ZUFS

함께 전시된 ▲ZUFS* 4.0은 스마트폰에서 온디바이스 AI를 구현하는 데 최적화된 낸드 솔루션으로, 업계 최고 성능을 자랑한다. 기존 UFS와 달리, 데이터를 용도와 사용 빈도에 따라 다른 공간에 저장해 스마트폰 OS의 동작 속도와 저장 장치의 관리 효율성을 높인다는 특징이 있다. SK하이닉스는 이 제품 사용 시, 장시간 사용 환경에서 기존 UFS 대비 앱 실행 시간이 약 45% 개선되며, 성능 저하에 따른 제품 수명이 40% 늘어난 것을 확인했다.

* ZUFS(Zoned Universal Flash Storage): 디지털카메라, 휴대전화 등 전자제품에 사용되는 플래시 메모리 제품인 UFS의 데이터 관리 효율이 향상된 제품

▲ PCB01

▲ PCB01

▲PCB01은 온디바이스 AI PC에 최적화된 고성능 PCIe 5세대 SSD 제품이다. 연속 읽기 속도는 초당 14GB, 연속 쓰기 속도는 초당 12GB로 업계 최고 수준의 속도를 자랑한다. 또한, 전력 효율 역시 이전 세대 대비 30% 이상 개선되며 대규모 AI 연산 작업의 안정성을 제공한다.

이처럼 SK하이닉스는 CES 2025를 통해 데이터센터와 온디바이스 AI를 포괄하는 다양한 제품을 선보이며 기술의 폭넓은 적용 가능성을 제시했다. 회사는 “CES 2025에서 선보인 압도적인 성능의 AI 메모리 제품들을 통해 명실공히 ‘풀 스택 AI 메모리 프로바이더’의 면모를 선보였으며, AI 분야의 리더십을 확고히 다졌다”고 평가하며, “앞으로도 지속가능한 미래를 위해 AI 혁신을 지속적으로 추진할 것”이라고 밝혔다.

▲ 제61회 무역의 날 기념식에서 금탑산업훈장을 받은 SK하이닉스 이상락 부사장

SK하이닉스 이상락 부사장(Global S&M 담당)이 지난 12월 5일 서울 코엑스에서 열린 ‘제61회 무역의 날 기념식’에서 최고 영예인 금탑산업훈장을 수상했다.

매년 산업통상자원부 후원, 한국무역협회 주관으로 개최되는 무역의 날 기념식에서는 한 해 동안 수출 저변 확대에 공헌한 유공자를 선정하여 정부 포상을 수여한다. 산업훈장은 그중 가장 높은 등급의 포상으로, 특히 이 부사장이 수상한 금탑산업훈장은 최고 권위의 훈격이며 영예성이 가장 높다.

이번 수상에서 이 부사장은 AI 시대 환경 변화에 선제적으로 대응해 HBM을 비롯한 AI 향 메모리 시장을 선도했으며, ‘24년 상반기 기준 186억 불 수출 실적을 달성하는 등 반도체 업계 위상 제고 및 국가 경제 발전에 크게 기여한 공적을 인정받았다.

이 부사장은 “이번 수훈은 SK하이닉스 모든 구성원의 도전 정신과 열정을 더해 함께 만들어낸 성과라고 생각한다”며 “앞으로 더 큰 책임감을 가지고 회사와 반도체 산업 발전에 기여하도록 최선을 다하겠다”라고 소감을 밝혔다.

뉴스룸은 이 부사장을 만나 그간의 공적을 돌아보고, 앞으로의 목표에 관해 이야기를 나눠봤다.

위기 속에서 기회 찾은 ‘금빛 전략’

1992년 엔지니어로 SK하이닉스에 입사한 이 부사장은 해박한 기술 지식을 바탕으로 30여 년간 글로벌 빅테크 기업과 견고한 협력 관계를 구축하고, 급변하는 IT 시황에 맞춰 최적의 판매 전략을 펼치며 회사의 시장 지배력을 강화해 왔다.

현재 이 부사장이 이끄는 Global S&M 조직은 전사 매출을 책임지고 있다. 그는 조직이 맡은 역할을 야구 경기의 ‘마무리 투수’에 비유했다. 제품 개발부터 양산까지 잘 끌어온 ‘경기’를 고객과의 치열한 수 싸움을 거쳐 가장 높은 가치로 인정받는 ‘승리’, 즉 높은 매출을 끌어내는 역할을 한다는 것이다.

이 부사장의 이런 전략가적인 면모는 SK하이닉스가 다운턴을 극복하고, 글로벌 No.1 AI 메모리 기업으로서의 입지를 다지는 데 크게 공헌했다. 그는 어려운 시황에도 회사의 기술력과 고객 협상력을 바탕으로 고객별 고수익 제품 판매 확대 전략을 수립, 매출을 안정적으로 확보했다. 또한, 고객별 재고와 수급 동향을 빠르게 파악하여 선제적으로 가격 인상을 단행했고, 2023년 4분기에는 다운턴 이후 업계 최초로 흑자 전환을 이끌었다.

뿐만 아니다. 이 부사장은 AI 산업이 급속도로 발전하는 기회 요인에 집중해 HBM 및 일반 메모리 생산 역량을 재배치했고, 수요가 급증한 서버와 엔터프라이즈 SSD 시장을 공략하여 승기를 잡았다. 이러한 전략으로 2024년 3분기에는 매출 17조 5,731억 원, 영업이익 7조 300억 원을 달성하며, 창사 이래 최대 분기 매출이라는 기록적인 성과를 견인했다.

“불과 1년 전만 해도 우리는 유례없는 다운턴으로 큰 어려움을 겪고 있었습니다. 하지만 위기 속에도 기회는 있었습니다. 자사의 제품 경쟁력을 기반으로 시장 변화에 최적화한 판매 전략을 세웠고, 고객과의 전략적 협업으로 시장을 빠르게 선점하여 현재 AI 메모리 시장 1위라는 결실을 이룰 수 있었습니다.

전사 모든 부문의 노력으로 어려운 상황을 슬기롭게 극복한 덕분에, 금탑산업훈장 수상이라는 영광을 안을 수 있었습니다. 다시 한번 구성원께 감사의 인사를 전합니다.”

메모리 반도체 산업 사이클, 고객과의 신뢰 구축과 유연한 변화 대응 중요

이 부사장은 이러한 호실적이 단기간에 이룩한 성과는 결코 아니라고 강조했다.

“특히 HBM은 갑자기 등장한 스타 상품이 아닙니다. 초기 실패에도 포기하지 않았고, 3세대 제품인 HBM2E부터 적극적으로 고객 인증 획득을 진행하여 안정적으로 시장에 안착했습니다. 그리고 고객과 꾸준히 신뢰 관계를 쌓아, 중장기 전략적 협력 관계를 구축했습니다. 이렇게 쌓인 성과가 AI 시장의 개화를 만났고, 현재의 실적까지 만들어 낸 것입니다.”

준비된 자에게 기회가 온다는 말처럼, 이 부사장의 ‘준비’는 고객과 신뢰로 연결된 진정한 파트너십을 맺는 것이다.

“영업 업무를 맡은 후, 항상 저의 목표는 고객과 깊이 공감하고, 그들의 성공을 나의 성공으로 여기며 함께 성장하는 것이었습니다. 그간 달성한 성과의 원동력 역시 이러한 철학을 바탕으로 고객과 쌓아온 ‘신뢰’라고 생각합니다. 기술력이나 제품력도 중요하지만, 결국 고객이 믿고 의지할 수 있는 파트너가 되는 것이 중요하기 때문입니다.”

이 부사장은 미주 법인장으로 재직하던 2018년에도, 고객과의 신뢰 관계를 바탕으로 당대 최대 매출 달성에 기여하며 반도체 슈퍼 호황기를 이끌었다. 당시 급증하던 클라우드 붐(Boom)에 적극 대응하여, 서버 향 제품의 매출과 시장 점유율을 극대화했고 다양한 글로벌 빅테크 기업과 전략적으로 협업하여 자사 사업 확대를 위한 기반 마련에 많은 노력을 기울였다.

또한, 이 부사장은 수요와 공급의 변화에 민감한 메모리 반도체 산업에서는 급변하는 IT 환경에 대한 빠르고 유연한 대응체계를 갖추는 것 역시 중요하다고 역설했다.

“메모리 반도체 산업의 사이클에 대응하기 위해서는 고객의 수요를 선제적으로 예측하고, 산업 동향에 발맞춰 기술 개발과 생산 역량을 꾸준히 강화해야 합니다. 단기적인 실적 상승뿐만 아니라 장기적인 안정성과 지속 가능한 성장을 동시에 달성하는 것을 목표로 전략을 세워, SK하이닉스가 독보적인 AI 메모리 리더로 자리 잡을 수 있도록 지속해서 노력하겠습니다.”

이 부사장은 SK하이닉스가 기술 변혁을 주도하며, 글로벌 No.1 AI 메모리 기업으로서 위치를 공고히 하기 위해 조직 및 전사 구성원에게 ‘고객 중심의 사고’를 가질 것을 당부했다. 그리고 이를 달성하기 위한 과정에서 적극적으로 협업하고 소통하는 ‘원팀’ 문화의 중요성도 강조했다.

“모든 구성원들 각자의 자리에서 ‘고객 중심의 사고’를 가져야 합니다. 고객이 원하는 것을 먼저 이해하고, 이를 뛰어넘는 가치를 제공할 수 있어야 지속적인 경쟁력을 확보할 수 있기 때문입니다.

그리고 부서와 팀의 경계를 넘어선 원팀 마인드로 정보를 적극 공유하고, 아이디어를 나누며 문제 해결에 힘써주시길 바랍니다. AI 메모리 시장 1등이라는 대업은 우리가 가진 기술과 열정, 끈기와 협업에서 나온 결과라고 믿습니다.”

그리고 이러한 성과가 가지는 자부심에 대해 이야기하며, 포부를 밝혔다.

“우리가 달성한 실적은 단순히 한 회사의 성과에 그치는 것이 아니라, 글로벌 시장에서 우리나라의 위상을 높이고 국가 반도체 산업의 경쟁력을 증명한 것입니다. 이에 개인적으로 큰 자부심을 느낍니다.

앞으로도 저를 비롯한 영업/마케팅 조직 구성원들이 SK하이닉스의 마무리 투수로서 국가 경제와 미래 산업 발전을 위해 큰 역할을 할 수 있도록 많은 격려 부탁드립니다.”

SK하이닉스 김춘환 부사장(R&D공정 담당)이 지난달 27일 서울 삼성동 코엑스에서 열린 ‘2024 산업기술 R&D 종합대전’에서 산업기술진흥(기술개발 부문) 유공자로 선정돼 은탑산업훈장을 받았다.

R&D대전은 국내 연구·개발(R&D) 성과를 알리고, 산·학·연 협력을 촉진하고자 산업통상자원부가 주관하는 연례행사다. 이 자리에서는 기술 진흥 및 신기술 실용화에 공이 큰 기술인을 포상하는 ‘산업기술진흥 유공 및 대한민국 기술대상’ 시상식이 진행된다.

산업훈장은 산업기술진흥 유공의 최고상격으로, 김 부사장은 이 부문에서 은탑산업훈장 수상의 영예를 안았다. D램과 낸드 플래시를 아우르며 국내 반도체 기술력 향상에 기여한 공을 인정받은 것이다.

▲ 2024 산업기술 R&D 종합대전에서 은탑산업훈장을 받은 SK하이닉스 김춘환 부사장(첫 번째 사진 오른쪽, 두 번째 사진 왼쪽 세 번째)

김 부사장은 “요소기술*을 원천으로 수익성 높은 고성능 제품을 성공적으로 양산한 공적을 인정받았다”며 “이는 모든 구성원의 헌신과 노력으로 맺은 결실”이라고 소감을 밝혔다. 이어 그는 “함께 한 구성원 모두에게 감사 인사를 전하며 앞으로 더 많은 분에게 수상의 기회가 돌아가길 기대한다”고 덧붙였다.

뉴스룸은 혁신 기술로 회사와 산업을 빛낸 김 부사장을 만나 이야기를 나눴다.

HBM 핵심 요소기술, TSV의 기반을 다지다

1992년 SK하이닉스에 입사한 김춘환 부사장은 32년간 메모리 반도체 연구에 매진하며 첨단기술 개발을 이끈 주역이다. 특히 그는 HBM의 핵심인 TSV(Through Silicon Via) 요소기술을 개발하는 데 크게 기여했는데, 개발 선행 단계부터 참여해 15년간 연구를 이어오며, HBM 공정의 기틀을 마련한 것으로 평가받는다.

김 부사장은 TSV 개발에 열을 올렸던 2008년 당시를 회상했다.

“TSV는 칩에 미세한 구멍을 뚫어 상·하단 칩을 전극으로 연결하고 적층하여 고용량, 고대역폭을 구현하는 기술입니다. 개발 초기에는 고도의 정밀성과 미세한 제어가 요구되다 보니 난이도가 정말 높았는데요. 특히 금속층 증착과 회로 패턴 형성 과정에서 어려움이 상당히 컸습니다.”

당시 김 부사장을 비롯한 개발진은 문제를 풀어내고자 유관 부서들과 머리를 맞대고 해결책을 모색했다. 치열한 협업 끝에 SK하이닉스는 ‘R&D의 요소기술 개발 > 제조/기술의 양산 품질 고도화 > 패키징’으로 이어지는 개발 모델을 완성했고, HBM 시장이 열리는 시점에 맞춰 제품을 내놓을 수 있었다.

▲ SK하이닉스 김춘환 부사장이 수상한 2024 산업기술 R&D 종합대전 은탑산업훈장

하지만 오랜 연구 끝에 내놓은 제품이 곧바로 실적으로 이어지진 않았다. 초기에는 높은 공정 비용 대비 시장 수요가 적은 탓에 수익성을 확보하기 어려웠기 때문이다. 김 부사장은 “그럼에도 경영진의 확고한 믿음과 지원이 있어 프로젝트를 이어갈 수 있었다”고 밝혔다.

“TSV 공정 기술 안정화와 인프라 구축에 중점을 두고 연구 개발에 더욱 매진했습니다. 양산 품질 개선 활동도 진행해 마침내 HBM 양산에 성공하게 됐는데요. 이 모든 성과의 단초였던 TSV는 현재 MR-MUF*와 함께 HBM의 핵심 경쟁력이 됐습니다.”

D램·낸드 요소기술, 풀스택 AI 메모리의 기반이 되다

김 부사장의 성취는 TSV에 그치지 않는다. 그는 10나노급 5세대(1b) D램 미세 공정에 EUV* 장비를 도입해 업계 최고 수준의 생산성과 원가 경쟁력을 확보했고 이를 6세대(1c) D램에도 확대 적용했다. 또, 그는 HKMG* 기술을 D램에 적용해 메모리 성능·효율을 높이는 등 선단기술*에서 눈에 띄는 성과를 냈다.

낸드 분야의 혁신도 돋보인다. 김 부사장은 Gate W Full Fill* 기술로 신뢰성을 높여 수율 안정성을 확보했고, 이를 통해 생산성을 높이는 데 기여했다. 또한, 웨이퍼 본딩(Wafer Bonding) 기술을 개발해 초고층 낸드를 생산하는 데 필요한 핵심 요소기술을 확보했다.

이 같은 결실은 회사가 ‘풀스택 AI 메모리 프로바이더(Full Stack AI Memory Provider)*’로 도약하는 데 중요한 마중물이 됐다.

“1b D램 기반의 HBM3E는 선단기술과 TSV 노하우를 집대성한 결과물로 볼 수 있습니다. 또, 초고속·저전력의 LPDDR5X·LPDDR5T는 HKMG 기술 덕분에 개발할 수 있었죠. 이밖에 R&D 요소기술을 기반으로 개발한 낸드 및 SSD 제품은 원가, 성능, 품질 측면에서 세계 최고 수준의 경쟁력을 증명했고, 웨이퍼 본딩 기술은 초고층 낸드 개발의 방향성을 잡는 데 중요한 역할을 하고 있습니다.”

김 부사장은 기술 개발뿐만 아니라 생태계 육성에도 힘썼다. 국내외 반도체 학회 강연에 나서며 R&D 노하우를 공유했고, 소재·부품·장비 협력사와의 기술 협력에도 꾸준히 힘써왔다.

이런 성공 스토리를 만들어 내기까지 그는 ‘도전 정신’과 ‘원팀’의 중요성이 컸다고 강조한다.

“R&D 조직은 도전 정신을 바탕으로 한계를 정면으로 돌파하며 원가 경쟁력을 갖춘 기술을 개발하고 있습니다. 여기에 원팀 문화가 더해지며 시너지 효과가 창출됐죠. 특히 수많은 조직이 참여해 전사 기술 방향을 논의하는 등 견고한 협업 체계가 기술 리더십을 확보하는 데 큰 힘이 됐습니다.”

끝으로, 김 부사장은 AI라는 큰 변화에 맞서 나가기 위해 구성원들이 가져야 할 마음가짐을 언급했다.

“신규 요소기술 정의부터 기술 개발 착수, 안정적 제품 양산까지 전 과정에서 조직이 하나되어야만 목표를 달성할 수 있습니다. 또, 요소기술을 적기에 개발하려면 실패를 두려워하지 말고 지속해서 도전하고 시도해야 합니다. 많은 변화가 있겠지만, 멈추지 않고 성장을 추구합시다. 퍼스트 무버로서 기술 리더십을 발휘한다면 세계 최고의 SK하이닉스로 성장할 수 있을 것입니다.”

▲ SC 2024에 참여한 SK하이닉스 부스

SK하이닉스가 17일부터 22일까지(미국시간) 미국 조지아주 조지아 월드 콩그레스 센터(Georgia World Congress Center)에서 열린 ‘슈퍼컴퓨팅 2024(Super Computing 2024, 이하 SC 2024)’에 참가해 HPC와 AI를 위한 최첨단 솔루션을 선보였다.

SC 2024는 1988년부터 매년 열리는 HPC 분야의 대표적 글로벌 콘퍼런스로, HPC와 AI 기술의 최신 동향을 공유하고 업계 전문가들이 교류하는 행사다.

올해 SK하이닉스는 ‘MEMORY, THE POWER OF AI’를 주제로 전시를 열어, HPC·AI 제품 시연과 함께 첨단 메모리와 스토리지 기술에 대한 발표를 진행했다. 회사는 이번 행사를 통해 SK하이닉스의 축적된 기술력을 선보이며 글로벌 시장에서의 AI 리더십을 입증했다.

AI 데이터센터 기술의 미래를 선도하는 솔루션

SK하이닉스는 글로벌 AI 메모리 시장에서의 기술 리더십을 보여주는 다양한 제품을 전시했다. 데이터센터 솔루션 섹션에서는 ▲HBM3E ▲DDR5 Server DIMM ▲Enterprise SSD 등 회사의 핵심 제품을 선보였다.

▲ 데이터센터 솔루션 섹션에 전시된 HBM3E

▲ 데이터센터 솔루션 섹션에 전시된 DDR5 Server DIMM

▲ 데이터센터 솔루션 섹션에 전시된 Enterprise SSD

데이터 처리 성능이 향상된 차세대 메모리 HBM3E가 전시되어 관람객들의 눈길을 끌었다. HBM3E[관련기사]는 현존하는 HBM* 제품 중 최대 용량인 36GB를 구현한 신제품으로, AI 메모리 시장을 선도하는 기술력을 통해 주요 고객사와의 협력을 한층 강화하고 있다. AI 반도체 제조사들이 점점 더 방대한 데이터를 빠르게 처리할 수 있는 고용량 HBM이 필요함에 따라, SK하이닉스는 지난 9월 업계 최초로 12단 적층 D램 양산을 시작하며 반도체 시장 변화에 빠르게 대응했다.

* HBM(High Bandwidth Memory): 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E) 순으로 개발됨. HBM3E는 HBM3의 확장(Extended) 버전.

이와 함께, 회사는 DDR5 RDIMM(1cnm)을 공개해 큰 관심을 끌었다. 이 제품은 차세대 미세화 공정이 적용된 D램으로, 전력 효율이 높아져 데이터센터 전력 비용 절감에 기여할 것으로 기대된다. 또한 회사는 고성능 서버용으로 설계된 다양한 DDR5 모듈의 DDR5 MCRDIMM*과 DDR5 3DS RDIMM 등의 제품군을 소개했다.

* MCRDIMM(Multiplexer Combined Ranks Dual In-line Memory Module): 여러 개의 D램이 기판에 결합된 모듈 제품으로, 모듈의 기본 정보처리 동작 단위인 랭크(Rank) 2개가 동시 작동되어 속도가 향상된 제품

이외에도 SK하이닉스는 기존 출시한 초고성능 PCIe* 5세대 제품 PS1010과 더불어, 데이터센터용 PCIe 5세대 eSSD(Enterprise SSD) 신제품 PEB110을 공개했다. PCIe 5세대 기술은 이전 세대보다 대역폭이 두 배로 넓어져 더 빠른 데이터 전송 속도를 제공하며, PEB110은 이를 통해 전력 효율과 성능이 크게 개선됐다.

* PCIe(Peripheral Component Interconnect express): 디지털 기기의 메인보드에서 사용하는 직렬 구조의 고속 입출력 인터페이스

HPC·AI 혁신 솔루션 한 자리에… 미래 기술로 성능 혁신을 보여주다

HPC·AI 솔루션 섹션에서는 차세대 메모리 기술을 통한 데이터 처리와 응용 성능 향상을 실감할 수 있도록 다양한 고성능 솔루션을 시연했다.

▲ HPC·AI 솔루션 섹션에서 시연 중인 CMM-DDR5

▲ HPC·AI 솔루션 섹션에서 시연 중인 PIM(AiMX)

SK하이닉스는 이번 행사에서 차세대 메모리 기술인 CXL(Compute Express Link)*을 적용한 CMM-DDR5*를 선보였다. CXL 메모리는 여러 컴퓨팅 장치가 메모리를 공유하여 데이터 전송 속도와 자원 활용도를 높이는 기술로, HPC와 AI 응용에 필요한 메모리 용량 확장을 지원한다. 이러한 CXL 메모리 기술이 적용된 CMM-DDR5 데모에서는 Intel® Xeon® 6 프로세서가 장착된 서버 플랫폼을 사용해 AI 데이터 처리 작업을 더 빠르게 수행하는 사례를 소개해 큰 호응을 얻었다.

* CXL(Compute Express Link): 고성능 컴퓨팅 시스템에서 CPU/GPU, 메모리 등을 효율적으로 연결해 대용량, 초고속 연산을 지원하는 차세대 인터페이스. 기존 메모리 모듈에 CXL을 적용하면 용량을 10배 이상 확장할 수 있음
* CMM-DDR5: CXL 기술을 적용한 DDR5 기반 메모리 모듈로, 기존 대비 대역폭을 50% 확장하고 메모리 용량을 두 배로 늘려 고성능 컴퓨팅(HPC)과 AI 응용에서 탁월한 성능을 발휘함. SK하이닉스의 CMM-DDR5는 AI 추론 및 인메모리 데이터베이스(DB) 환경에서 데이터 접근 속도와 자원 활용을 최적화해 데이터 처리 효율을 크게 높임

또한 회사는 PIM*기술을 활용한 AiMX*를 통해 최신 언어 모델인 LLaMA-3 70B의 실시간 처리 성능을 시연했다. 데이터센터의 언어 모델 서비스는 여러 사용자의 요청을 동시에 처리하는 방식으로 GPU 효율을 개선하고 있으나, 동시에 처리할 요청이 많아짐에 따라 이 과정에서 발생하는 결과물인 생성 토큰의 길이가 증가하여 GPU 효율이 낮은 Attention Layer*의 연산량이 커지는 문제가 있다. 이번에 공개된 SK하이닉스의 AiMX는 연산을 가속해 데이터 처리 속도를 높이고 전력 소모를 줄임으로써, 대량 데이터를 효율적으로 처리할 수 있는 고성능·저전력 솔루션으로서의 강점을 보여줬다.

* PIM(Processing-In-Memory): 메모리 반도체에 연산 기능을 더해 인공지능(AI)과 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀 수 있는 차세대 기술
* AiMX(AiM based Accelerator): GDDR6-AiM 칩을 사용해 대규모 언어 모델(Large Language Model, 대량의 텍스트 데이터로 학습하는 인공지능으로 챗GPT가 이에 해당)에 특화된 SK하이닉스의 가속기 카드 제품
* Attention Layer: 입력 데이터의 각 부분에 가중치를 부여하여 관련 정보에 더 집중하게 하는 메커니즘으로 언어모델에서 사용되는 핵심 알고리즘

▲ HPC·AI 솔루션 섹션에서 시연 중인 CXL Pooled Memory(Niagara 2.0)

▲ HPC·AI 솔루션 섹션에서 시연 중인 Computational SSD

나이아가라(Niagara) 2.0 데모에서는 CXL Pooled Memory* 솔루션을 활용해 거대언어모델(LLM) 추론 서비스에서 발생하는 LLM 모델 스위칭* 오버헤드를 개선하는 방안을 선보였다. 이 솔루션은 GPU 메모리 부족으로 인해 불가피하게 발생하는 LLM 모델 스위칭 오버헤드를 줄여 추론 시간을 단축할 수 있음을 보였다.

* Pooled Memory: 여러 개의 CXL 메모리를 묶어 풀(Pool)을 만들어 여러 호스트가 효과적으로 용량을 나누어 사용하여 전반적인 메모리 사용률을 높이는 기술
* LLM 모델 스위칭: GPU 메모리상의 기존 LLM 모델을 삭제하고 사용자의 요청에 맞는 LLM 모델을 load 하는 기능

SSD 시연에서는 Checkpoint Offloading SSD 솔루션을 활용해 체크포인팅(Checkpointing)* 기술을 효과적으로 지원함으로써, LLM 학습 시스템에서 발생하는 장애로 인한 자원 및 비용 낭비를 줄이고 학습 성능을 향상시킬 수 있음을 보였다.

* 체크포인팅(Checkpointing): 학습 과정 중 특정 시점의 모델 파라미터와 관련 주요 데이터를 저장하여 시스템 장애 발생 시 저장된 특정 시점에서 학습을 재시작할 수 있도록 지원하는 기술

▲ HPC·AI 솔루션 섹션에 전시된 Object-based Computational Storage

▲ HPC·AI 솔루션 섹션에 전시된 Near-Memory Processing

SK하이닉스는 미국 로스앨러모스 국립연구소(Los Alamos National Laboratory, 이하 LANL)*와 협업하여 개발한 객체 기반 연산 스토리지(Object-based Computational Storage, OCS)* 기술을 활용해 필요한 데이터만 분석 서버로 전송함으로써 HPC 환경의 데이터 병목 현상을 개선하는 데모를 선보였다. 또한, 대규모 데이터 처리에서 성능을 크게 향상시킬 수 있는 HBM 기반 NMP(Near-Memory Processing)* 기술도 함께 소개했다.

* LANL(Los Alamos National Laboratory): 미국 에너지부 산하 국립연구소로 국가안보와 핵융합 분야를 비롯해 우주탐사 등 다양한 분야의 연구를 하는 곳으로 특히 2차 세계대전 당시 맨해튼 프로젝트에 참여해 세계 최초로 핵무기를 개발한 곳
* 객체 기반 연산 스토리지(Object-based Computational Storage, OCS): 데이터 분석을 위해 설계된 컴퓨팅 스토리지 솔루션으로, 데이터 인식 기능을 통해 컴퓨팅 노드의 도움 없이 독립적으로 분석 작업을 수행할 수 있음. 이 기술은 고성능 컴퓨팅(HPC) 환경에서 대규모 데이터의 효율적 처리를 가능하게 함
* NMP(Near-Memory Processing): CPU-메모리 간 데이터 이동 시 발생하는 병목 현상을 해결하고, 처리 성능 향상을 위해 연산 기능을 메인 메모리 옆으로 이동하는 메모리 아키텍처

발표 세션에서 차세대 HPC·AI 기술 비전 제시

▲ SC 2024에 참석해 발표를 진행한 SK하이닉스 박정안 TL(Sustainable Computing)

▲ SC 2024에 참석해 발표를 진행한 SK하이닉스 김종률 팀장(AI System Infra)

SK하이닉스는 이번 행사에서 주요 연사로 나서 자사의 기술 비전과 차세대 솔루션을 공유했다. 박정안 TL(Sustainable Computing)은 LNAL와 공동 개발한 객체 기반 연산 스토리지(Object-based Computational Storage, OCS) 표준화에 대해 발표했다. 박 TL은 “SK하이닉스의 OCS는 추가적인 컴퓨팅 자원 없이도 데이터 저장 장치가 스스로 분석을 수행해 기존보다 빠르고 효율적인 데이터 처리를 가능하게 한다”고 밝혔다.

또한 김종률 팀장(AI System Infra)은 ‘HPC·AI 시스템을 위한 메모리와 스토리지의 힘’을 주제로, SK하이닉스의 최신 연구 성과를 기반으로 한 메모리와 스토리지 기술을 소개했다. 김 팀장은 HPC·AI 시스템에 적용할 수 있는 CXL 메모리와 HBM 기반의 Near-Memory Processing 기술 및 CXL Pooled Memory 기반의 데이터 공유 기술에 대한 연구 결과와 기술 인사이트를 소개하였다.