CES에서 빛난 SK하이닉스의 AI 메모리 리더십, 그 현장 속으로!

* SK㈜, SK하이닉스, SK텔레콤, SK이노베이션, SK에코플랜트, SK E&S, SKC 등

▲ CES 2024에 마련된 ‘SK원더랜드’ 전경 모습

SK하이닉스는 CES 참가를 통해 다가오는 AI 시대의 중심에 메모리 반도체가 있음을 강조하고, 글로벌 AI 메모리 시장을 선도하는 회사의 경쟁력을 세계에 알리겠다는 포부를 밝혔다. 이와 함께 ▲AI를 위한 초고성능 메모리인 ‘HBM3E*’를 비롯해 ▲CPU, 메모리, 스토리지 등 서로 다른 인터페이스를 통합해 처리 효율성과 용량 확장성을 높인 차세대 인터페이스 ‘CXL(Compute eXpress Link)’ 기반의 메모리 제품 ▲CXL 기반 연산 기능을 통합한 메모리 솔루션 ‘CMS(Computational Memory Solution)’ 시제품 ▲프로세서처럼 연산 기능까지 갖춘 차세대 지능형 메모리 PIM(Processing-In-Memory) 기반의 AI 가속기*용 카드 시제품 ‘AiMX*’ 등을 선보이며, 관람객들의 호응을 얻었다.

* HBM(High Bandwidth Memory): 여러 개의 D램을 수직관통전극(TSV, Througn Silicon Via)으로 연결해 고대역폭을 구현한 메모리로, 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E) 순으로 개발됨. HBM3E는 HBM3의 확장(Extended) 버전
* AI 가속기(Accelerator): AI의 학습 및 추론을 지원하기 위해 만든 하드웨어(Hardware)
* AiMX(Accelerator-in-Memory based Accelerator): SK하이닉스 최초의 PIM 제품인 GDDR6-AiM 칩을 사용해 대규모 언어 모델(Large Language Model)에 특화된 AI 가속기용 카드 시제품

첨단기술로 행복한 세상 구현해 낸 SK원더랜드

▲ 다양한 볼거리를 제공하고 있는 SK원더랜드

매년 혁신적인 ICT 제품이 공개되는 CES는 볼거리와 즐길 거리가 넘치는 전시회로도 유명하다. 올해도 다채로운 제품과 아이디어가 관람객들의 발걸음을 끌어 모았으며, SK하이닉스 역시 SK원더랜드를 통해 관람객들에게 다양한 체험 기회를 제공했다.

SK하이닉스를 비롯한 SK그룹 관계사들은 ‘세상의 모든 행복이 모여 있는 곳’이라는 메시지를 중심으로 ‘넷제로(Net Zero)*’의 꿈이 현실이 되는 SK원더랜드를 구성했다. 탄소 감축 기술을 총 망라한 SK원더랜드에서는 기후 위기가 사라진 세상에서 느낄 수 있는 일상의 가치와 행복을 체험하는 다채로운 프로그램이 마련됐다. 이를 위해 360도 영상을 재생하는 구체 LED, 15미터 길이의 미디어 터널, 미래 도심항공교통(UAM) 영상 시뮬레이터 등 다양한 미디어아트와 어트랙션이 구현됐다.

* 넷제로(Net Zero): 이산화탄소를 포함한 모든 온실가스의 순배출량을 제로(0)로 줄인다는 개념

특히, SK하이닉스의 ‘AI 포춘텔러(AI Fortune Teller)’는 많은 관람객의 호응을 얻었다. 포춘텔러는 얼굴 인식 AI 기술을 통해 관람객 얼굴이 합성된 타로카드를 만들어주는 생성형 AI다. 그 외, AI 인프라의 핵심인 초고성능 메모리 HBM3E의 기능과 중요성이 자세히 소개됐다.

▲ SK하이닉스의 HBM3E가 적용된 AI 포춘텔러의 모습

포춘텔러에서 소개된 HBM3E는 SK하이닉스가 2023년 8월, 개발에 성공한 현존 최고 성능의 메모리 반도체로, 초당 1.18TB(테라바이트) 이상의 동작 속도를 자랑한다. 방대한 데이터를 빠르게 처리해야 하는 AI, 클라우드, 고성능 컴퓨팅 분야에서 핵심적인 요소로 활용되고 있으며, 회사는 올해 상반기부터 본격적인 양산에 돌입해 AI 메모리 기술 리더십을 공고히 할 것으로 전망하고 있다[관련기사].

또한, 사물의 이미지를 디지털 신호로 변환하는 CIS는 주로 스마트폰을 비롯한 카메라 등에 사용되며, 최근 AI 기반의 자율주행과 의학, 보안 등 이미지 데이터가 필요한 모든 곳에 적극 활용되고 있다.

글로벌 AI 메모리 리더십 보여준 SK하이닉스

SK하이닉스는 CES 2024 행사장 내 별도로 마련된 ‘SK ICT 패밀리 데모룸’을 통해 AI 메모리 기술력을 선보였다. 먼저, 최근 HBM과 함께 AI 메모리 기술로 각광받고 있는 CXL(Compute Express Link)이 많은 주목을 받았다. PCIe* 기반의 표준화된 인터페이스인 CXL은 유연한 메모리 확장성과 여러 호스트(CPU, GPU 등) 간 메모리 공유가 장점인 기술로 AI와 데이터 분석에 활용되는 고성능 컴퓨팅 시스템의 효율성을 극대화할 수 있다.

* PCIe(Peripheral Component Interconnect Express): 디지털 기기의 메인보드에서 사용되는 직렬 구조의 고속 입출력 인터페이스

▲ ‘SK ICT 패밀리 데모룸’에 전시된 CXL

SK하이닉스는 CES 2024를 통해 선보인 CXL 기술력이 방대한 데이터를 더 효율적으로 처리하려는 AI 고객들에게 큰 도움이 될 것으로 전망했다. SK하이닉스는 DDR5 기반 96GB(기가바이트), 128GB CXL 메모리 솔루션 제품을 올 하반기부터 상용화한다는 계획이다.

▲ ‘SK ICT 패밀리 데모룸’에 전시된 CMS

또, 회사는 CXL 기반의 메모리 솔루션 CMS(Computational Memory Solution) 시제품을 선보이기도 했다. CMS는 고용량 메모리를 확장할 수 있는 CXL 메모리에 머신러닝 및 데이터 필터링 연산 기능까지 통합한 솔루션으로, AI와 빅데이터 분석 등 데이터 집약적인 다양한 영역에서 활용 가능할 것으로 전망되고 있다.

▲ ‘SK ICT 패밀리 데모룸’에 전시된 AiMX와 AiMX에 탑재된 GDDR6-AiM

특히, 이번 전시에서 눈에 띄었던 것은 AiMX(AiM based Accelerator)였다. AiMX는 대규모 언어모델(Large Language Model, LLM)에 특화된 생성형 AI 가속기에 쓰이는 카드형 제품으로, 데이터 저장은 물론 연산까지 가능한 차세대 지능형 메모리인 GDDR6-AiM(Accelerator-in-Memory) 칩을 탑재했다. AiMX는 기존 GPU 중심의 생성형 AI 시스템과 비교해 데이터 처리 시간을 대폭 단축하면서도 더 낮은 전력을 소모한다는 장점이 있어, 많은 데이터를 처리해야 하는 AI 시스템 발전에 중요한 역할을 할 것으로 기대되고 있다. 이 밖에도 회사는 서버용 DDR5 모듈과 새로운 형태의 D램 모듈인 LP CAMM2(Compression Attached Memory Module)*에 대한 품질 테스트 보드를 선제적으로 개발, 완성도 높은 차세대 제품을 적기에 공급할 수 있는 기반을 마련했다고 밝혔다.

* LP CAMM2(Low-Power Compression Attached Memory Module): 데스크톱/노트북/태블릿용 메모리를 차세대 모듈 규격(CAMM)에 맞춰 개발한 제품. 기존 모듈 대비 단면 구성으로 두께가 반으로 줄고, 고용량 저전력의 특성을 지니고 있다.

SK하이닉스는 “이번 CES 2024를 통해 AI 시대를 선도하는 메모리 기업으로서 자사의 기술력을 AI의 본고장인 미국, 그것도 혁신의 중심인 CES에서 선보였다”며 “앞으로 글로벌 협력을 강화해 AI 메모리 리더십을 더욱 공고히 하겠다”고 밝혔다.