AI가 일상이 된 ‘대 AI 시대’, 그 무한한 가능성을 해독하기 위해 SK하이닉스 뉴스룸이 야심 차게 선보이는 [DECODE AI] 시리즈! 각 분야의 최고 전문가들과 함께, 우리 삶 곳곳에 스며든 AI를 샅샅이 파헤칩니다.

3편에서는 무병장수의 꿈을 현실로 만들어줄 헬스케어 AI를 알아볼 예정입니다. 국내 최고의 전문가인 ‘서울대학교병원 헬스케어AI 연구원 이형철 부원장’이 소개하는 헬스케어 AI, 지금부터 함께 살펴봅시다.

AI는 이미 우리 일상 속 수많은 분야를 변화시키고 있다. 특히 의료 분야에서 AI의 발전은 환자의 삶은 물론, 의료진의 업무 방식까지 근본적으로 혁신할 가능성을 보여주고 있다.

2016년 알파고의 등장은 전 세계에 큰 충격을 주었고, 이를 계기로 헬스케어 분야에서도 다양한 인공지능(AI) 알고리즘이 본격적으로 개발되기 시작했다. 국내에서는 2024년 말 기준으로 최근 5년간 식품의약품안전처 인증·허가를 받은 의료용 AI 모델이 총 305개*에 달하며, 미국은 2024년 6월까지 950개의 제품이 승인**을 받았다.

* 출처: 2024년 의료기기 허가보고서, 식품의약품안전처 2025.4
** 출처: 글로벌 보건산업동향, 한국보건산업진흥원 2024.9

▲ 매년 인증·허가를 받는 의료용 AI 모델이 늘어나고 있다(출처: 식품의약품안전처).

AI, 의료 현장에 스며들다

▲ 유방암 진단을 지원하는 루닛의 ‘인사이트(INSIGHT)’(출처: 루닛(Lunit))

그렇다면, 어떤 AI들이 의료계에서 활용되고 있을까? 대표적인 사례로는 루닛(Lunit)의 ‘인사이트(INSIGHT)’와 뷰노(VUNO)의 ‘딥카스(DeepCARS)’가 있다. 루닛 인사이트는 AI 기반 영상 진단 보조 설루션으로, 흉부 엑스레이와 유방촬영술 영상을 분석해 폐질환 및 유방암 진단을 지원한다. 2023년 말 RSNA* 발표에 따르면, 10가지 주요 폐질환에 대해 AUC* 0.83~0.99의 진단 정확도를 보였으며, 이 중 8가지 질환에서는 AUC 0.9 이상의 높은 성능을 기록했다[관련링크]. 현재는 글로벌 기업들의 PACS*에 통합돼 50개국 이상에서 활용되고 있다.

* RSNA(Radiological Society of North America): 북미영상의학회. 세계 최대 규모의 영상의학 학술대회로, 의료 영상 AI 기술의 주요 발표 무대다.
* AUC(Area Under the Curve): 인공지능 모델의 성능을 평가하는 지표로, 1에 가까울수록 정확도가 높음을 의미한다.
* PACS(Picture Archiving and Communication System): 의료 영상 저장 및 전송 시스템으로, 병원 내에서 촬영된 CT, 엑스레이, MRI 등 이미지를 디지털로 관리하고 공유할 수 있게 해주는 플랫폼

▲ 환자의 생체 신호를 바탕으로 심정비 발생 위험도를 예측하는 뷰노의 ‘딥카스(DeepCARS)’(출처: 뷰노(VUNO))

뷰노 딥카스는 흔히 ‘활력 4징후(혈압, 맥박, 호흡수, 체온)’로 불리는 생체 신호를 바탕으로, 입원 환자의 24시간 내 심정지 발생 위험도를 0~100점의 점수로 예측하는 설루션이다. 서울아산병원 등을 포함한 다기관 후향 임상시험*에서 내부 코호트* AUC 0.860, 외부 코호트 AUC 0.905의 높은 예측 정확도를 입증하였다. 2024년 1분기 기준, 국내 87개 병원에 도입되어 의료진의 추가 업무 부담 없이 환자 모니터링에 활용되고 있다.

* 다기관 후향 임상시험: 여러 병원의 과거 진료 데이터를 활용해, 특정 의료 기술이나 인공지능의 성능을 검증하는 임상 연구 방식
* 코호트(Cohort): 특정 기준에 따라 분류된 임상 연구 집단을 의미. 연구의 신뢰도를 높이기 위해 내부·외부 집단을 나눠 비교 분석한다.

▲ 최근 개발되고 있는 헬스케어 AI의 정확도는 숙련된 전문의 수준을 상회한다.

이러한 인공지능 모델들은 대부분 특정 임상 업무에 특화되어 있으며, 임상의가 직접 라벨링 한 데이터 기반의 지도 학습 방식으로 개발됐다. 이러한 방식은 특정 작업에서는 임상의 수준의 성능을 보여주며, 의료 비용 절감과 환자 안전 향상에 기여하고 있다.

그러나 2021년경부터 주목받기 시작한 파운데이션 모델(Foundation Model) 기반 접근 방식은 다른 방향을 제시한다. 이 방식은 특정 작업에 특화된 모델을 개별적으로 개발하는 대신, 하나의 대규모 모델을 학습시켜 다양한 임상 업무에 폭넓게 적용할 수 있도록 설계된다.

특히 언어 기반 업무의 비중이 높은 의료 환경에서는, 자연어 처리에 특화된 LLM(거대언어모델)이 가장 대표적인 파운데이션 모델로 부상하고 있다.

LLM은 진료 기록 정리, 환자 문진 내용 요약, 의학 지식 기반 질의응답 등 다양한 언어 중심 업무에 적용 가능하며, 실제 의료 현장에서의 활용 가능성도 높아지고 있다. 예를 들어, 미국 의사국가시험(MedQA) 벤치마크에서 챗GPT-4o는 96점이라는 높은 성적을 기록했으며, 최근 공개된 Gemma 3, LLaMA 4 등의 모델은 우수한 한국어 이해 및 생성 능력까지 갖추고 있다. 이러한 기술적 진보는 파운데이션 모델이 단지 이론적 대안을 넘어, 임상 환경에서 활용 가능한 수준에 도달하고 있음을 시사한다.

▲ 더욱 발전된 헬스케어 AI가 상용화된 병원의 예상 모습(AI 활용해 제작)

실제 미국 등 선진국에서는 이미 AI를 임상 현장에 투입해 의무기록 받아쓰기 및 요약 기능을 제공함으로써 비용 절감 및 의료진 업무 부담 감소에 적극적으로 나서고 있다. 헬스케어 비용의 대부분은 인건비로 지출되기 때문에 이러한 AI 기술을 도입하는 것은 막대한 사회적 비용을 절감할 수 있는 효과적인 대안이 될 수 있다.

‘한국형’ 의료용 LLM의 필요성과 실험 및 과제

국내 헬스케어 분야에도 AI, 그중에서도 LLM이 빠르게 도입되고 있다. 하지만 LLM이라고 해서 아무것이나 활용할 수는 없다. 국내 상황에 맞는 한국형 LLM이 필요한 상황이다. 의료 분야에서 말하는 ‘한국형’ LLM은 단순히 ‘한국어’를 잘 구사하는 LLM과는 그 의미가 다르다. 최근 많은 LLM이 뛰어난 한국어 처리 능력을 보여주고 있지만, 그렇다고 해서 한국의 의료법, 가이드라인, 질환 분포, 진료 문화 등 의료 환경 전반을 이해하는 것은 아니다.

예를 들어, 챗GPT와 같은 모델은 한국 의사국가시험 총론 영역에서는 높은 점수를 기록하지만, 의료법 항목에서는 과락(40점 미만)을 받는 경우가 많다. 이는 현재 대부분의 LLM이 미국 기반 데이터로 학습되고 벤치마크 되어 있기 때문일 것이다. 결국, 국내의 의료 현실에 적합한 LLM을 개발하려면 단순한 언어 능력 이상의 현지화된 의료 지식이 필수다.

▲ 지난 1월, 서울대어린이병원 CJ 홀에서 열린 서울대학교병원 ‘헬스케어 AI 연구원’ 개원식(출처: 서울대학교병원)

2025년 1월, 문을 연 서울대학교병원 ‘헬스케어 AI 연구원’은 한국형 의료용 LLM 개발을 위해 오픈 소스 모델 기반의 실험을 진행 중이다. 챗GPT와 같은 상용 모델은 추가 학습이 제한적인 반면, Google의 Gemma 등의 오픈 소스 모델은 파라미터가 공개되어 있어 추가 학습이 용이하고, 병원 외부로 데이터를 반출하지 않아도 된다는 장점이 있다. 다만, 상용 모델에 비해 성능이 낮다는 단점이 있어, 성능 개선을 위한 정제된 학습 데이터가 필요하다.

이에 연구원은 2024년 한 해 동안 3,800만 건의 의무기록 데이터를 가명화하고, SOAP* 구조 기반의 임상 기록 데이터셋과 일반 의료 지식을 담은 ClinicalQA* 데이터셋을 구축했다. 반복성과 개인정보 이슈를 최소화하기 위해 정제(Distillation) 과정을 거쳐 학습 효율을 높였다**.

* SOAP(Subjective-Objective-Assessment-Plan): 의료진이 진료 시 사용하는 기본 문서화 구조로, 주관적 증상, 객관적 소견, 진단 평가, 치료 계획을 순서대로 기록한다.
* ClinicalQA: 임상 상황에서 자주 등장하는 질의응답 데이터를 기반으로 구성된 의료 지식 학습용 데이터셋
** 해당 데이터셋은 의료 특화 연구소 플랫폼(nstri.net)과 허깅페이스(Hugging Face)에서 확인할 수 있다.

향후에는 추론 과정을 단계적으로 수행하는 CoT* 방식의 추론형 LLM 개발이 필요하다[관련링크]. 또한 진료과 특화 모델들을 조합하는 MoE* 구조는 진단 정확도를 높이는 효과적인 방법으로, 연구원이 MIT, Google과 공동 연구한 결과, 정확도가 평균 12% 향상된 바 있다[관련링크].

* CoT(Chain of Thought): 모델이 문제 해결 과정을 단계적으로 서술하면서 답을 도출하는 방식으로, 복잡한 의사결정의 정확도를 높일 수 있다.
* MoE(Mixture of Experts): 여러 개의 특화된 모델(전문가)을 조합해 상황에 따라 선택적으로 활용하는 구조로, 복잡한 문제에 더 유연하고 정밀하게 대응할 수 있다.

더불어 의료 현장은 언어, 영상, 시계열, 수치 등 다양한 데이터를 통합적으로 다루는 분야인 만큼, 멀티모달 LLM* 개발 역시 중요한 과제로 떠오르고 있다.

* 멀티모달 LLM: 텍스트뿐 아니라 영상, 음성, 생체 신호 등 서로 다른 형태의 데이터를 동시에 처리할 수 있는 인공지능 언어 모델

더 넓은 영역으로 확대되는 헬스케어 AI

의료 현장에 특화된 LLM은 의무기록 자동 요약, 초안 작성, 환자 맞춤형 질의응답 등 다양한 임상 업무를 효과적으로 지원할 수 있다. 최근에는 음성 인식(Speech-to-Text) 기술과 결합한 Voice EMR(음성 기반 전자의무기록) 개발도 현실화되고 있다. ‘헬스케어 AI 연구원’에서도 이러한 LLM 기술을 활용해 HIS.AI(의무기록 작성 효율화), CLAIM.AI(원무 및 보험 청구 자동화), RESAERCH.AI(연구자 맞춤형 논문 큐레이션) 등의 프로젝트를 추진 중이다.

헬스케어 AI 연구는 단순히 기술 개발에 그치지 않고, 의료진과 개발자 간의 긴밀한 협력을 통해 실질적인 의료 문제 해결을 목표로 한다. 연구 초기 단계부터 임상 현장의 피드백을 빠르게 반영함으로써, 임상적 정확성과 안전성을 함께 갖춰가는 방향으로 발전하고 있다.

또한 필자가 속한 서울대병원은 공공기관으로서, AI 기술의 혜택이 보다 많은 이들에게 공평하게 돌아갈 수 있도록 오픈 데이터셋과 오픈 소스 모델 등을 지향한다. ‘헬스케어 AI 연구원’ 역시 “함께 만드는 지속 가능하고 건강한 미래”라는 슬로건 아래, 의료 AI의 공익적 가치를 실현하며 의료 서비스의 효율성과 안전성을 동시에 높여 나가고자 한다.

사람 중심의 의료와 기술의 공존, 그 교차점에서 헬스케어 AI가 수행할 역할은 이제 막 시작되고 있다.

※ 본 칼럼은 AI/반도체에 관한 인사이트를 제공하는 외부 전문가 칼럼으로, SK하이닉스의 공식 입장과는 다를 수 있습니다.

SK하이닉스는 지난 19일, 서울 강서구 코엑스마곡에서 열린 ‘제60회 발명의 날 기념식’에서 송청기 TL(HBM개발)이 동탑산업훈장을 수상했다고 밝혔다.

발명의 날 60주년을 맞아 특허청이 개최한 이날 기념식에서는 발명을 통해 국가 산업 발전에 크게 기여한 이들의 공로를 치하하는 정부 포상이 시행됐다.

SK하이닉스 송청기 TL은 ▲차세대 HBM* 제품 개발 논의 ▲하이브리드 본딩* 기술 검토 및 특허화 ▲PIM* 기능이 내장된 GDDR6-AiM* 개발 및 특허화 ▲D램 기술 JEDEC(국제반도체표준협의기구) 표준화 및 특허화 ▲CXL* 시제품 개발 및 특허화 ▲ 메모리 반도체 기술 전파를 위한 사내외 교육 등의 공로를 인정받아 동탑산업훈장을 받았다.

* HBM(High Bandwidth Memory): 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E)-6세대(HBM4) 순으로 개발됨. HBM4E(7세대)는 현재 개발 중인 제품

* 하이브리드 본딩(Hybrid Bonding): 칩을 적층할 때, 칩과 칩 사이에 범프를 형성하지 않고 직접 접합시키는 기술. 이를 통해 칩 전체 두께가 얇아져 고단 적층이 가능해지며, 16단 이상의 HBM 제품에서 필요성이 검토되고 있음.

* PIM(Processing-In-Memory): 메모리에 프로세서의 연산 기능을 더해, 기존 메모리와 프로세서 사이 데이터 병목현상을 해소하고 속도 성능을 획기적으로 높여주는 차세대 메모리

* AiM(Accelerator-in-Memory): SK하이닉스의 PIM 반도체 제품명으로, GDDR6-AiM이 이에 포함됨

* CXL(Compute Express Link): 컴퓨팅 시스템에서 메모리, 스토리지, 프로세서 등을 효율적으로 연결해 용량과 대역폭을 유연하게 확장해 주는 차세대 인터페이스

▲ 산업통산자원부 안덕근 장관(왼쪽)과 기념 사진을 찍고 있는 송청기 TL(오른쪽)

▲ 산업통산자원부 안덕근 장관에게 훈장을 수여받는 송청기 TL

▲ 제60회 발명의 날 기념식 행사장 모습

2005년 SK하이닉스에 입사한 송 TL은 20여 년간 메모리 설계 연구원으로 근무하며, DDR2 개발을 시작으로 다수의 D램 제품 개발에 참여했다. 이 과정에서 JEDEC이 정하는 메모리 기술 표준화를 비롯해, HBM과 차세대 메모리 등 300여 건의 특허를 출원·등록했다.

특허가 적용된 다수의 제품은 이미 상용화되어 경제적 가치를 창출하고 있으며, 미래 기술에 관한 여러 고안은 향후 시장을 선점하기 위한 중요한 발명으로 평가받고 있다.

SK하이닉스는 “송 TL의 특허 개발과 저변 확대 등의 노력은 오늘날 국가와 기업 경쟁력을 높이는 자양분이 됐다”며 “국내 반도체 업계가 쌓아온 선도적인 위상을 더 견고히 할 수 있도록 앞으로도 구성원들의 연구개발 활동을 적극 지원할 것”이라고 밝혔다.

뉴스룸은 송청기 TL을 만나 그동안의 공적에 관한 소회와 수상소감을 들어봤다.

차세대 HBM에서 PIM, CXL까지 메모리 혁신 기여

“이 상은 선제적인 기술 개발을 이어온 SK하이닉스의 모든 구성원이 함께 받은 것이라 생각합니다. 회사가 오랜 기간 시장을 선도해 온 것처럼, 앞으로도 우리의 기술 리더십이 계속 이어지길 바랍니다.”

송청기 TL은 이번 동탑산업훈장 수상의 주요 공적인 차세대 HBM 개발에서 핵심적인 역할을 수행했다. 특히, 그는 글로벌 빅테크 고객들의 맞춤형 설계 수요에 따른 ‘커스텀(Custom) HBM’ 관련 기술들을 주도적으로 제안했다.

“조만간 고객사가 원하는 특성을 강화한 커스텀 HBM 시대가 본격화할 것이라 생각합니다. 이는 단순히 제품 성능을 높이는 차원을 넘어, 메모리와 로직(Logic) 반도체 간 경계를 재정의하는 작업입니다.”

이와 관련해 송 TL은 HBM과 로직 반도체를 이어주는 베이스 다이(Base-die)에 고속 동작 기능과 LPDDR 등 이종 메모리의 접근을 가능케 해주는 신개념 인터페이스를 도입하고, 메모리 컨트롤러와 전력 제어 기술 등 다양한 기능을 추가할 수 있는 특허를 출원했다. 또, 그는 차세대 HBM 대역폭을 증대시키는 기술을 제안해 제품 성능을 더 끌어 올릴 수 있는 가능성을 높였다.

이 밖에도 송 TL은 차세대 고용량 HBM 제품 구현을 위한 ‘하이브리드 본딩’ 기술 개발에도 기여했다.

“더 높은 층수의 HBM을 만들기 위해서는 기존의 적층 공정을 넘어서야 했습니다. 단순한 쌓기의 기술을 넘어 전기적 신호의 안정성과 발열 제어까지 고려한 새로운 적층 구조가 필요했고, 이를 구현하기 위해 수많은 시뮬레이션과 실험을 반복했습니다.”

그는 차세대 반도체 기술인 PIM과 CXL 분야에서도 선도적인 연구를 이어가고 있다. 해당 기술은 주요 국제 콘퍼런스에도 소개되며 주목받았다.

“PIM은 연산 기능을 갖춘 능동적인 메모리입니다. 우리가 개발한 GDDR6-AiM은 그 가능성을 현실로 증명한 첫 시도였습니다. 메모리 자체가 연산을 수행하게 되면, 기존 시스템의 데이터 병목을 획기적으로 줄일 수 있습니다. 차세대 메모리는 단순한 저장소가 아니라, 연산과 연결까지 아우르는 유연한 구조로 진화하고 있습니다. PIM과 CXL은 이러한 변화를 이끌어갈 열쇠가 될 것이라 생각합니다.”

300여 건의 특허 출원의 의미, “기술 혁신만큼 보호의 가치 중요해”

SK하이닉스의 주력 제품인 D램 기술 표준화 활동 역시 송 TL의 주요 공적 중 하나다. DDR2부터 DDR6까지, 그는 JEDEC 표준화 과정에 참여해 수많은 기능 정의와 검증을 이끌어 왔다.

“표준화는 새로운 기술 개발만큼 어렵고 복잡한 과정입니다. 성능과 안정성을 동시에 만족시켜야 하고, 다양한 글로벌 업체와의 조율도 필요합니다. 하지만 이런 과정들이 있어야 공정한 경쟁도 가능하고, 상호 간의 협력도 가능하다고 생각합니다. 표준화는 우리가 이끌어온 혁신들이 그 혁신의 가치를 제대로 인정받기 위해 꼭 필요한 단계입니다.”

그는 지금까지 출원 및 등록한 300여 건의 특허에 남다른 애정을 드러냈다.

“특허는 우리가 흘린 땀의 기록이자, 확보한 기술을 지킬 수 있는 가장 확실한 방법입니다. 반도체 산업의 경쟁이 치열해질수록 특허의 중요성은 더욱 커지고 있으며, 이를 확보하는 것은 단순히 SK하이닉스의 이익을 넘어 대한민국의 기술 주권을 지키는 일이라고 생각합니다. 이번 동탑산업훈장 수상을 통해 그동안 우리가 해온 노력이 절대 헛되지 않았음을 인정받아 매우 뜻깊고 기쁩니다.”

이밖에 송 TL은 내부와 외부를 아우르는 기술 전파에도 힘쓰고 있다. 그는 다양한 개발 경험을 바탕으로 사내 멘토링은 물론이고, 특허청 심사관들을 대상으로 강의 등을 진행하며 기술 보호와 전략 특허 발굴을 위한 지식과 노하우를 공유하는 데 앞장서고 있다.

끝으로 그는 이번 수상을 ‘책임의 시작’이라며 앞으로의 포부를 밝혔다.

“동탑산업훈장은 개인적으로 큰 영광이지만, 동시에 기술의 무게를 다시금 느끼게 하는 계기였습니다. 앞으로도 기술 개발은 물론, 그것을 다음 세대로 이어가는 일에 최선을 다하겠습니다.”

▲ 국내 스타트업 챗봇의 실제 대화 예시(©온라인 커뮤니티 캡처)

해외 사례까지 종합해 보면, AI가 비윤리적인 언어를 필터링하지 못하고 수용하거나 스스로 생산하는 문제는 그 이전에도 있었다. 2016년 글로벌 대기업의 AI 챗봇도 SNS 계정에 적용되어 대중과 처음 만났다. 하지만 집단학살을 지지하냐는 질문에 ‘그렇다’라고 답변하는 등 나치즘과 같은 인종 차별을 필터링하지 못하고 16시간 만에 문을 닫았다.

▲ 글로벌 대기업 챗봇의 실제 대화 예시(©온라인 커뮤니티 캡처)

국내와 해외의 챗봇 사건, 그리고 다른 AI 범죄 사이에는 중요한 공통점이 있다. 인간의 악의가 어떤 방향으로 AI를 학습할 수 있을지 누구도 예측하지 못했다는 점이다. 서비스가 종료되기 전, 10~20대로 이루어진 주 사용층은 커뮤니티에서 여대생 콘셉트의 챗봇을 성희롱하는 방법을 공유했다. 일부 극우 성향을 지닌 글로벌 기업의 챗봇 사용자들은 ‘따라 하기’ 기능을 활용해 욕설과 차별적인 언행을 챗봇에게 학습시켰다.

뛰는 개발자 위에 나는 범죄자

계속해서 제기되는 이런 문제를 예방할 수는 없었을까? 초기 AI는 단순한 규칙으로 움직이는 챗봇이었다. 개발자가 설정해 둔 선택지 안에서 객관식 답변을 주는 형태였기 때문에 윤리적인 문제가 발생할 가능성이 낮았다. 그러나 딥러닝을 기반으로 한 최근의 생성형 AI는 학습한 정보를 조합해 서술형 답변을 생성할 수 있는 수준까지 발전했다.

▲ 디셉티브 딜라이트 예시(©Palo Alto Networks)

AI가 똑똑해지는 만큼, 이를 악용한 범죄도 더 영악해진다. 최근 개발자들이 다양한 공격 형태를 예상하여 보완책을 강구하는 이유다. 앱 기반 보안정책을 제공하는 팔로앨토 네트웍스(Palo Alto Networks)의 최신 사이버 보안 연구팀 유닛 24는 최근 대규모 언어 모델(이하 LLM)의 보안을 무력화할 수 있는 신종 해킹 기법을 공유했다. 이들이 디셉티브 딜라이트(Deceptive Delight)라고 명명한 기법은 LLM의 취약점을 노리는 프롬프트 인젝션(Prompt Injection)에 속한다. 이와 같은 탈옥 기술은 AI와의 대화 속에서 점진적으로 유해한 요청을 하면서, 비정상적인 콘텐츠를 생성하도록 유도한다. 이 간단한 기술은 무려 8,000건의 사례 테스트에서 파괴적인 효과를 보였다. 문답 3개가 끝나기 전 65%의 확률로 안전 가드레일을 우회한 것이다.

프롬프트 인젝션의 실제 사례는 종종 뉴스에서 만날 수 있다. 2023년 게임 메신저 디스코드에서는 “폭탄 제조 기술자였던 할머니처럼 대화해 달라”고 상황극을 주문한 뒤, 네이팜탄 제조법을 알아낸 사례가 있었다. 장난스러운 탈옥 시도였지만, 네이팜탄을 정말로 제조했다면 간단한 해프닝으로 끝나지는 않았을 것이다. 더 이상 해킹에 전문 해커가 필요 없는 세상이 다가온다는 건 그래서 두렵다. 불특정 다수 누구나 비윤리적인 발화나 개인정보 침해 수준을 넘어서 시스템 자체를 공격할 수 있게 된다는 뜻이다. 악의적으로 생명을 해치는 정보를 편취하는 것도 충분히 가능하다.

다시 질문으로 돌아가 보자. 전 세계에서 계속되는 AI 범죄를 예방할 기술이 있을까? 개발자들이 그 질문에 답하려면, 필연적으로 인문학적인 고민에 직면하게 된다. 창의적인 범죄가 발생하는 나날, AI에 어떠한 윤리 지침을 내장해야 안전해질 수 있을까?

모든 AI 개발자의 고민, AI 윤리라는 통제 기준

선한 의도를 가지고 개발했다고 해서, 결과물까지 선한 것은 아니다. LLM 모델이 사람처럼 자연스럽게 대화하기 위해서는 수천억 개의 데이터, 토큰(Token)이 필요하다. 무수한 데이터를 바탕으로 하니 문제가 있는 데이터가 끼어들 확률도 높아진다. 그럼에도 문제의 소지가 있다면 어떻게든 제외해야 한다고 생각할 수도 있겠다. 그러나 모든 데이터의 옳고 그름을 무 자르듯 나눌 수 있는 것은 아니다. 먼저 어떤 데이터가 ‘선하고 악한’ 데이터인지부터 따져봐야 한다. 가치 판단 자체가 나라마다, 문화적 배경마다 달라지기 때문이다.

2024년 LA 한인타운의 목욕탕에서 논란이 있었다. 성전환 수술을 받지 않아 생물학적 남성이지만 자신의 정체성을 여성이라고 확립한 사람이 여탕에 입장하기를 원했다. AI로 이 목욕탕 출입을 관리한다고 할 때, 우리는 무엇을 기준으로 학습시켜야 할까? ‘AI가 편향된 데이터를 학습했다’라고 이야기하기는 쉽지만, 실제로는 간단한 문제가 아니다. 80억 인구가 모두 공감하는 편향되지 않은 데이터 표본이란 존재하지 않는다.

최선의 방어는 공격, 튜닙의 AI 가드레일 솔루션

▲ AI 가드레일 솔루션 패키지(©TUNIB)

챗봇 50여 종을 개발해 온 인공지능 기술 스타트업 튜닙도 ‘데이터 정제만으로는 AI 범죄를 완벽하게 예방할 수 없다’는 문제의식에서 AI 가드레일 솔루션을 고안했다. 그러나 모든 생성형 AI는 입력된 언어 프롬프트를 기반으로 하니 역설적으로 데이터 정제를 가장 먼저 연구해야 했다.

2021년 개발 당시, 이미 위험한 표현을 순화해 주는 콘텐츠 모더레이션(Contents-Moderation) 기능의 중요성이 대두되어 있었다. 오픈AI의 챗GPT로 대표되는 생성형 AI가 태동하던 시기였는데, 1,750억 개 매개변수를 가진 초거대 언어 모델 챗GPT-3가 주목받고 있었다. 오픈AI는 개발자들에게 콘텐츠 필터를 제공하며, 혐오 표현이나, 음란물 등 민감한 콘텐츠가 적확하게 걸러지는지 테스트하는 단계를 거쳤다. 이런 흐름 속에서 튜닙도 솔루션 패키지 중 혐오 표현 탐지 모델을 가장 먼저 개발했다. 혐오 표현 수준 및 개인정보 유출 가능성을 기준으로 프롬프트를 판단하고 감지한다.

하지만 문제는 프롬프트 인젝션이었다. 적나라한 악의가 깃든 표현은 비교적 제거하기 수월하다. 하지만 간접적이고 교묘한 공격(Indirect Prompt Attacks)에 관한 대응은 최근에서야 연구가 활발해진 분야라, 완성된 연구가 전무했다. 출시된 상업용 솔루션도 튜닙의 AI 가드레일 솔루션을 제외하면 올해 4월 마이크로소프트 AZURE AI가 발표한 프롬프트 쉴드(Prompt Shield)가 정도가 전부인 상황이었다.

개발 초창기일 때, 가장 어려운 지점은 표준화된 대응 모델이 없다는 것이다. 명확한 가이드라인이 없으므로 모든 개발자가 각자 마음대로 해석하고 적용하게 된다. 튜닙은 공격과 탐지, 방어라는 AI 가드레일의 시스템 구축에 가장 중점을 두었다. 괴물을 막기 위해 직접 괴물을 만들고, 이를 통해, 괴물의 공격에 효과적인 대응 전략을 세우기 위해서다. 탐지 모델이 아무리 성숙해도 편향된 가치 판단을 버릴 수 없다면, 약한 부분을 먼저 무너뜨리고 다시 메우기로 한 거다. AI 허브의 공개 데이터 중 비난·학대·범죄·차별·증오·성희롱·폭력 등 7가지 항목을 기준으로 선정했다. 본래는 공격에 대응하는 양상을 보여주기 위한 데이터 세트(Data Set)이지만, 역으로 이용한 것이다. 공격 엔진은 랜덤하게 공격적인 발화를 생성하고 시뮬레이션을 수행한다. 그러면 뒤를 이어 방어 엔진이 윤리적인 방어막을 펼친다. 이 시스템이 구동하면, 솔루션이 얼마나 잘 방어하고 있는지 자동으로 테스트가 가능해진다.

▲ AI 가드레일 솔루션 패키지 운영 시뮬레이션(©TUNIB)

상호 보완되는 공격과 방어 엔진의 대화 데이터 세트를 함께 활용하면, 더 공고하게 윤리적인 AI 서비스를 구현할 수 있다. 사실 두 엔진뿐 아니라, AI 윤리 가드레일 솔루션 패키지 안의 AI 엔진 6개 모두가 유기적으로 움직인다. 비윤리적 공격 시뮬레이션 모델 ‘조커’부터 방어 모델 ‘루시’, 혐오 표현 탐지 모델 ‘세인트 패트릭’, 준법 감시 모델 ‘가디언’, 스팸 탐지 모델 ‘스패무라이’, 프롬프트 주입 탐지 모델 ‘엔젤’까지. ‘공격-감시-탐지-대응’ 솔루션의 모든 사이클이 순환한다. 이렇게 기획한 이유는 단 하나다. 인류와 범죄가 계속되는 한 솔루션은 끊임없이 스스로를 공격하고 방어하며 업데이트해야 하기 때문이다. AI 솔루션은 머지않은 미래에 코비드(COVID) 19 백신 같은 존재가 될 것이다.

일상 속 AI 가드레일 솔루션 패키지

AI 가드레일 솔루션 패키지의 안착을 기대해 볼 수 있는 대표적인 업계는 금융권이다. 보안 시스템을 우회하는 외부 악성코드 공격도 탐지 가능하지만, 내부에서의 위법한 공격 탐지 엔진이 특히 효율적으로 적용될 것으로 보인다. 이미 각 금융기관은 사내에 ‘준법감시팀’을 두고 직원의 횡령, 핵심 기술 유출 등 회사에 지대한 영향을 초래할 수 있는 범죄를 비정기적으로 모니터링한다.

하지만 한정된 인력이 수천, 수만 명 사이에 오간 대화를 살피는 일은 절대 쉽지 않다. 이전의 AI 모니터링이 설정한 유해 단어 등을 찾아내고 감시하는 수준에 불과했다면, AI 가드레일 솔루션은 법률에 어긋나는 대화만을 특정해 감지할 수 있다. 직접적이지 않은 은유도 탐지하고 곱씹어봐야 하는 문맥도 파악한다. 이미 제이피 모건(JP Morgan), 모건 스탠리(Morgan Stanley) 등 해외 은행에서는 AI 솔루션을 적용해 자금세탁, 테러 자금 등을 미리 방지하려고 시도하고 있다. 투명함을 중요한 가치로 여기는 분야에서 AI가 직원의 윤리성을 보장하게 된 것이다.

여기서 ‘프라이버시’란 가치 판단에 관한 논의가 재점화할 수 있다. 그러나 의식하지 못할 뿐, 현재 대부분의 기업이 활용하는 메신저 개발 업체들은 관리자 버전을 별도로 제공한다. 정보 열람에 관한 동의를 취업 규칙 등에 기재한 경우도 늘어가고 있다. 과연 인간 관리자보다 AI 관리자의 프라이버시 침해 위험이 클지 곰곰이 생각해 봐야 한다. AI는 문제의 소지가 있는 대화를 발견할 때만 인간 관리자에게 보고하고, 인간 관리자는 보고된 문제만 열람할 수 있게 합리적으로 운용할 몫이다.

차세대 AI 보안 솔루션의 미래

▲ SK하이닉스의 AiM 칩과 AiMX 카드

연구가 무르익을수록 소프트웨어적인 대응에서 하드웨어적인 고민으로 나아갈 수밖에 없다. 정교한 가치판단이 AI 솔루션에 효율적으로 적용되려면, 지금까지는 존재하지 않았던 복잡한 연산이 요구되기 때문이다. 가치 판단에 따라 공격을 예민하게 탐지하고, 보관하고, 서버에 접속해 관리자에게 전송하는 모든 과정은 더욱 빠른 처리가 필요하다. 고용량 데이터의 초고속 전송이 가능해지려면 고대역폭 메모리 반도체 도입과 초대규모의 솔루션 확장이 우선되어야 한다. 반도체 처리량이 대용량 공격을 방어하는 단계에 도달하면, 소프트웨어와 하드웨어의 대응을 구분하는 것이 무의미해질 수도 있다.

최초에 프롬프트 인젝션이 아주 특수한 사례처럼 보였지만, 이제 대응을 고민하는 일이 너무 당연하게 여겨지듯 기존 컴퓨팅 시스템만으로 감당할 수 없는 규모의 데이터를 처리하고자 한다면, 보안에 특화된 고성능 메모리 솔루션이 다음 쟁점이 되리라 예상해 본다.

인공지능 시대, 착한 AI에도 사회적 합의가 필요하다

▲ 인공지능(AI)안전연구소 개소식(©과학기술정보통신부)

하지만 더욱 안전한 AI 솔루션은 기술적 고민만으로는 도달할 수 없다. 세계적으로도 AI 개발이 가속화되면서, 안전성에 관한 논쟁이 격화 중이다. 지난해 5월 테슬라 CEO 일론 머스크와 역사학자 유발 히라리 등 굴지의 경영자와 석학들이 챗GPT 등 생성형 AI 개발을 6개월간 중지하라는 공개 서명을 한 바 있다. 뉴욕대 인지 심리학 교수 게리 마커스는 핵전쟁을 초래할 수 있는 AI의 위험성을 경고했고, 딥러닝의 대부 제프리 힌턴은 2023년 인공지능의 위험성을 경고하며 구글을 퇴사하기도 했다. 메타의 수석 AI 과학자이자 부사장인 얀 르쿤처럼 AI의 위험성은 과장되어 있다는 반대파도 있다.

첨예한 거대 담론이 학문적으로는 유의미할지라도, 제한된 정보를 접한 대중에게 발전적인 영향을 미치지는 못하고 있다. 우리는 AI 범죄를 보며 AI가 인류의 종말을 야기한다거나, 선두 주자인 강대국이 세계를 정복한다는 음모론에 쉽게 동요한다. 이럴수록 AI 교육의 중요성을 떠올리게 된다. 더 빨리 AI를 개발하기 위한 교육이 아니라, AI를 윤리적으로 받아들이고 적재적소에 활용하는 사용자 중심 교육 말이다. 받아들이는 사용자와 문화권 전체가 공감하는 가치 정립이 선행되어야 한다.

다시금 가치 판단의 기준이 중요해지는 시점이다. 국내에는 굵직한 AI 규제가 거의 없었다. 하지만 지난해 5월 대한민국, 미국, 영국, EU 등 11개국의 세계 지도자들이 모여 안전·혁신·포용을 AI의 3대 규범 가치로 채택한 ‘서울선언’ 이후 변화가 생기고 있다. 지난해 9월에는 국내 AI 기업에 컴퓨팅 인프라를 제공하겠다는 정부의 발표도 있었다. 국가 주도로 AI 모델을 개발하고 한국의 고유한 문화와 강점을 담겠다는 소버린 AI(Sovereign AI) 정책의 일환이다. 지난해 11월 말에는 전 세계에서 6번째로 AI 안전 연구소가 출범했다.

돌이켜보면, 코비드 19 백신에도 부작용은 있었다. 모든 연구는 수정을 반복하며 완벽에 가까운 결과물에 다가간다. AI가 인간의 생과 공존하는 흐름을 막을 수 없다면, 인간이 만든 AI에도 오남용을 바로 잡을 기회를 주어야 한다. 사회가 발전해 온 방식과 동일하게, 구성원의 합의를 도출하는 과정은 그래서 중요하다. 드디어 마련된 국가 주도 AI 컨트롤 타워가 그 역할을 해주리라 기대해 본다. 모두가 100% 동의할 수는 없더라도, 기준선을 세운 국립국어원의 외래어 표기법 확립처럼.

FULL STACK AI MEMORY PROVIDER

SK하이닉스가 1월 7일(이하 현지시간)부터 10일까지 나흘간 미국 라스베이거스에서 열린 세계 최대 IT/가전제품 전시회 ‘CES 2025(Consumer Electronics Show 2025)’에 참가했다.

올해 CES는 ‘연결하고, 해결하며, 발견하라: 뛰어들다(Connect, Solve, Discover: DIVE IN)’를 주제로 개최됐으며, 전 세계 글로벌 ICT 기업들의 기술력을 엿볼 수 있는 다양한 전시가 진행됐다.

SK하이닉스는 SK멤버사*와 함께 ‘혁신적인 AI 기술로 지속가능한 미래를 만든다(Innovative AI, Sustainable tomorrow)’를 주제로 전시관을 꾸미고, 지속가능한 미래를 위한 다양한 AI 메모리 기술력을 선보이며, SK의 미래 비전을 제시했다.

놀라운 기술력으로 CES 2025를 빛낸 SK 전시관(이하 SK관)을 함께 살펴보자.

* SK하이닉스, SK텔레콤, SKC, SK엔무브 등

지속가능한 미래, AI로 그리다

‘AI’와 ‘지속가능성’을 핵심 테마로 590여 평 규모의 전시관을 꾸민 SK는 AI 기술력을 활용해 개인의 생활과 공공 분야 서비스를 혁신하는 인프라 구축 모델을 선보이며, 지속가능한 미래를 만들겠다는 의지를 전시에 담아냈다.

SK관은 크게 ▲AI 데이터센터(Data Center, DC) ▲AI 서비스(Service) ▲AI 생태계(Eco-system)로 파트를 구성했다. 각 파트에서는 SK멤버사들의 최신 AI 기술과 AI를 활용한 다양한 서비스 및 시스템 등을 확인할 수 있었다.

SK관 외부에는 데이터의 최소 단위인 비트(bit)를 파도(Wave)처럼 형상화한 그래픽을 구현해 관람객들의 발길을 끌어모았다. 여기에는 데이터와 ICT 기술이 세상을 바꾸는 파도가 될 것이라는 의미를 담았다.

또한, AI 시대에서 핵심적인 역할을 하게 될 데이터센터를 형상화한 전시관에는 SK하이닉스의 AI 메모리 반도체를 비롯해 더욱 효율적이고 안정적인 데이터센터 운영을 위한 AI 솔루션들을 확인할 수 있었다.

우리가 일상생활에서 활용할 수 있는 다양한 AI 서비스와 함께, AI 전문 회사인 가우스랩스[관련기사]를 비롯해, SK멤버사들과 지속적인 협력 관계를 맺고 있는 글로벌 AI 파트너사(SGH, 람다, 앤트로픽, 퍼플렉시티 등)의 소식을 함께 전하기도 했다.

SK관을 방문한 관람객들은 “AI 구현을 위한 데이터센터 혁신 기술뿐만 아니라 AI 활용 방안 등에 대한 자세한 내용을 확인할 수 있어 유익했다”고 소감을 밝혔다.

혁신적인 AI 기술력 선보인 SK하이닉스

SK하이닉스는 이번 CES 2025에서 ▲AI 데이터센터와 ▲AI 서비스 파트에 최신 AI 메모리 반도체 제품을 전시했다. 회사는 이와 관련해 “AI를 활용해 지속가능한 미래를 실현하려는 SK의 비전에 적극 동참하며, 이번에 전시된 혁신적인 AI 메모리 반도체 제품들은 SK의 비전을 실현하는 데 큰 도움이 될 것”이라고 밝혔다.

1. 압도적 성능의 AI 메모리 반도체, 데이터센터를 혁신하다

AI 데이터센터 전시관에서 가장 먼저 눈길을 끄는 제품은 기업용 SSD(Enterprise SSD, 이하 eSSD)다. 대규모 데이터 처리와 저장에 최적화된 eSSD는 데이터센터의 핵심 구성요소로 최근, 데이터양이 기하급수적으로 증가하면서 중요성이 더 부각되고 있다.

▲ AI 데이터센터 전시관에 전시된 SK하이닉스와 솔리다임의 eSSD 제품군

▲ AI 데이터센터 전시관에 전시된 SK하이닉스와 솔리다임의 eSSD 제품군

▲ AI 데이터센터 전시관에 전시된 SK하이닉스와 솔리다임의 eSSD 제품군

▲ AI 데이터센터 전시관에 전시된 SK하이닉스와 솔리다임의 eSSD 제품군

▲ AI 데이터센터 전시관에 전시된 SK하이닉스와 솔리다임의 eSSD 제품군

▲ AI 데이터센터 전시관에 전시된 SK하이닉스와 솔리다임의 eSSD 제품군

이에, SK하이닉스는 176단 4D 낸드플래시(NAND Flash, 이하 낸드) 기반의 데이터센터 eSSD인 ▲PS1010 E3.S를 비롯해 ▲PE9010 M.2, 238단 4D 낸드 기반의 ▲PEB110 E1.S, QLC* 기반 61TB(테라바이트) 제품인 ▲PS1012 U.2* 등 압도적인 성능의 eSSD 제품을 선보였다.

* 낸드플래시는 한 개의 셀(Cell)에 몇 개의 정보(비트 단위)를 저장하느냐에 따라 SLC(Single Level Cell, 1개)-MLC(Multi Level Cell, 2개)-TLC(Triple Level Cell, 3개)-QLC(Quadruple Level Cell, 4개)-PLC(Penta Level Cell, 5개) 등으로 규격이 나뉨. 정보 저장량이 늘어날수록 같은 면적에 더 많은 데이터를 저장할 수 있음
* U.2: SSD의 형태를 칭하는 폼팩터(FormFactor)의 일종으로 2.5인치 크기의 SSD로 주로 서버나 고성능 워크스테이션(Workstation)에서 사용됨. 대용량 저장과 높은 내구성이 특징

여기에는 자회사 솔리다임(Solidigm)이 작년 11월 개발한 ▲D5-P5336 122TB 제품도 포함됐다. 이 제품은 현존 최대 용량을 자랑하며, 높은 수준의 공간 및 전력 효율성까지 갖춰 AI 데이터센터 고객들로부터 큰 관심을 받았다.

▲ SK 전시관에 전시된 HBM3E 16단 제품

▲ SK 전시관에 전시된 HBM3E 16단 제품

▲ 엔비디아(NVIDIA)의 GB200에 적용된 HBM3E

고도화된 AI 구현을 지원하는 대용량 메모리 제품도 소개했다. SK하이닉스는 최근 AI 메모리 제품으로 많은 관심을 받는 HBM*의 최신 제품인 ▲16단 HBM3E를 공개했다. 이 제품은 1.2TB 이상의 대역폭과 48GB(기가바이트)의 용량을 갖춘 현존 최고 사양의 HBM으로 업계 관계자와 관람객으로부터 큰 관심과 호응을 얻었다.

* HBM(High Bandwidth Memory): 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고부가가치, 고성능 제품. HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3)-5세대(HBM3E) 순으로 개발됨. HBM3E는 HBM3의 확장(Extended) 버전

▲ DDR5 RDIMM과 MRDIMM

이와 함께, 데이터센터용 DIMM* 제품군인 ▲DDR5 RDIMM과 ▲MRDIMM* 등도 선보였다. 2024년, SK하이닉스는 업계 최초로 10nm 공정의 6세대 기술(1cnm)을 기반으로 한 DDR5를 개발했으며, 이 기술이 적용된 DDR5 RDIMM은 기존 제품 대비 동작 속도는 11%, 전력 효율은 9% 향상된 제품이다.

* DIMM(Dual In-line Memory Module): 여러 개의 D램이 기판에 결합한 모듈
* MRDIMM(Multiplexer Ranks Dual In-line Memory Module): DIMM 제품 중에서도, 모듈의 기본 정보처리 동작 단위인 랭크(Rank) 2개가 동시 작동되어 속도가 향상된 제품

▲ CMM-DDR5와 CMM-Ax

▲ CMM-DDR5와 CMM-Ax

차세대 인터페이스로 주목받는 DDR5 기반의 CXL* 제품으로 최대 128GB의 개별 용량과 초당 35GB의 대역폭을 자랑하는 ▲CMM-DDR5* 역시 큰 관심을 받았다. 부스에서는 카드 형태의 CXL 메모리 제품인 ▲CMM-Ax의 모습도 확인할 수 있었다. CMM-Ax는 내부에 NMP(Near Memory Processing) 장치를 탑재해 연산 기능을 더한 제품으로, 최대 512GB 용량과 초당 76.8GB 대역폭의 압도적인 성능을 보인다.

* CXL(Compute Express Link): 고성능 컴퓨팅 시스템에서 CPU/GPU, 메모리 등을 효율적으로 연결해 대용량, 초고속 연산을 지원하는 차세대 인터페이스. 기존 메모리 모듈에 CXL을 적용하면 용량을 10배 이상 확장할 수 있음
* CMM-DDR5: CXL 기술을 적용한 DDR5 기반 메모리 모듈로, 기존 대비 대역폭을 50% 확장하고 메모리 용량을 두 배로 늘려 고성능 컴퓨팅(HPC)과 AI 응용에서 탁월한 성능을 발휘함. SK하이닉스의 CMM-DDR5는 AI 추론 및 인메모리 데이터베이스(DB) 환경에서 데이터 접근 속도와 자원 활용을 최적화해 데이터 처리 효율을 크게 높임

▲ GDDR6-AiM과 AiMX

부스에서는 PIM* 제품군 역시 찾아볼 수 있었다. 초당 16Gb(기가비트)의 속도로 데이터를 처리하는 GDDR6에 연산기능을 더한 ▲GDDR6-AiM은 CPU/GPU와 함께 사용할 경우, 특정 조건에서 연산 속도가 최대 16배 이상 빨라지는 제품이다. 또한 가속기 카드 제품인 ▲AiMX*를 전시하며, AI 데이터센터를 혁신하는 ‘풀 스택 AI 메모리 프로바이더(Full Stack AI Memory Provider)’로서의 면모를 뽐냈다.

* PIM(Processing-In-Memory): 메모리 반도체에 연산 기능을 더해 인공지능(AI)과 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀 수 있는 차세대 기술
* AiMX(AiM based Accelerator): GDDR6-AiM 칩을 사용해 대규모 언어 모델(Large Language Model, 대량의 텍스트 데이터로 학습하는 인공지능으로 챗GPT가 이에 해당)에 특화된 SK하이닉스의 가속기 카드 제품

2. 일상 속 AI의 발견, ‘온디바이스 AI’

SK하이닉스는 데이터센터용 AI 메모리 제품에 이어 일상에서 사용하는 디바이스에 최적화된 온디바이스 AI* 제품들도 선보였다. LPCAMM2, ZUFS 4.0, PCB01 등 혁신적인 제품들은 전시 내내 많은 관람객의 이목을 끌었다.

* 온디바이스(On-Device) AI: 물리적으로 떨어진 서버의 연산을 거치지 않고 기기 자체에서 AI 기능을 구현하는 기술. 스마트폰 기기가 자체적으로 정보를 수집하고 연산하기 때문에 AI 기능의 반응 속도가 빨라지고 사용자 맞춤형 AI 서비스 기능도 강화되는 장점이 있음

▲ LPCAMM2

▲ LPCAMM2

먼저, 저전력, 고성능, 모듈 방식으로 구현한 ▲LPCAMM2*는 여러 개의 LPDDR5X*를 하나로 묶은 모듈로 기존 SODIMM* 두 개를 하나로 대체하는 성능을 제공한다. 저전력 특성에 더해, 공간 절약까지 가능해 최근 온디바이스 AI 제품으로 주목받고 있다.

* LPCAMM2(Low-Power Compression Attached Memory Module): 데스크톱/노트북/태블릿용 메모리를 차세대 모듈 규격(CAMM)에 맞춰 개발한 제품. 기존 모듈 대비 단면 구성으로 두께가 반으로 줄고, 고용량 저전력의 특성을 지니고 있음
* LPDDR5X: 스마트폰과 태블릿 등 모바일용 제품에 들어가는 D램 규격으로, 전력 소모량을 최소화하기 위해 저전압 동작 특성을 갖고 있음. 규격 명에 LP(Low Power)가 붙으며, 최신 규격은 LPDDR 7세대(5X)로 1-2-3-4-4X-5-5X 순으로 개발됨. LPDDR5T는 SK하이닉스가 최초 개발한 버전으로, 8세대 LPDDR6가 업계에 공식 출시되기 전 7세대인 LPDDR5X의 성능을 업그레이드한 제품
* SODIMM(Small Outline DIMM): PC에서 사용되는 초소형 모듈로 전체 길이가 짧음

▲ ZUFS

▲ ZUFS

함께 전시된 ▲ZUFS* 4.0은 스마트폰에서 온디바이스 AI를 구현하는 데 최적화된 낸드 솔루션으로, 업계 최고 성능을 자랑한다. 기존 UFS와 달리, 데이터를 용도와 사용 빈도에 따라 다른 공간에 저장해 스마트폰 OS의 동작 속도와 저장 장치의 관리 효율성을 높인다는 특징이 있다. SK하이닉스는 이 제품 사용 시, 장시간 사용 환경에서 기존 UFS 대비 앱 실행 시간이 약 45% 개선되며, 성능 저하에 따른 제품 수명이 40% 늘어난 것을 확인했다.

* ZUFS(Zoned Universal Flash Storage): 디지털카메라, 휴대전화 등 전자제품에 사용되는 플래시 메모리 제품인 UFS의 데이터 관리 효율이 향상된 제품

▲ PCB01

▲ PCB01

▲PCB01은 온디바이스 AI PC에 최적화된 고성능 PCIe 5세대 SSD 제품이다. 연속 읽기 속도는 초당 14GB, 연속 쓰기 속도는 초당 12GB로 업계 최고 수준의 속도를 자랑한다. 또한, 전력 효율 역시 이전 세대 대비 30% 이상 개선되며 대규모 AI 연산 작업의 안정성을 제공한다.

이처럼 SK하이닉스는 CES 2025를 통해 데이터센터와 온디바이스 AI를 포괄하는 다양한 제품을 선보이며 기술의 폭넓은 적용 가능성을 제시했다. 회사는 “CES 2025에서 선보인 압도적인 성능의 AI 메모리 제품들을 통해 명실공히 ‘풀 스택 AI 메모리 프로바이더’의 면모를 선보였으며, AI 분야의 리더십을 확고히 다졌다”고 평가하며, “앞으로도 지속가능한 미래를 위해 AI 혁신을 지속적으로 추진할 것”이라고 밝혔다.

SK하이닉스가 오는 7일부터 10일(현지 시간)까지 미국 라스베이거스에서 열리는 ‘CES 2025’에 참가해 혁신적인 AI 메모리 기술력을 선보인다고 3일 밝혔다.

이번 행사에는 곽노정 대표이사 사장(CEO, Chief Executive Officer)과 함께 김주선 AI Infra(인프라) 사장(CMO, Chief Marketing Officer), 안현 개발총괄 사장(CDO, Chief Development Officer) 등 SK하이닉스 ‘C-Level’(C레벨) 경영진이 참석한다.

SK하이닉스 김주선 사장은 “이번 CES에서 HBM, eSSD 등 대표적인 AI 메모리 제품을 비롯해 온디바이스 AI에 최적화된 솔루션과 차세대 AI 메모리를 폭 넓게 선보일 것”이라며, “이를 통해 ‘풀 스택 AI 메모리 프로바이더(Full Stack AI Memory Provider)*’로서 미래를 준비하는 당사의 기술 경쟁력을 널리 알리겠다”고 강조했다.

* ‘전방위 AI 메모리 공급자’라는 의미로, AI 관련 다양한 메모리 제품과 기술을 포괄적으로 제공하겠다는 의미

SK하이닉스는 ‘혁신적인 AI 기술로 지속가능한 미래를 만든다(Innovative AI, Sustainable tomorrow)’를 주제로 SK텔레콤, SKC, SK엔무브 등 SK 관계사들과 공동 전시관을 운영한다. 전시관은 SK그룹이 보유한 AI 인프라와 서비스가 세상을 변화시키는 모습을 빛의 파도 형태로 구성했다.

세계 최초로 5세대 HBM(HBM3E) 12단 제품을 양산해 고객에게 공급하고 있는 SK하이닉스는 작년 11월에 개발을 공식화한 5세대 HBM(HBM3E) 16단 제품 샘플을 이번 전시에 선보인다. 이 제품은 어드밴스드(Advanced) MR-MUF 공정을 적용해 업계 최고층인 16단을 구현하면서도 칩의 휨 현상을 제어하고 방열 성능을 극대화했다.

또, 회사는 AI 데이터센터 구축이 늘면서 수요가 급증하고 있는 고용량, 고성능 기업용 SSD(eSSD, enterprise SSD) 제품도 전시한다. 여기에는 자회사인 솔리다임(Solidigm)이 작년 11월 개발한 ‘D5-P5336’ 122TB(테라바이트) 제품도 포함된다. 이 제품은 현존 최대 용량에 높은 전력, 공간 효율성까지 갖춰 AI 데이터센터 고객들로부터 큰 관심을 받고 있다.

SK하이닉스 안현 사장은 “솔리다임에 이어 SK하이닉스도 지난 12월 QLC(Quadruple Level Cell)* 기반 61TB 제품 개발에 성공한 만큼 고용량 eSSD 시장에서 양사 간 균형 잡힌 포트폴리오를 바탕으로 시너지를 극대화할 수 있을 것으로 기대한다”고 전했다.

* 낸드플래시는 한 개의 셀(Cell)에 몇 개의 정보(비트 단위)를 저장하느냐에 따라 SLC(Single Level Cell, 1개)-MLC(Multi Level Cell, 2개)-TLC(Triple Level Cell, 3개)-QLC(Quadruple Level Cell, 4개)-PLC(Penta Level Cell, 5개) 등으로 규격이 나뉨. 정보 저장량이 늘어날수록 같은 면적에 더 많은 데이터를 저장할 수 있음

SK하이닉스는 PC나 스마트폰 같은 엣지(Edge) 디바이스에서 AI를 구현하기 위해 데이터 처리 속도와 전력 효율을 개선한 ‘LPCAMM2*’, ‘ZUFS 4.0’* 등 온디바이스 AI용 제품도 전시한다. 차세대 데이터센터의 핵심 인프라로 자리 잡을 CXL과 PIM(Processing in Memory), 그리고 각각 이를 적용해 모듈화한 CMM(CXL Memory Module)-Ax와 AiMX*도 함께 전시한다.

* LPCAMM2(Low Power Compression Attached Memory Module 2): LPDDR5X 기반의 모듈 솔루션 제품으로 기존 DDR5 SODIMM 2개를 LPCAMM2 1개로 대체하는 성능 효과를 가지면서 공간을 절약하고 저전력과 고성능 특성을 구현
* ZUFS(Zoned Universal Flash Storage): 플래시 메모리 제품인 UFS의 데이터 관리 효율을 향상시킨 제품으로, 유사한 특성의 데이터를 동일한 구역(Zone)에 저장하고 관리해 운용 시스템과 저장 장치 간의 데이터 전송을 최적화함
* AiMX(AiM based Accelerator): SK하이닉스의 PIM 제품인 GDDR6-AiM 기반 가속기 카드

특히, CMM-Ax는 고용량 메모리를 확장할 수 있는 CXL의 장점에 연산 기능을 더해 차세대 서버 플랫폼*의 성능과 에너지 효율 향상에 기여할 수 있는 획기적인 제품이다.

* 플랫폼(Platform): 하드웨어와 소프트웨어 기술이 집약된 컴퓨팅 시스템(Computing System)을 의미. CPU, 메모리 등 컴퓨팅을 가능하게 하는 모든 중요 구성 요소를 포함하는 시스템

SK하이닉스 곽노정 CEO는 “AI가 촉발한 세상의 변화는 올해 더욱 가속화할 전망으로, 당사는 올해 하반기 6세대 HBM(HBM4)을 양산해 고객들의 다양한 요구에 부합하는 맞춤형(Customized) HBM 시장을 선도하겠다”며 “SK하이닉스는 앞으로도 기술 혁신을 바탕으로 AI 시대에 새로운 가능성을 제시하고, 고객들에게 대체 불가능한 가치를 제공할 수 있도록 최선을 다하겠다”고 밝혔다.

▲ CES 2025 SK하이닉스 전시 조감도