생활인의 사유(思惟)

CXL 동향

CXL 메모리 확장 기술 동향 (2026년 5월 기준)을 DRAM·NAND·HBM+HBF 시리즈와 연계해 체계적으로 정리하겠습니다. CXL(Compute Express Link)은 PCIe 물리 계층을 기반으로 한 cache-coherent 고속 인터커넥트로, AI 데이터센터의 메모리 용량·활용률·확장성 문제를 해결하는 핵심 기술입니다. 기존 서버당 DRAM 슬롯 한계와 stranded memory(유휴 메모리)를 극복하며, HBM(속도) + HBF(용량)와 함께 AI 메모리 계층을 완성하는 역할을 합니다.1. 배경: 왜 CXL 메모리 확장이 필수인가? • AI 메모리 월(Memory Wall): LLM 추론·훈련 시 KV cache, context window 폭증 → 단일 서버 DRAM 용량 부족. ..

HBF - HBM과 NAND 통합 기술

HBM과 NAND 통합 기술을 DRAM·NAND 스케일링 주제 연장선에서 체계적으로 정리하겠습니다. HBM(High Bandwidth Memory, DRAM 기반)은 AI/GPU의 초고속 메모리이지만 용량 한계(현재 1스택당 수백 GB)가 명확하고, NAND는 고용량·저비용이지만 대역폭·지연 시간이 부족합니다. 이를 극복하기 위해 HBF(High Bandwidth Flash)와 H3 하이브리드 아키텍처가 2025~2026년 급부상한 핵심 통합 기술입니다.1. 배경: 왜 HBM + NAND 통합이 필요한가? • HBM 한계: GPU 연산 속도를 따라가지 못하는 용량 병목(AI 추론 시 대형 모델 저장 어려움). HBM4(2026 양산)조차 TB급 확장이 어렵고 비용·전력·열 문제가 심각. • NAND 강점..

낸드 스케일링 이슈와 대안 모색

NAND(Flash Memory)는 3D V-NAND(또는 BiCS) 구조로 전환된 지 오래되었으며, 2026년 현재 300~400층 적층이 주류입니다. 그러나 수직 스케일링(층수 증가)과 수평 스케일링(셀 피치 축소) 모두 물리적·공정적 한계에 직면해 있으며, AI 수요 폭증으로 공급 부족(2D NAND 퇴출 + 3D 투자 집중)이 2026~2027년까지 지속될 전망입니다.1. NAND 스케일링의 주요 한계 이슈2D NAND는 이미 2010년대 후반에 끝났고, 지금은 3D NAND의 수직 적층 한계가 핵심입니다. 주요 병목은 다음과 같습니다. • 초고종횡비(High Aspect Ratio, HAR) 채널 홀 식각 문제 (가장 큰 병목)
200층 이상에서 채널 홀(Aspect Ratio ~1:100) 식..

디램 스케일링 한계 이슈 및 대안 모색

논문 등 공개된 자료를 바탕으로 DRAM 스케일링 한계 이슈와 대안을 체계적으로 정리해 보겠습니다. DRAM(Dynamic Random-Access Memory)은 1T1C(트랜지스터 1개 + 커패시터 1개) 구조로 데이터를 저장하는 주기억장치로, 반도체 산업의 핵심입니다. 그러나 10nm 이하 초미세 공정(7세대, 1d 노드)에서 물리적·구조적 한계가 명확히 드러나고 있으며, 2026년 현재 산업은 전환점에 서 있습니다.1. DRAM 스케일링의 주요 한계 이슈DRAM 미세화는 셀 면적 축소(6F² → 4F²)와 커패시터 용량 유지가 핵심입니다. 하지만 아래 문제가 극심해지고 있습니다. • 커패시터 스케일링 문제 (가장 큰 병목)
셀이 작아지면 커패시터 용량(Cs)이 급격히 줄어듭니다. D1z/D1a 노..

메모리 사용량 감소 기술이 시장 수요에 미치는 영향에 대한 의견

메모리 반도체 가격이 급등하자 시장 일각에서는 새로운 우려가 제기된다. AI 업계가 메모리를 덜 사용하는 방향으로 기술을 발전시키고 있으니, 장기적으로 메모리 수요가 약해지는 것 아니냐는 시각이다. 겉으로 보면 그럴듯한 주장이다. 실제로 최근 AI 산업에서는 모델 경량화, 압축 기술, 저정밀 연산, 캐시 최적화 등 이른바 “메모리 효율화” 기술이 빠르게 발전하고 있다.그러나 이는 메모리 산업의 위기를 의미하는 신호라기보다, 오히려 산업이 본격 성장 단계로 진입할 때 나타나는 자연스러운 기술적 진화에 가깝다.먼저 기술 관점에서 보자.메모리를 덜 사용한다는 것은 단순히 “낭비를 줄인다”는 의미만은 아니다. 상당 부분은 성능과의 교환 관계를 가진다. AI 모델은 기본적으로 더 많은 데이터를 더 빠르게 처리할수..

인공지능 모델 용어 정리 (LLM)

인공지능 모델, 특히 트랜스포머 기반 대형 언어 모델(LLM)의 훈련과 추론 과정을 이해하는 데 필수적인 핵심 용어를 정리해 보겠습니다. 모델의 입력 처리 단계부터 시작합니다. 토큰(Token)은 원본 텍스트를 모델이 이해할 수 있는 최소 단위로 나누는 것입니다. 예를 들어 “안녕하세요”라는 문장을 “안녕”, “하세요” 같은 서브워드 단위로 쪼개거나, 더 세밀한 바이트 단위로 나눌 수도 있습니다. 이 토큰들은 숫자 ID로 변환되어 모델에 들어갑니다. 토큰을 만드는 도구가 바로 토크나이저(Tokenizer)이며, 토크나이저가 사용하는 전체 단어 집합을 어휘(Vocabulary)라고 부릅니다. 토큰화된 결과는 임베딩(Embedding) 과정을 거쳐 고차원 벡터로 바뀝니다. 임베딩은 단어의 의미를 숫자로 압축..

AI 비즈니스의 본질은 4개의 레이어가 서로 강하게 의존하며 하나의 가치 사슬(value chain)을 이루는 데 있습니다.
각 레이어는 아래 레이어를 필수 인프라로 삼고, 위 레이어에 가치 전달하는 구조로 작동합니다.
결국 애플리케이션에서 돈을 벌지만, 그 돈은 반도체까지 거슬러 올라가며 전체 생태계를 끌어당기는 메커니즘입니다.아래에서 레이어별 역할과 상호관계를 명확히 정리하겠습니다.1. Semiconductor Layer (반도체 레이어) • 핵심 역할: AI 연산의 물리적 한계를 결정하는 가장 아래층.
GPU, TPU, ASIC, HBM 메모리 등 고성능 컴퓨팅 칩을 설계·생산. • 대표 플레이어: NVIDIA (CUDA 생태계), TSMC (파운드리), Broadcom, AMD, Google TP..

저것이 기회라는 사실을 알아도 끝내 행동하지 못하는 경우가 많다. 모든 기회에는 반드시 위험이 따르기 때문이다. 그리고 그 위험을 감당하는 내성은 사람마다 다르다. 어쩌면 한 사람의 인생은 바로 이 지점에서 갈라진다. 누군가는 과감히 뛰어들고, 누군가는 끝내 발을 떼지 못한다. 왜 그럴까.물론 타고난 성향의 차이도 있다. 본능적으로 모험을 즐기는 사람이 있는가 하면, 안정과 예측 가능성을 중시하는 사람도 있다. 그러나 인간의 선택을 결정하는 더 큰 요소는 대개 ‘배경’이다.만약 내가 실패하더라도 돌아갈 곳이 있다면, 다시 시작할 기반이 있다면 사람은 생각보다 훨씬 과감해질 수 있다. 부모의 지원이든, 안정적인 자산이든, 사회적 안전망이든, 혹은 실패를 견뎌낼 인간관계든 무엇인가 자신을 받아줄 바닥이 존재..

태평양으로 기우는 세계 — 동에서 서로, 다시 동으로인류의 역사를 길게 늘어놓고 보면, 하나의 흥미로운 현상이 관찰된다. 문명의 중심이 마치 동쪽에서 서쪽으로 미끄러지듯 이동해온 것처럼 보인다는 점이다. 메소포타미아의 강가에서 시작된 도시 문명은 지중해를 따라 확장되었고, 대항해 시대를 거치며 서유럽이 세계의 무대를 장악했다. 이어 대서양을 건너 미국이 20세기의 패권 국가로 부상했다.이 흐름만 떼어놓고 보면, 역사는 분명 ‘동에서 서로 이동하는 화살표’를 그린다.그러나 이 화살표를 곧이곧대로 법칙으로 받아들이는 순간, 우리는 중요한 사실을 놓친다. 역사는 방향을 따라 움직인 것이 아니라, 연결의 밀도가 높은 곳으로 이동해왔다는 점이다. 농업이 만든 잉여 생산, 도시가 만든 인구 집중, 무역이 만든 네트..

하이브리드 본딩(Hybrid Bonding)에서 구리-구리(Cu-Cu) 직접 접합 현상은 솔더나 범프 없이 구리 패드끼리 직접 금속 접합을 이루는 핵심 기술입니다. 이는 3D IC 적층(예: HBM, SoIC 등)에서 초미세 피치(10μm 이하) 인터커넥트를 가능하게 하며, 화학적으로는 금속 결합 + 원자 확산, 물리적으로는 열팽창·확산 메커니즘으로 설명됩니다.1. 전체 공정 흐름 (Cu-Cu 접합이 일어나는 맥락)하이브리드 본딩은 유전체-유전체(SiO₂-SiO₂ 등)와 금속-금속(Cu-Cu)이 동시에 접합되는 기술입니다. • CMP(Chemical Mechanical Polishing)로 표면을 수 nm 수준(roughness 0.1~0.2 nm)으로 초평탄화. • Cu 패드를 유전체보다 5~10 nm..