병목을 따라가면, AI 인프라의 전체 지도가 보인다AI 인프라 아키텍처 강의 (8교시) 소개강의제목: AI데이터센터 메모리&스토리지 전략김용기 SK hynix university 챗봇 창에 질문을 입력하고 답을 받기까지, 그 짧은 순간 뒤에는 수만 개의 GPU와 수백 메가와트의 전력, 그리고 이들을 잇는 보이지 않는 배선이 움직인다. 우리는 모델의 크기와 벤치마크 점수에는 익숙하지만, 정작 그 모델을 지탱하는 물리적 인프라 — 서버, 메모리, 스토리지, 인터커넥트, 데이터센터 — 에 대해서는 놀랍도록 아는 바가 적다. 이 강의는 그 공백을 메우기 위해 설계되었다. 하나의 질문에서 시작한다"모델은 왜 이렇게 크고, 왜 이렇게 비싸며, 왜 이렇게 많은 전력을 먹는가?" 이 질문에 제대로 답하려면 알고리즘이 ..