배송기사소통장소

배송기사소통장소 반도체공학회 학술대회서김태완 서울대 교수 강연 김태완 서울대학교 조선해양공학과 교수전세계 빅테크가 참전 중인 인공지능(AI) 반도체 경쟁에서 한국이 승리하려면 칩 검증 속도를 높여야 한다는 주장이 제기됐다.16일 부산 아난티 앳 부산 코드에서 열린 반도체공학회 2026년 학술대회에서 김태완 서울대 조선해양공학과 교수는 ‘AI 메모리 장벽을 넘어서: TurboQuant, 3-bit KV Cache 압축, 그리고 소버린 AI 반도체로 가는 길’이라는 주제의 기조강연을 통해 “AI 반도체 경쟁력은 논문 수가 아니라 얼마나 빠르게 실리콘에서 검증하느냐에 달려 있다”며 이 같이 밝혔다.김 교수는 “챗GPT 같은 생성형 AI의 등장으로 AI는 짧은 질문에 답하는 수준을 넘어 긴 보고서와 논문, 대화 기록까지 한꺼번에 읽고 이해하는 방향으로 발전하고 있다”며 “이에 따라 AI 반도체도 단순히 계산을 빠르게 수행하는 것뿐 아니라, 많은 데이터를 적은 전력과 비용으로 처리하는 능력이 중요해졌다”고 설명했다.이어 김 교수는 “최근에는 AI가 한 번에 참고할 수 있는 문맥의 길이가 128K 토큰 이상으로 늘어나고 있다”며 “128K 토큰은 약 13만개의 언어 단위로, 여러 편의 긴 문서와 이전 대화 내용을 한꺼번에 참고할 수 있는 규모”라고 덧붙였다.문제는 이렇게 급격히 확장된 긴 문맥(Long context) 탓에 기존 반도체 구조가 한계에 직면했다는 것이다.김 교수는 “KV캐시(cache)는 AI가 문장을 한 토큰씩 생성할 때, 과거 토큰에 대해 이미 계산한 키(key)와 밸류(Value) 값을 메모리에 저장해 두는 기술로, 이를 통해 매번 같은 계산을 반복하지 않아도 된다”며 “다만 문맥이 길어질수록 저장해야 할 값이 계속 증가하기 때문에 그래픽처리장치(GPU) 메모리 사용량과 전력 부담이 커진다”고 분석했다.이어 “이는 메모리 병목을 일으키고 고대역폭메모리(HBM) 사용량과 비용 증가로 이어질 수 있다”며 “이는 AI 서비스의 비용 구조와 전력 효율에 직접적인 영향을 미치는 문

쿠팡퀵플렉스카페 쿠팡야간 쿠팡퀵플렉스야간 배송기사소통장소

배송기사소통장소