SK하이닉스, ‘계산하는 HBM’으로 AI 추론 성능 최대 5.15배 향상

SK하이닉스, ‘계산하는 HBM’으로 AI 추론 성능 최대 5.15배 향상
공유하기

SK하이닉스가 차세대 인공지능(AI) 메모리 기술로 ‘맞춤형(커스텀) HBM’을 선보였습니다. 이번 기술은 HBM의 맨 아래층인 베이스다이에 연산 기능을 넣어 데이터 이동을 최소화하는 것으로, AI 추론 성능을 최대 5.15배까지 높일 수 있다고 합니다. 이로 인해 GPU와 메모리 간 데이터 이동에 따른 에너지 소모와 시간 지연이 크게 줄어들 것으로 기대되...

댓글 남기기