태그: NPU
BitNet b1.58 논문 정리: 삼진 가중치와 LLM 추론 비용
BitNet b1.58 논문의 삼진 가중치와 8-bit activation, BitLinear 구조를 살펴보고 정확도·추론 비용·에너지 결과의 평가 조건을 구분한 학습 기록입니다.
[Paper] Efficient Processing of Deep Neural Networks: A Tutorial and Survey (Part 2)
같은 논문 리뷰의 2편으로, DNN 전용 하드웨어 구성을 살펴봅니다. 벡터 명령어부터 가속기 구조까지 논문이 소개한 하드웨어 사례를 정리했습니다.
[Paper] Efficient Processing of Deep Neural Networks: A Tutorial and Survey (Part 1)
NPU에 DNN을 올리며 정리한 논문 리뷰 1편입니다. 하드웨어 플랫폼과 데이터플로우, 데이터 재사용이 에너지 비용과 어떻게 연결되는지 다룹니다.