memory hierarchy1 [논문 리뷰] BaM GPU-Initiated On-Demand High-Throughput Storage Access in the BaM System ArchitectureAbstract기존 GPU가 data를 가져오는 방법은 CPU 메모리에 존재하는 data를 받아서 사용했다. Data 크기가 커짐에 따라서 DRAM 메모리뿐만 아니라 NAND까지 사용하게 되었다. 하지만 기존 방식은 coarse-grained 방법으로 데이터를 전송했으며 이는 I/O amplification 문제를 야기한다. 이를 해결하고자 GPU orchestrate 방식의 BaM을 제안한다. IntroductionAI model이 커지고, Dataset도 커지면서 Memory 부족 문제가 더욱 심해졌다. 이를 해결하기 위해 사람들은 두 가지 방법을 사.. 2024. 12. 9. 이전 1 다음
