아이폰, 맥북에도 온디바이스 AI가…? DRAM 짠돌이 애플의 접근법

애플이 DRAM 적게 쓰고도 LLM 을 돌릴 수 있는 논문을 발표했습니다. 흔히 SSD라고 알고 있는 NAND Flash와 DRAM을 함께 쓰면서 Sliding Window 로 Token 전송을 줄이고 Prediction을 통해 0인 부분을 제거하면서 Bundling을 통해 한꺼번에 보내는 방식을 채택했는데요. 이 방식이면 애플의 시리나 생성형 AI를 자유롭게 쓸 수 있을까요? 논문의 주장과 한계에 대해 정리합니다. #아이폰 #애플 #온디바이스 Written by Error Edited by 이진이 unrealtech2021@gmail.com