폰의 LLM에 필요한 RAM은 얼마나 될까

Android에서 0.5B~12B 파라미터 모델을 돌릴 때 각 크기에 실제로 필요한 RAM, 저장 공간, 속도를 정리했습니다. 1GB 미만의 어떤 폰에서도 되는 크기부터 플래그십급까지, 내 폰에 맞는 모델 크기를 고르는 경험 법칙과 기준까지 알아보세요.

짧은 답

경험 법칙: 모델 파일 크기와 비슷한 여유 RAM에 약간의 여유분. 1GB 모델은 약 2GB의 여유를, 4GB 모델은 약 6GB를 원합니다. 저장 공간은 쉬운 부분으로, 모델은 수백 MB에서 약 8GB까지입니다.

1GB 미만: 어떤 폰이든

작은 0.5~1B 모델은 몇 초 만에 로드되고 지난 5년간의 거의 모든 Android에서 돌아갑니다. 빠른 질문, 문장 다듬기, 자동완성류 작업에 좋습니다.

1~3GB: 스위트 스폿

RAM 6~8GB의 중급 폰이 여유롭게 처리합니다. 일상 채팅, 요약, 번역에서 답변 품질이 진짜 똑똑하게 느껴지기 시작하는 구간입니다.

4~8GB: 플래그십 영역

가장 큰 폰 친화 모델(8~12B)은 RAM 8~12GB 이상과 최신 고급 칩을 원합니다. 로드도 답변도 느리지만, 주머니에 들어가는 클라우드급에 가장 가깝습니다. Local AI는 각 모델의 크기를 미리 보여주니 놀랄 일이 없습니다.