RAM: spesifikasi yang menentukan model yang bisa Anda jalankan

AI di perangkat bergantung pada RAM. Berapa memori yang dibutuhkan model 0,5B hingga 12B, dan cara mengecek kemampuan ponsel Android Anda.

Mengapa RAM menjadi spesifikasi penentu

Model bahasa harus berada di memori saat berpikir—seluruh model, sudah dimuat dan siap digunakan. Penyimpanan menentukan apa yang bisa Anda unduh, tetapi RAM menentukan apa yang benar-benar bisa dijalankan. Itulah sebabnya dua ponsel dengan chip yang sama dapat berperilaku sangat berbeda: ponsel dengan memori bebas lebih banyak mampu menampung model yang lebih besar dan lebih cerdas. Ketika orang mengatakan ponsel 'tidak bisa menjalankan AI', biasanya yang dimaksud adalah RAM sudah habis jauh sebelum ide-ide AI habis.

Tangga perkiraan

Sebagai patokan umum, model terkuantisasi membutuhkan sekitar satu gigabyte ruang per miliar parameter, baik untuk penyimpanan maupun memori saat dijalankan. Model sekitar 0,5B hingga 2B berjalan nyaman di hampir setiap ponsel modern; rentang 3B hingga 4B cocok untuk perangkat kelas menengah; 7B hingga 8B menuntut ponsel kelas atas terbaru; dan model 12B berada di kelas flagship—mungkin, tetapi hanya jika banyak memori bebas dan tidak ada hal lain yang bersaing.

Memeriksa kapasitas yang Anda miliki

Android menampilkan total RAM di Setelan pada bagian Tentang Ponsel, tetapi yang penting adalah RAM bebas saat Anda mulai mengobrol. Eksperimen singkat lebih berguna daripada lembar spesifikasi: instal Local AI, unduh model kecil terlebih dahulu—model ini berjalan di hampir semua perangkat—lalu naikkan ukurannya dan perhatikan apakah balasan tetap lancar. Jika aplikasi tersendat atau dimuat ulang saat Anda berpindah aplikasi, Anda sudah menemukan batas nyaman ponsel Anda, dan model yang lebih kecil akan berjalan dengan gembira di bawah batas itu.

Memperluas ruang gerak

Anda tidak selalu memerlukan perangkat keras yang lebih besar—kadang cukup dengan mengurangi teman serumah. Tutup aplikasi berat sebelum sesi panjang, mulai ulang ponsel sesekali untuk membersihkan memori yang tertinggal, dan pilih model yang lebih kecil untuk pertanyaan singkat agar model besar hanya dimuat ketika benar-benar dibutuhkan. Dan ingatlah: model 3B dengan prompt yang baik menjawab pertanyaan sehari-hari dengan indah. RAM yang lebih besar memberi ruang untuk model yang lebih besar, bukan syarat untuk menikmati AI di ponsel.