Bạn không cần điện thoại cao cấp để chạy AI thực sự

AI trên thiết bị không chỉ dành cho điện thoại cao cấp giá 1.000 USD. Mô hình mở nhỏ chạy rất tốt trên Android giá rẻ — nên dùng gì và nên bỏ gì.

Mito về điện thoại cao cấp

Các bài viết về công nghệ thường khiến AI nghe như đòi hỏi một chiếc điện thoại nghìn USD có chip thần kinh mang thương hiệu bên trong. Thực tế, những mô hình dùng để trả lời câu hỏi hằng ngày đều nhỏ, và mô hình nhỏ thì rất linh hoạt: các mô hình mở đã lượng tử trong dải 0.5B đến 3B chạy ổn trên bộ xử lý tầm trung của hầu hết điện thoại Android giá rẻ, đặc biệt là máy có 4 đến 6 GB RAM trở lên.

Những gì điện thoại giá rẻ xử lý tốt

Các tác vụ hằng ngày đúng là thế mạnh của mô hình nhỏ: trả lời câu hỏi, tóm tắt bài viết, soạn tin nhắn, cùng nghĩ ra ý tưởng. Mô hình thị giác bổ sung khả năng hiểu ảnh mà không cần tải bất cứ thứ gì lên. Phần cứng hạn chế lộ rõ giới hạn khi gặp mô hình rất lớn hoặc tài liệu rất dài — quá trình sinh nội dung sẽ chậm đi, nhưng vẫn hoàn tất nếu bạn kiên nhẫn. Với phần lớn nhu cầu dùng hằng ngày, sự khác biệt gần như không nhận ra.

Cách thử rẻ nhất

Local AI hoàn toàn miễn phí, nên đây là cách thử rủi ro thấp nhất trên điện thoại giá rẻ. Trình duyệt mô hình của nó liệt kê các mô hình mở kèm dung lượng ngay từ đầu — chọn một mô hình 1B hoặc 2B chỉ một chạm là bạn có thể trò chuyện sau một phút. Sau khi tải xong, mọi thứ đều chạy trên thiết bị: không tài khoản, không đăng ký, không có bộ đếm ẩn nào chạy nền ở bất cứ đâu.

Khai thác tối đa phần cứng hạn chế

Vài thói quen sẽ giúp ích: hãy để lại một chút dung lượng trống để điện thoại không phải vật lộn với ổ đĩa gần đầy, và chọn mô hình nhỏ nhất vẫn trả lời tốt các câu hỏi của bạn. Hãy đóng những ứng dụng nặng trước khi bắt đầu phiên làm việc dài, và nếu mô hình 2B cảm thấy chậm chạp, hãy chuyển xuống 1B — chất lượng giảm rất ít còn tốc độ tăng rõ rệt.