Pixel 8에서도 실제 언어 모델을 실행할 수 있습니다

Pixel 8급 하드웨어에는 더 큰 모델을 돌릴 여유 메모리가 있습니다. Pixel에서 언어 모델을 로컬로 실행하면 어떤 모습인지 알려 드립니다.

Pixel이 모델을 잘 다루는 이유

최근 Pixel 플래그십은 넉넉한 RAM과 최신 칩셋을 갖췄습니다. 로컬 추론에 가장 많이 쓰이는 두 가지죠. 기준은 간단합니다. 사용 가능한 메모리가 많을수록 더 큰 모델이 여유롭게 돌아가고, 저장 공간은 몇 개를 동시에 내려받아 둘 수 있는지를 결정합니다. 플래그십급 Pixel은 두 조건 모두에서 좋은 위치에 있습니다. 이미 비용을 지불한 여유 공간이라고 생각하면 됩니다.

중간 크기로 시작해 단계적으로 키우기

플래그십에서는 3~4B 파라미터 모델이 가장 알맞습니다. 답변이 빠르게 도착하고 품질도 충분히 좋습니다. Local AI에 내장된 모델 브라우저에는 0.5B부터 12B까지의 오픈 모델이 한 번의 탭으로 내려받을 수 있도록 마련되어 있습니다. 빠르게 시작한 뒤 속도나 품질이 한계에 닿을 때까지 단계적으로 키워 보세요. 두 번째 모델을 내려받아 나란히 비교하는 것도 즐거움의 절반입니다.

텍스트를 넘어서

한 번 내려받으면 된다는 방식은 채팅뿐 아니라 더 많은 기능을 다룹니다. 비전 모델은 사진을 읽고 그에 관한 질문에 답하며, 음성 비서는 말로 된 질문을 처리합니다. 모두 서버로 보내지 않고 Pixel 안에서 계산됩니다. 처음 모델을 내려받은 뒤에는 어느 것도 인터넷 연결이 필요 없습니다. 비행기 모드로 바꿔도 달라지는 게 없으니, Pixel은 원격 제어 장치가 아니라 스스로 완결된 도우미가 됩니다.

솔직하게 말한 한계

휴대폰은 데이터 센터가 아니기 때문에 어떤 기기에서도 가장 큰 모델은 인내심을 시험합니다. 하지만 일상적인 초안 작성, 질문, 요약, 생각을 말로 꺼내기에 Pixel에서 중간 크기 모델을 돌리면, 주머니 안에 조용히 머물면서 절대 서버로 신호를 보내지 않는 도우미를 가진 듯한 느낌입니다. 이 정도 타협은 쉽게 받아들일 만합니다.