누가 내 프롬프트를 읽을 수 있을까?

ChatGPT 프롬프트는 OpenAI 서버로 전송되어 저장되거나 검토될 수 있습니다. 반면 온디바이스 AI는 대화를 휴대전화 안에서만 처리합니다.

프롬프트가 실제로 가는 곳

ChatGPT에 메시지를 보내면 텍스트는 휴대전화를 떠나 인터넷을 거쳐 OpenAI 인프라에 도착합니다. 모델이 실제로 resides there. 설정과 정책에 따라 프롬프트는 얼마간 보관되거나 안전 검토를 거치거나, 시간이 지나며 서비스 개선에 활용될 수 있습니다. 말 그대로 다른 사람의 컴퓨터에서 대화를 나누고 있는 셈이며, 그 컴퓨터는 당신의 통제 밖에 있습니다.

온디바이스에서는 무엇이 달라지나

모델을 직접 휴대전화에서 실행하면 그 이동 과정 자체가 사라집니다. Local AI에서는 모델 파일이 로컬 저장소에 있고, 추론은 휴대전화의 칩에서 이루어지며, 대화는 네트워크에 전혀 닿지 않습니다. 연결할 곳이 없으므로 비행기 모드에서도 작동합니다. 계정도 필요 없어서 질문에 신원 정보가 연결되지 않습니다.

솔직한 장단점

다만 프라이버시에는 대가가 따릅니다. 최첨단 클라우드 모델은 휴대전화가 감당할 수 있는 것보다 훨씬 크기 때문에, 가장 어려운 추론과 최신 지식은 여전히 클라우드가 유리합니다. 온디바이스 모델도 일상적인 글쓰기, 요약, 대화는 충분히 잘 처리합니다. 하지만 가장 강한 답이 필요하고 질문이 민감하지 않다면, 클라우드가 여전히 더 나은 답을 내놓을 때도 있습니다.

현실적인 구분

많은 사람이 둘 다 사용하게 되는데, 이는 합리적인 방법입니다. 공개적으로 소리 내어 말해도 괜찮은 질문에는 클라우드 채팅을, 나머지에는 온디바이스 AI를 사용하세요. 일기, 업무 초안, 건강 관련 질문, 돈이나 가족에 관한 내용은 여기에 해당합니다. 간단한 기준은 이렇습니다. 공개 게시판에 붙여 올리지 않을 내용은 휴대전화에 두세요.