Tóm tắt 30 giây
Nếu bạn chỉ muốn có một “ChatGPT riêng” chạy trong nhà, không cần bắt đầu bằng Kubernetes hay card đồ họa hàng chục triệu. Một mini PC hoặc desktop có RAM đủ lớn đã có thể chạy nhiều model nhỏ qua Ollama.
Bạn cần chuẩn bị gì?
- Một máy Windows, macOS hoặc Linux có tối thiểu 16 GB RAM.
- Khoảng 20–50 GB dung lượng trống.
- Kết nối mạng để tải model lần đầu.
Mục tiêu của bài Beginner là giúp bạn có kết quả trước, hiểu sâu sau.
Luồng cài đặt
Cài Ollama từ trang chính thức, sau đó tải một model phù hợp cấu hình máy. Khi hệ thống AI Newsroom chạy thật, bước này sẽ được cập nhật theo model tốt và ổn định nhất tại thời điểm xuất bản.
Sau khi chạy được thì làm gì?
Bước tiếp theo là thêm giao diện web, giới hạn truy cập trong mạng gia đình và bật backup cấu hình. Những phần có rủi ro bảo mật sẽ luôn được đánh dấu rõ thay vì tự động khuyến nghị mở server ra Internet.