Pernah ragu menempelkan dokumen pribadi ke chatbot daring, atau kuota internetmu keburu habis padahal masih ingin bertanya ke AI? Menjalankan model bahasa langsung di laptop sendiri bisa jadi jalan keluarnya. Di panduan ini kita pakai Ollama, aplikasi gratis yang membuat prosesnya semudah mengetik satu perintah. Cocok untuk pemula yang penasaran, maupun yang sudah akrab dengan terminal.
| Sekilas | Keterangan |
|---|---|
| Waktu | sekitar 15 menit, tergantung kecepatan unduh |
| Kesulitan | Mudah |
| Sistem | Windows 10 22H2 ke atas, macOS Sonoma (14) ke atas, Linux |
| Ruang disk | beberapa GB per model (contoh di dokumentasi: sekitar 7 GB) |
| Rujukan | dokumentasi resmi Ollama, per November 2026 |
1. Pasang Ollama
Langkahnya berbeda di tiap sistem operasi:
- Windows: unduh
OllamaSetup.exedari situs resmi lalu jalankan. Penginstal tidak memerlukan hak Administrator dan memasang ke folder home secara bawaan. Untuk kartu NVIDIA, dokumentasi menyebut driver versi 551.61 atau lebih baru. - macOS: buka berkas
ollama.dmg, lalu seret aplikasi Ollama ke folder Applications. Chip Apple M bisa memakai GPU, sedangkan Mac berprosesor Intel hanya memakai CPU. - Linux: jalankan skrip resmi di terminal (baca dulu skripnya bila kamu terbiasa berhati-hati, namanya juga pipe ke shell).
curl -fsSL https://ollama.com/install.sh | sh
ollama -v
2. Unduh dan Ajak Ngobrol Sebuah Model
Perintah ollama run akan mengunduh model bila belum ada, lalu langsung membuka sesi obrolan. Contoh di bawah memakai model kecil yang dipakai dokumentasi resmi sebagai contoh. Daftar model lain ada di pustaka Ollama, dan ketersediaannya bisa berubah.
ollama run gemma4:e2b
# ketik pertanyaanmu, lalu /bye untuk keluar
# sekali tanya tanpa masuk mode obrolan:
ollama run gemma4:e2b "Jelaskan DNS dalam dua kalimat."
3. Perintah Harian yang Perlu Kamu Hafal
| Perintah | Fungsi |
|---|---|
ollama pull NAMA | mengunduh model tanpa menjalankannya |
ollama ls | melihat model yang sudah terunduh |
ollama ps | melihat model yang sedang dimuat di memori |
ollama stop NAMA | membongkar model dari memori seketika |
ollama rm NAMA | menghapus model dari disk |
4. Cek: Model Berjalan di GPU atau CPU?
Saat model sedang berjalan, buka terminal lain dan ketik ollama ps. Lihat kolom PROCESSOR: tulisan 100% GPU berarti model sepenuhnya di GPU, 100% CPU berarti di RAM sistem, dan angka terbagi seperti 48%/52% CPU/GPU berarti dibagi dua. Makin banyak porsi GPU, makin kencang jawabannya.
5. Pakai Lewat API Lokal
Ollama menyalakan server di localhost port 11434. Aplikasi lain, misalnya skrip buatanmu, bisa memanggilnya seperti ini (contoh disesuaikan dari quickstart resmi):
curl http://localhost:11434/api/chat \
-H "Content-Type: application/json" \
-d '{"model": "gemma4:e2b", "messages": [{"role": "user", "content": "Halo, perkenalkan dirimu singkat."}], "stream": false}'
Jawabannya ada di kolom message.content pada hasil JSON. Tersedia juga endpoint yang kompatibel dengan format OpenAI di http://localhost:11434/v1, sehingga banyak aplikasi pihak ketiga bisa langsung diarahkan ke sana.
6. Atur Lokasi Model dan Lama Tinggal di Memori
Model bisa memakan puluhan GB. Bila disk utamamu sempit, pindahkan penyimpanannya dengan variabel OLLAMA_MODELS. Lokasi bawaannya: ~/.ollama/models di macOS, C:\Users\NAMAMU\.ollama\models di Windows, dan /usr/share/ollama/.ollama/models di Linux. Variabel lain yang berguna: OLLAMA_KEEP_ALIVE (lama model bertahan di memori, bawaan 5 menit) dan OLLAMA_CONTEXT_LENGTH (bawaan 4096 token).
| Sistem | Cara mengatur variabel |
|---|---|
| Windows | Keluar dari Ollama di tray, cari “environment variables” di Settings, tambahkan variabel pengguna, lalu buka Ollama lagi |
| macOS | launchctl setenv NAMA "nilai", lalu restart aplikasi Ollama |
| Linux | sudo systemctl edit ollama.service, tambahkan Environment="NAMA=nilai" di bawah [Service], lalu systemctl daemon-reload dan systemctl restart ollama |
Peringatan: di Linux, folder tujuan harus bisa ditulis oleh pengguna ollama (dokumentasi menyarankan sudo chown -R ollama:ollama FOLDER). Pindahkan model dengan hati-hati dan jangan menghapus folder lama sebelum model baru terbukti jalan.
Jebakan Umum dan Cara Mengatasinya
- Jawaban sangat lambat. Biasanya model terlalu besar untuk VRAM sehingga tumpah ke RAM. Cek
ollama ps; bila kolom PROCESSOR didominasi CPU, pilih model yang lebih kecil. - Disk tiba-tiba penuh. Setiap model yang pernah diunduh tetap tersimpan. Rutin cek
ollama lsdan hapus yang tak terpakai denganollama rm. - Kepikiran membuka server ke jaringan. Bawaannya Ollama hanya melayani
127.0.0.1. MengubahOLLAMA_HOSTmenjadi0.0.0.0membuat perangkat lain di jaringan bisa memanggilnya. Dokumentasi yang saya baca tidak membahas autentikasi untuk kasus ini, jadi jangan lakukan di jaringan umum tanpa firewall atau pembatas akses. - Mengira semuanya pasti lokal. Ollama kini juga menyediakan model cloud yang memerlukan
ollama signin. Bila ingin memastikan tidak ada yang keluar dari komputer, dokumentasi menyebut opsi menonaktifkannya lewatOLLAMA_NO_CLOUD=1. - Percaya penuh pada jawabannya. Model kecil lebih sering keliru. Baca juga lima langkah cek fakta jawaban AI.
Ringkasan Cepat
- Pasang Ollama sesuai sistemmu, lalu jalankan model dengan
ollama run. - Pakai
ollama ls,ollama ps,ollama stop, danollama rmuntuk mengelola model dan memori. - Cek kolom PROCESSOR di
ollama psuntuk tahu apakah GPU terpakai. - API lokal ada di port 11434, dengan endpoint kompatibel OpenAI di
/v1. - Biarkan server hanya di
127.0.0.1kecuali kamu paham risikonya.
Kalau kamu pernah mencoba cara lain, misalnya pada eksperimen AI lokal di laptop kerja yang kutulis akhir tahun lalu, ceritakan di kolom komentar. Model apa yang paling nyaman di perangkatmu, dan trik apa yang membuatnya ngebut?
Sumber
- Ollama Docs: Quickstart
- Ollama Docs: FAQ
- Ollama Docs: CLI
- Ollama Docs: Windows
- Ollama Docs: macOS
- Ollama Docs: Linux
- Ollama Docs: API



Tinggalkan Balasan