Bhyllabus l'énigme

Les pèlerins au-dessus des nuages

Cara Menjalankan Model AI Lokal di Laptop dengan Ollama (Windows, macOS, Linux)

Ilustrasi laptop di meja kayu dengan chip bercahaya dan siluet cahaya mirip llama melayang di atas layar

Pernah ragu menempelkan dokumen pribadi ke chatbot daring, atau kuota internetmu keburu habis padahal masih ingin bertanya ke AI? Menjalankan model bahasa langsung di laptop sendiri bisa jadi jalan keluarnya. Di panduan ini kita pakai Ollama, aplikasi gratis yang membuat prosesnya semudah mengetik satu perintah. Cocok untuk pemula yang penasaran, maupun yang sudah akrab dengan terminal.

SekilasKeterangan
Waktusekitar 15 menit, tergantung kecepatan unduh
KesulitanMudah
SistemWindows 10 22H2 ke atas, macOS Sonoma (14) ke atas, Linux
Ruang diskbeberapa GB per model (contoh di dokumentasi: sekitar 7 GB)
Rujukandokumentasi resmi Ollama, per November 2026

1. Pasang Ollama

Langkahnya berbeda di tiap sistem operasi:

  1. Windows: unduh OllamaSetup.exe dari situs resmi lalu jalankan. Penginstal tidak memerlukan hak Administrator dan memasang ke folder home secara bawaan. Untuk kartu NVIDIA, dokumentasi menyebut driver versi 551.61 atau lebih baru.
  2. macOS: buka berkas ollama.dmg, lalu seret aplikasi Ollama ke folder Applications. Chip Apple M bisa memakai GPU, sedangkan Mac berprosesor Intel hanya memakai CPU.
  3. Linux: jalankan skrip resmi di terminal (baca dulu skripnya bila kamu terbiasa berhati-hati, namanya juga pipe ke shell).
curl -fsSL https://ollama.com/install.sh | sh
ollama -v

2. Unduh dan Ajak Ngobrol Sebuah Model

Perintah ollama run akan mengunduh model bila belum ada, lalu langsung membuka sesi obrolan. Contoh di bawah memakai model kecil yang dipakai dokumentasi resmi sebagai contoh. Daftar model lain ada di pustaka Ollama, dan ketersediaannya bisa berubah.

ollama run gemma4:e2b
# ketik pertanyaanmu, lalu /bye untuk keluar

# sekali tanya tanpa masuk mode obrolan:
ollama run gemma4:e2b "Jelaskan DNS dalam dua kalimat."

3. Perintah Harian yang Perlu Kamu Hafal

PerintahFungsi
ollama pull NAMAmengunduh model tanpa menjalankannya
ollama lsmelihat model yang sudah terunduh
ollama psmelihat model yang sedang dimuat di memori
ollama stop NAMAmembongkar model dari memori seketika
ollama rm NAMAmenghapus model dari disk

4. Cek: Model Berjalan di GPU atau CPU?

Saat model sedang berjalan, buka terminal lain dan ketik ollama ps. Lihat kolom PROCESSOR: tulisan 100% GPU berarti model sepenuhnya di GPU, 100% CPU berarti di RAM sistem, dan angka terbagi seperti 48%/52% CPU/GPU berarti dibagi dua. Makin banyak porsi GPU, makin kencang jawabannya.

5. Pakai Lewat API Lokal

Ollama menyalakan server di localhost port 11434. Aplikasi lain, misalnya skrip buatanmu, bisa memanggilnya seperti ini (contoh disesuaikan dari quickstart resmi):

curl http://localhost:11434/api/chat \
  -H "Content-Type: application/json" \
  -d '{"model": "gemma4:e2b", "messages": [{"role": "user", "content": "Halo, perkenalkan dirimu singkat."}], "stream": false}'

Jawabannya ada di kolom message.content pada hasil JSON. Tersedia juga endpoint yang kompatibel dengan format OpenAI di http://localhost:11434/v1, sehingga banyak aplikasi pihak ketiga bisa langsung diarahkan ke sana.

6. Atur Lokasi Model dan Lama Tinggal di Memori

Model bisa memakan puluhan GB. Bila disk utamamu sempit, pindahkan penyimpanannya dengan variabel OLLAMA_MODELS. Lokasi bawaannya: ~/.ollama/models di macOS, C:\Users\NAMAMU\.ollama\models di Windows, dan /usr/share/ollama/.ollama/models di Linux. Variabel lain yang berguna: OLLAMA_KEEP_ALIVE (lama model bertahan di memori, bawaan 5 menit) dan OLLAMA_CONTEXT_LENGTH (bawaan 4096 token).

SistemCara mengatur variabel
WindowsKeluar dari Ollama di tray, cari “environment variables” di Settings, tambahkan variabel pengguna, lalu buka Ollama lagi
macOSlaunchctl setenv NAMA "nilai", lalu restart aplikasi Ollama
Linuxsudo systemctl edit ollama.service, tambahkan Environment="NAMA=nilai" di bawah [Service], lalu systemctl daemon-reload dan systemctl restart ollama

Peringatan: di Linux, folder tujuan harus bisa ditulis oleh pengguna ollama (dokumentasi menyarankan sudo chown -R ollama:ollama FOLDER). Pindahkan model dengan hati-hati dan jangan menghapus folder lama sebelum model baru terbukti jalan.

Jebakan Umum dan Cara Mengatasinya

  • Jawaban sangat lambat. Biasanya model terlalu besar untuk VRAM sehingga tumpah ke RAM. Cek ollama ps; bila kolom PROCESSOR didominasi CPU, pilih model yang lebih kecil.
  • Disk tiba-tiba penuh. Setiap model yang pernah diunduh tetap tersimpan. Rutin cek ollama ls dan hapus yang tak terpakai dengan ollama rm.
  • Kepikiran membuka server ke jaringan. Bawaannya Ollama hanya melayani 127.0.0.1. Mengubah OLLAMA_HOST menjadi 0.0.0.0 membuat perangkat lain di jaringan bisa memanggilnya. Dokumentasi yang saya baca tidak membahas autentikasi untuk kasus ini, jadi jangan lakukan di jaringan umum tanpa firewall atau pembatas akses.
  • Mengira semuanya pasti lokal. Ollama kini juga menyediakan model cloud yang memerlukan ollama signin. Bila ingin memastikan tidak ada yang keluar dari komputer, dokumentasi menyebut opsi menonaktifkannya lewat OLLAMA_NO_CLOUD=1.
  • Percaya penuh pada jawabannya. Model kecil lebih sering keliru. Baca juga lima langkah cek fakta jawaban AI.

Ringkasan Cepat

  • Pasang Ollama sesuai sistemmu, lalu jalankan model dengan ollama run.
  • Pakai ollama ls, ollama ps, ollama stop, dan ollama rm untuk mengelola model dan memori.
  • Cek kolom PROCESSOR di ollama ps untuk tahu apakah GPU terpakai.
  • API lokal ada di port 11434, dengan endpoint kompatibel OpenAI di /v1.
  • Biarkan server hanya di 127.0.0.1 kecuali kamu paham risikonya.

Kalau kamu pernah mencoba cara lain, misalnya pada eksperimen AI lokal di laptop kerja yang kutulis akhir tahun lalu, ceritakan di kolom komentar. Model apa yang paling nyaman di perangkatmu, dan trik apa yang membuatnya ngebut?

Sumber

Commenting 101: “Be kind, and respect each other” // Bersikaplah baik, dan saling menghormati (Indonesian) // Soyez gentils et respectez-vous les uns les autres (French) // Sean amables y respétense mutuamente (Spanish) // 待人友善,互相尊重 (Chinese) // كونوا لطفاء واحترموا بعضكم البعض (Arabic) // Будьте добры и уважайте друг друга (Russian) // Seid freundlich und respektiert einander (German) // 親切にし、お互いを尊重し合いましょう (Japanese) // दयालु बनें, और एक दूसरे का सम्मान करें (Hindi) // Siate gentili e rispettatevi a vicenda (Italian)

Tinggalkan Balasan