Selamat pagi, Jumat! Kalau pekan lalu kita ramai membicarakan model baru dan agen yang rajin menulis pull request, pekan ini obrolannya bergeser ke pertanyaan yang lebih mendasar: bagaimana kita tahu AI yang kita pakai itu benar-benar AI yang kita kira, dan bagaimana menghentikannya kalau ia berulah? Periode liputan: 3-5 November 2026 (WIB).
Sekilas Hari Ini
| Kabar | Siapa | Intinya |
|---|---|---|
| FlashProve | Anthropic | Prototipe bukti kriptografis model mana yang menghasilkan suatu jawaban |
| AI Kill Switch | CrowdStrike | Admin bisa menghentikan agen AI yang bermasalah |
| Prompt adware | Check Point Research | Iklan terselip di instruksi agen lewat bundel jailbreak |
| Agen AI di Uber | Uber | Pesanan lewat agen pihak ketiga masih sangat sedikit (laporan media) |
FlashProve: Bukti Bahwa Jawaban Itu Memang dari Model yang Dijanjikan
Menurut laporan TechCrunch (3 November), Anthropic memperkenalkan FlashProve, sistem untuk apa yang disebut provable inference, yakni bukti kriptografis bahwa sebuah keluaran memang dihasilkan oleh model tertentu. Bayangkan kamu membayar untuk model premium, tetapi di belakang layar penyedia diam-diam menukarnya dengan model yang lebih murah. Atau sebaliknya, model yang lebih mahal dipakai khusus saat uji tolok ukur supaya skornya terlihat bagus. FlashProve dirancang agar kecurangan semacam itu bisa terdeteksi.
Caranya, lab AI menerbitkan “sidik jari” untuk tiap model yang dirilis. Sidik jari ini tidak membuka bobot model, jadi lab yang menutup modelnya tetap bisa ikut. Anthropic merilis spesifikasi teknis dan kode sumber terbuka di GitHub. Catatan penting: Anthropic sendiri menyebut ini kemajuan sementara dalam riset, dan belum ada rencana menerapkannya di Anthropic maupun lab lain. Jadi jangan harap ada tombol “verifikasi” di aplikasi obrolanmu dalam waktu dekat.
Tombol Darurat untuk Agen AI
Di sisi pertahanan, CrowdStrike pada 3 November (bertepatan dengan Fal.Con Europe di Barcelona) mengumumkan AI Kill Switch sebagai bagian dari Falcon Guardian. Fungsinya mudah dibayangkan: administrator yang berwenang bisa mematikan agen AI yang berperilaku menyimpang, mencegahnya menyala lagi di komputer atau kelompok komputer tertentu, dan memutus akses jaringannya. Setiap tindakan tercatat di jejak audit. Menurut rilisnya, penghentian dilakukan lebih dulu di tingkat gateway, sedangkan di tingkat endpoint baru akan menyusul “segera”. Ini klaim dan rencana dari pabrikan, belum ulasan independen.
Prompt Adware: Iklan yang Bersembunyi di Instruksi
Check Point Research (3 November) menemukan bundel jailbreak untuk OpenAI Codex bernama “Haiou”. Bundel ini mengubah instruksi global agen secara permanen, sehingga sapaan biasa memicu iklan layanan gateway AI pihak ketiga. Peneliti menamainya prompt adware. Yang menarik, mekanismenya hanya berupa kalimat dan konfigurasi, bukan kode yang bisa dipindai antivirus biasa. Check Point tidak menemukan bukti gateway itu berbahaya ataupun pencurian data; kekhawatirannya adalah potensi penyalahgunaan di masa depan, misalnya mengarahkan rekomendasi teknis. Mereka juga mencatat Claude Code mengenali dan menolak percobaan injeksi yang sama dalam pengujian pengembangnya.
Catatan Kecil: Agen Belanja Ternyata Masih Sepi
Sebagai penyeimbang hype, sejumlah media melaporkan bahwa pada kuartal ketiga Uber hanya mencatat empat perjalanan yang dipesan lewat agen AI pihak ketiga, dan sekitar 500 pesanan Uber Eats pada pekan Halloween. Angka ini saya ambil dari rangkuman media sekunder dan belum saya cek ke sumber primernya, jadi anggap sebagai gambaran kasar: pemesanan oleh agen masih “sangat awal”, dalam bahasa manajemen Uber.
Benang Merah Hari Ini
Ketiga kabar utama menjawab satu soal yang sama: kepercayaan. FlashProve ingin membuktikan siapa yang menjawab, Kill Switch memastikan ada rem saat agen melenceng, dan prompt adware mengingatkan bahwa instruksi pun bisa disusupi. Bagi kita pemakai sehari-hari, pelajaran praktisnya sederhana: periksa file instruksi dan konfigurasi agen yang kamu pasang dari sumber tak dikenal, terutama bundel “jailbreak” gratisan. Soal agen yang kemarin kita bahas menulis banyak pull request, kamu bisa baca konteksnya di edisi Jumat pekan lalu.
Menurutmu, mana yang lebih mendesak: bukti identitas model, atau tombol darurat untuk agen? Tulis pendapatmu di kolom komentar, ya.
Sumber
- TechCrunch: Anthropic is working on a system to prove AI models’ identity (3 Nov 2026)
- CrowdStrike: Introduces the AI Kill Switch for AI Safety (3 Nov 2026)
- Check Point Research: Prompt Adware (3 Nov 2026)
- Kill the AI: rangkuman berita AI 5 Nov 2026 (sumber sekunder untuk data Uber)
Tinggalkan Balasan