Menembus Batas Memori Lokal: Duel Brutal AMD Ryzen AI Halo vs DGX Spark dan Eksperimen Gila AR Spectacles Dimensional OS

Menembus Batas Memori Lokal: Duel Brutal AMD Ryzen AI Halo vs DGX Spark dan Eksperimen Gila AR Spectacles Dimensional OS

Oleh Reggi, 09 Sep 2026

Menjalankan AI lokal di desktop bukan lagi sekadar tren main-main di tahun 2026, melainkan medan pertempuran berdarah antara efisiensi memori, arsitektur chip, dan robotika visioner. Di satu sisi, kita dipaksa berpikir keras bagaimana menjembatani mata manusia dengan motorik robot via AR. Di sisi lain, kita dipaksa memilih mesin workstation mana yang tidak akan membuat dompet jebol tapi sanggup menelan LLM (Large Language Model) ratusan miliar parameter tanpa perlu sewa cloud. Selamat datang di Review Spectacles Dimensional OS dan AMD Ryzen AI Halo vs DGX Spark, sebuah eksplorasi mendalam yang akan membedah hardware AI lokal dari kacamata jurnalis teknologi veteran yang skeptis dan pragmatis.

Ketika AR Menjadi Mata Bagi Kecerdasan Fisik

Kita mulai dari hal paling gila yang bisa Anda lakukan di lab saat ini: mengendalikan robot berkaki empat Unitree Go2 pro/air atau robot humanoid Unitree G1 menggunakan Snap Spectacles 2024 developer kit. Proyek ini membuktikan bahwa Augmented Reality bukan cuma buat main game menangkap monster virtual, melainkan interface masa depan untuk robotika dan Physical AI.

Seluruh keajaiban ini dikendalikan oleh Dimensional OS (DimOS) yang berjalan di perangkat Mac Anda. DimOS bertugas memegang kendali atas koneksi fisik robot, pemetaan LiDAR, perencanaan rute, dan mode agen pintar. Di sinilah DimOS AR-Bridge (paket Python di dalam codebase dimos-ar) masuk sebagai jembatan penengah. Melalui protokol WebSocket, AR-Bridge mengirimkan data telemetri, posisi robot, rute navigasi, dan visualisasi titik LiDAR langsung ke lensa Spectacles.

Bagaimana cara setup ekosistem ini? Semua perangkat (Mac, kacamata AR Spectacles, dan robot Unitree) wajib berada di jaringan WiFi yang sama dengan koneksi internet yang stabil. Anda bisa memulainya menggunakan launcher berbasis web di Mac:

bash
cd /path/to/spectacles-dimensional-os ./launcher/scripts/start-launcher.sh

Aplikasi web akan terbuka di alamat http://127.0.0.1:8790. Di sana, Anda bisa memilih stack robot (Go2 atau G1), menginstal dependensi, dan menunggu status berubah menjadi Bridge Ready. Jika Anda lebih menyukai jalur manual tanpa launcher web, setup bisa dieksekusi langsung lewat terminal:

bash
./launcher/scripts/setup.sh ./launcher/scripts/start.sh

Satu masalah terbesar dalam navigasi robot berbasis AR adalah pose drift (pergeseran posisi). Akibat data odometri dari hardware Unitree yang kurang konsisten, posisi robot virtual di kacamata bisa meleset sekitar 25 cm setelah robot berjalan sejauh 5 meter.

Untuk mengatasinya, sistem ini memanfaatkan AprilTag (lembar target visual tercetak) berukuran 70 mm yang ditempelkan di punggung robot. Kacamata AR akan mendeteksi tag tersebut secara langsung untuk menyelaraskan sistem koordinat kacamata dengan robot. Begitu kamera Spectacles menangkap AprilTag, deviasi posisi langsung dikoreksi secara otomatis.

Saat masuk ke Agent Mode, Anda cukup mengucapkan kata kunci "Robot" untuk mengaktifkan perintah suara berbasis GPT-4o. Anda bisa menyuruh robot melakukan gerakan relatif (relative_move), mendekati posisi headset Anda (navigate_to_user), atau sekadar menggambar garis virtual di dalam ruangan (draw_line). Jika robot mulai bertingkah aneh atau menabrak meja kerja Anda, wrist menu di pergelangan tangan kiri menyediakan tombol Emergency Stop instan untuk mematikan semua navigasi secara paksa.

Perang Spesifikasi: AMD Ryzen AI Halo vs NVIDIA DGX Spark

Robot yang pintar membutuhkan mesin lokal yang tangguh untuk memproses data sensor dan model bahasa di balik layar. Selama ini, NVIDIA mendominasi kategori desktop AI lokal lewat DGX Spark (box satu liter bertenaga Grace Blackwell superchip). Namun, AMD kini menantang dominasi tersebut dengan merilis AMD Ryzen AI Halo (Ryzen AI Max+ 395).

Mari kita bedah spesifikasi kedua monster meja kerja ini di atas kertas:

Fitur / SpesifikasiAMD Ryzen AI HaloNVIDIA DGX Spark (Founders Edition)Mac Studio M5 Ultra (Sebagai Pembanding)
Processor / APURyzen AI Max+ 395 (16 Cores / 32 Threads, Zen 5)NVIDIA Blackwell GPU (Tensor Cores Gen 5)Apple M5 Ultra
Grafis / ComputeRadeon 8060S (40 RDNA 3.5 Compute Units)1 PFLOP Sparse FP4 ComputeGPU Terintegrasi Apple
Kapasitas Memori128GB LPDDR5x (Dapat dialokasikan penuh via VGM)128GB Unified MemoryHingga 512GB Unified Memory
Bandwidth Memori256 GB/s273 GB/s1.2 TB/s
Sistem OperasiDual-OS (Windows 11 atau AMD Linux Image)Linux-only (DGX OS)macOS
Penyimpanan (Slot)M.2 2280 (Support up to 8TB, running Gen4 speed)M.2 2242Proprietary / Non-upgradeable
Harga Resmi$3,999 (termasuk SSD 2TB)$4,699 (Founders Edition)Bervariasi
Konektivitas Network10GbE (Tanpa high-speed clustering fabric)200Gbps ConnectX-7 NICBervariasi

Ibarat gudang penyimpanan, kapasitas memori (RAM) adalah luas gudang yang menentukan seberapa besar model AI yang bisa masuk, sedangkan bandwidth memori adalah lebar gerbang keluar masuk barang. Sebesar apa pun modelnya, kalau gerbangnya sempit, proses bongkar muat token akan terasa ngadat.

Di sinilah letak dilema DGX Spark. Saat menjalankan Llama 3.1 70B FP8, tim LMSYS mengukur kecepatan prefill (tahap memproses prompt input) Spark menembus 803 tokens per detik berkat performa buas Blackwell Tensor Cores. Namun, begitu masuk ke tahap decode (menghasilkan jawaban token demi token), kecepatannya anjlok drastis ke hanya 2.7 tokens per detik. Kenapa? Karena bandwidth memori Spark yang hanya 273 GB/s menjadi bottleneck yang sangat sempit bagi model berukuran raksasa.

Di sinilah Apple mencoba masuk dengan Mac Studio M5 Ultra yang menawarkan bandwidth hingga 1.2 TB/s dan kapasitas RAM raksasa 512GB (cukup untuk memuat DeepSeek-R1 671B 4-bit yang membutuhkan memori sekitar 336GB). Tetapi, bagi pengguna yang ingin fleksibilitas sistem operasi x86 tradisional, AMD Ryzen AI Halo hadir sebagai opsi kompromi yang sangat menarik.

Windows vs Linux: Benturan Filosofi Kerja

Perbedaan paling krusial antara Ryzen AI Halo dan DGX Spark bukan terletak pada teraflops atau gigabytes, melainkan pada kebebasan sistem operasi. DGX Spark dikunci rapat-rapat dengan Linux berbasis DGX OS. Anda tidak bisa menggunakannya untuk hal lain selain beban kerja komputasi AI murni.

Sebaliknya, AMD Ryzen AI Halo adalah PC x86 lengkap yang siap menjalankan Windows 11 maupun image developer Linux buatan AMD secara dual-OS. Di siang hari, Anda bisa menggunakannya untuk render 3D di Blender, kompilasi kode pemrograman, atau urusan perkantoran biasa. Di malam hari, Anda bisa langsung menggebernya untuk eksperimen lokal LLM.

Pengujian benchmark CPU menunjukkan keunggulan mutlak arsitektur Zen 5 pada Ryzen AI Halo dibanding Spark:

  • 7-Zip Compression: Halo mengompres 11% lebih cepat dan melakukan dekompresi 38% lebih cepat.
  • LLVM Compile: Halo menyelesaikan kompilasi kode 14% lebih cepat daripada Spark.
  • Cinebench R23: Halo mencatatkan skor multi-core fantastis di angka 37,316, mengalahkan workstation ringkas konvensional seperti HP Z2 Mini G1a dan HP ZBook Ultra G1a yang menggunakan chip sekelas.

Namun, ketika kita beralih ke serving model AI menggunakan engine vLLM, ceritanya berbalik 180 derajat. Ekosistem CUDA milik NVIDIA masih terlalu superior untuk ditaklukkan oleh AMD ROCm begitu saja.

Uji Nyata vLLM: Dominasi Mutlak Ekosistem CUDA

Saat diuji menggunakan vLLM Online Serving untuk mensimulasikan beban kerja produksi nyata dengan banyak pengguna (concurrency tinggi), DGX Spark menunjukkan taringnya yang sebenarnya sebagai server AI kecil berkat optimalisasi matang pada arsitektur GPU mereka.

Berikut adalah perbandingan performa throughput (dalam satuan tokens per second) antara AMD Ryzen AI Halo dan NVIDIA DGX Spark di berbagai model:

Model / Skenario PengujianHasil Throughput AMD Ryzen AI HaloHasil Throughput NVIDIA DGX SparkMargin Keunggulan Spark
GPT OSS 120B (Equal 256/256, Batch 64)222 tok/s701 tok/s~3.2x Lebih Cepat
GPT OSS 120B (Prefill Heavy 8k/1k, Batch 32/64)427 tok/s (Peak Batch 32)2,760 tok/s (Batch 64)~8.8x Lebih Cepat
Qwen3 Coder 30B (Equal 256/256, Batch 64)376 tok/s729 tok/s~1.9x Lebih Cepat
Llama 3.1 8B FP4 (Equal 256/256, Batch 64)267 tok/s3,573 tok/s~13.4x Lebih Cepat (FP4)
Llama 3.1 8B (Decode Heavy 1k/8k, Batch 64)235 tok/s263 tok/sHanya Unggul ~12%

Dari data di atas, terlihat jelas bahwa keunggulan Spark melebar drastis hingga 8.8 kali lipat pada beban kerja prefill-heavy model besar, dan meledak hingga 13.4 kali lipat ketika memanfaatkan presisi rendah FP4 yang dioptimalkan secara native pada arsitektur Blackwell.

Satu-satunya momen di mana Ryzen AI Halo mampu mendekati performa Spark (selisih tipis sekitar 11% hingga 12%) adalah pada skenario decode-heavy dengan ukuran batch kecil. Hal ini membuktikan bahwa meskipun APU Ryzen AI Max+ 395 memiliki bandwidth memori yang mumpuni (256 GB/s), ia masih kalah efisien dalam menangani kalkulasi matriks paralel tingkat tinggi dibanding GPU Blackwell yang memang didesain khusus untuk melayani banyak pengguna sekaligus.

Sisi Praktis: Urusan Storage dan Upgrade

Bagi para praktisi IT yang hobi melakukan upgrade hardware secara mandiri, AMD Ryzen AI Halo menawarkan kelegaan besar. Mesin ini menggunakan slot standard M.2 2280 SSD. Artinya, Anda bisa membeli SSD 8TB pihak ketiga di pasar retail dengan harga terjangkau dan memasangnya langsung tanpa masalah.

DGX Spark, sebaliknya, menggunakan ukuran M.2 2242 yang jauh lebih langka dan mahal di kapasitas besar. Meskipun begitu, secara arsitektur internal, Spark memaksimalkan potensi bandwidth PCIe Gen5 miliknya dengan sempurna. Pada uji sequential read 128K menggunakan FIO, Spark mampu menyentuh angka 13,399.6 MB/s dengan latency sangat rendah (0.597 ms).

Sementara itu, Ryzen AI Halo secara sengaja membatasi (negotiate down) SSD Micron 4600 Gen5 bawaannya agar berjalan di kecepatan PCIe Gen4 saja karena keterbatasan desain platform internalnya. Akibatnya, sequential read Halo mentok di 6,897.5 MB/s dengan latency 1.159 ms.

Meskipun demikian, untuk beban random read 4K pada queue depth rendah (QD1), Halo justru merespons jauh lebih gesit dibanding Spark (0.027 ms vs 0.214 ms). Namun, saat antrean dipenuhi beban berat (saturation), performa storage Halo cenderung tidak stabil dan mengalami lonjakan latency yang cukup mengganggu dibanding Spark yang tetap stabil dan konsisten.

Keputusan Pragmatis: Mesin Mana yang Layak Dibeli?

Pada akhirnya, tidak ada satu hardware yang cocok untuk semua skenario kerja. Pilihan Anda sepenuhnya tergantung pada apa yang ingin Anda selesaikan di atas meja kerja Anda sehari-hari.

Pilihlah NVIDIA DGX Spark jika:

  • Fokus utama Anda adalah pengembangan AI murni menggunakan PyTorch, TensorRT-LLM, vLLM, atau SGLang.
  • Anda berencana melakukan fine-tuning model skala menengah menggunakan teknik LoRA atau QLoRA.
  • Anda berniat membangun cluster multi-node memanfaatkan interkoneksi super cepat 200Gbps ConnectX-7 NIC bawaan Spark.
  • Kecepatan pemrosesan token per detik (throughput) untuk multi-user adalah prioritas mutlak Anda.

Pilihlah AMD Ryzen AI Halo jika:

  • Anda membutuhkan satu mesin ringkas serbaguna yang handal untuk urusan kantor, render visual di Windows, sekaligus mumpuni untuk menjalankan model AI lokal hingga 200B parameter.
  • Anda lebih menyukai kemudahan upgrade komponen standar seperti SSD M.2 2280 berkapasitas besar.
  • Anda membutuhkan dukungan native dual-OS (Windows 11 dan Linux) tanpa repot melakukan konfigurasi manual yang rumit pada alokasi VRAM (VGM sudah di-tuning secara otomatis sejak awal).
  • Anda ingin menghindari kendala biaya atau kelangkaan rantai pasok NVIDIA, mengingat Halo menawarkan performa CPU murni yang jauh lebih superior di harga retail yang lebih bersahabat ($3,999).

Referensi


Sedang Ramai Dibaca