Spatial AI and the Desktop Compute Crisis: Hands-On with Spectacles Dimensional OS and AMD Ryzen AI Halo vs DGX Spark

Bagaimana cara terbaik menjembatani komputasi spasial dengan robotika fisik tanpa terbentur masalah latensi jaringan dan keterbatasan memori lokal? Pertanyaan ini menjadi pusat perhatian para engineer saat ini. Di satu sisi, kita melihat integrasi hardware mutakhir seperti Snap Spectacles (developer kit 2024) yang menjalankan Dimensional OS (DimOS) untuk mengendalikan robot quadruped Unitree Go2 secara real-time. Di sisi lain, kita dihadapkan pada perdebatan sengit mengenai mesin desktop apa yang paling ideal untuk menopang workload AI lokal tersebut: AMD Ryzen AI Halo yang fleksibel dengan arsitektur x86, atau NVIDIA DGX Spark yang perkasa dengan ekosistem CUDA-nya.

Menjalankan model fisik spasial membutuhkan pemahaman mendalam tentang networking, alokasi memori, dan penanganan drift sensor. Artikel ini akan membedah arsitektur integrasi Spectacles AR menggunakan Dimensional OS, sekaligus menyajikan perbandingan performa mendalam antara AMD Ryzen AI Halo dan NVIDIA DGX Spark sebagai mesin komputasi lokal Anda.

Arsitektur Sistem: Spectacles AR dan Dimensional OS

Dimensional OS bertindak sebagai sistem saraf pusat untuk robot (Unitree Go2 atau G1 humanoid). OS ini mengelola koneksi langsung ke robot via WebRTC atau DDS, memproses data LiDAR untuk membangun peta kognitif, merencanakan rute navigasi, dan mengeksekusi perintah berbasis Large Language Model (LLM) melalui Agent Mode.

Untuk menghubungkan tumpukan fisik ini dengan kacamata AR Snap Spectacles, digunakan DimOS AR-Bridge (dimos-ar). Bridge ini ditulis dalam bahasa Python dan berjalan di atas mesin host (seperti Mac Studio atau workstation lokal).

  +------------------+                 +---------------------------------------------+
  |  Unitree Go2/G1  | <=============> |            Dimensional OS (Host)            |
  +------------------+   WebRTC/DDS    |  - Robot stack, mapping, planning, agent    |
                                       |  - AR-Bridge (dimos-ar) WebSocket Server    |
                                       +---------------------------------------------+
                                                              ^
                                                              | WebSocket Protocol
                                                              v
                                       +---------------------------------------------+
                                       |               Spectacles Lens               |
                                       |  - AppState UI & Presenters, Hand Input     |
                                       +---------------------------------------------+

1. Optimalisasi Jaringan dan Socket Buffer

Karena aliran data LiDAR dan telemetri robot sangat masif, kernel macOS standar sering kali mengalami bottleneck. Sebelum menjalankan bridge, konfigurasi jaringan lokal harus diubah secara manual untuk meningkatkan ukuran buffer soket:

bash
sudo ../launcher/scripts/configure-system.sh --apply

Langkah ini memperbesar batas buffer soket UDP dan TCP di tingkat kernel, mencegah hilangnya paket data (packet loss) saat LiDAR mengirimkan ribuan koordinat titik (point cloud) per detik ke kacamata.

2. Sinkronisasi Frame Menggunakan AprilTag

Kacamata AR dan robot berada dalam ruang koordinat yang berbeda. Untuk menyatukannya, kacamata mendeteksi AprilTag fisik yang ditempelkan pada robot:

Unitree Go2: Menggunakan satu AprilTag (ID 0, ukuran cetak 100% pada 70 mm) yang diletakkan mendatar di atas punggung robot (18 cm di depan titik pusat robot, 6 cm ke atas, sedikit miring ke belakang).
Unitree G1: Menggunakan dua tag (ID 0 di dada, ID 1 di punggung) untuk deteksi dari dua sisi.

Proses registrasi dilakukan dengan meluncurkan modul koordinasi:

python
import sys
sys.path.insert(0, '.')
from dimos.core.coordination.module_coordinator import ModuleCoordinator
from dimos.ar.blueprints import ar_go2

ModuleCoordinator.build(ar_go2).loop()

Kamera kacamata mendeteksi tag pada jarak 0,5 hingga 1,5 meter. Algoritma di dalam WorldFrameState kemudian menghitung matriks transformasi spasial antara kacamata dan robot. Alignment kasar ini akan terus disempurnakan seiring pergerakan robot dan banyaknya data observasi AprilTag baru yang ditangkap oleh kamera.

3. Mengatasi Pose Drift

Salah satu masalah terbesar dalam robotika fisik adalah odometry drift. Unitree Go2 mengestimasi posisinya dengan mengakumulasikan jarak tempuh roda/kaki. Akumulasi error ini menyebabkan indikator visual robot (RobotMarker) di layar kacamata tertinggal atau bergeser sekitar 25 cm setiap jarak tempuh 5 meter.

Bridge mengatasi masalah ini dengan melakukan koreksi dinamis. Setiap kali kamera Spectacles menangkap AprilTag, sistem akan membandingkan posisi tag aktual di dunia nyata dengan posisi koordinat yang dilaporkan oleh robot. Selisih posisi tersebut digunakan untuk memperbarui matriks transformasi pada koordinat dunia (world frame).

4. Manajemen Beban LiDAR dan Agent Mode

LiDAR memakan banyak daya komputasi. Wrist menu pada Spectacles (diaktifkan dengan menghadapkan telapak tangan kiri ke atas) menyediakan tiga opsi filter LiDAR:

Off: Mematikan visualisasi point cloud sepenuhnya.
Obstacles Only: Menyaring point cloud di sisi bridge untuk hanya menampilkan rintangan dekat, menghemat baterai dan mencegah kacamata cepat panas.
Full Point Cloud: Merender seluruh data ruang tanpa filter, sangat berat dan berisiko menyebabkan thermal throttling pada kacamata.

Dalam Agent Mode, perintah suara pengguna yang ditangkap oleh kacamata dikirim ke mesin host untuk diproses oleh GPT-4o menggunakan API Key yang dikonfigurasi melalui:

bash
export OPENAI_API_KEY="your-api-key"

LLM ini memiliki akses ke berbagai fungsi robot terintegrasi, seperti:

relative_move: Menggerakkan atau memutar robot secara relatif.
navigate_to_user: Mendekati lokasi pengguna berdasarkan pelacakan pose kacamata.
get_user_pose: Mengambil posisi spasial dan arah hadap pengguna.

Pertarungan Edge Compute: AMD Ryzen AI Halo vs NVIDIA DGX Spark

Workload robotika spasial, kompilasi kode sistem, dan inferensi model lokal membutuhkan mesin host yang tangguh. Di sinilah AMD Ryzen AI Halo menantang standar industri yang dipegang oleh NVIDIA DGX Spark.

Spesifikasi Teknis Utama

Fitur / Spesifikasi	AMD Ryzen AI Halo	NVIDIA DGX Spark (Founders Edition)	Mac Studio M5 Ultra (Sebagai Pembanding)
Processor / APU	Ryzen AI Max+ 395 (16 Cores / 32 Threads, Zen 5)	Grace Blackwell Superchip (Desktop Box 1-Liter)	M5 Ultra (CPU/GPU terintegrasi)
Graphics	Radeon 8060S (40 RDNA 3.5 CUs)	Blackwell GPU (5th Gen Tensor Cores)	Apple Silicon GPU
Unified Memory	128GB LPDDR5x-8000	128GB LPDDR5X	Up to 512GB
Memory Bandwidth	256 GB/s	273 GB/s	1.2 TB/s
Storage Expansion	1 x M.2 2280 (Support up to 8TB, Gen4 speed)	1 x M.2 2242	Proprietary
Networking	1 x 10GbE	1 x 200Gbps ConnectX-7	10GbE
Operating System	Windows 11 / AMD Linux Image	Linux-based DGX OS	macOS
Harga Base Unit	$3,999 (termasuk 2TB SSD)	$4,699	Bervariasi

Analisis Performa dan Hasil Pengujian

Kami menguji kedua mesin ini menggunakan skenario dunia nyata untuk melihat seberapa tangguh mereka menangani kompilasi sistem robotika dan inferensi model AI secara lokal.

1. Kompilasi Kode dan Integer Workloads (Phoronix Test Suite)

Dalam pengujian kompilasi sistem (seperti LLVM) dan tugas-tugas berbasis CPU murni, arsitektur x86 "Zen 5" pada AMD Ryzen AI Halo mengungguli DGX Spark secara telak.

Pengujian Kompilasi LLVM (Waktu penyelesaian dalam Detik - Lebih Cepat Lebih Baik)
AMD Ryzen AI Halo : [=============] 14% Lebih Cepat
NVIDIA DGX Spark  : [===============] Baseline

Pada uji kompresi 7-Zip, AMD Ryzen AI Halo mencatatkan angka 184,2 GIPS. Halo mengompresi 11% lebih cepat dan melakukan dekompresi 38% lebih cepat daripada DGX Spark di lingkungan Linux. Ini membuktikan bahwa untuk skenario pengembangan aplikasi robotika tradisional (misalnya melakukan rebuild repositori C++ seperti dimos), Halo adalah mesin yang jauh lebih responsif.

2. Inferensi vLLM Lokal (Large Language Model)

Ketika fokus dialihkan ke penyajian model bahasa lokal (vLLM serving), keunggulan bergeser secara drastis ke NVIDIA berkat Tensor Cores dan ekosistem CUDA. Kami menjalankan benchmark pada beberapa model populer:

A. GPT OSS 120B (MXFP4)

Equal ISL/OSL (256/256): AMD Halo mencapai throughput sebesar 222 tokens/sec pada batch size 64. DGX Spark mendominasi dengan 701 tokens/sec (3,2x lebih cepat).
Prefill Heavy (8k/1k): Ini adalah kelemahan terbesar Halo. Kecepatan prefill Halo menurun di batch size tinggi (hanya 314 tokens/sec pada batch 64), sementara DGX Spark melejit hingga 2.760 tokens/sec (8,8x lebih cepat). Keunggulan komputasi Blackwell Tensor Cores sangat krusial saat memproses konteks input yang panjang.

B. Llama 3.1 8B Instruct (FP4)

Pengujian FP4 menunjukkan jurang pemisah performa yang paling lebar antara keduanya. DGX Spark mencapai throughput puncak sebesar 3.573 tokens/sec pada batch size 64, sementara AMD Halo tertahan di angka 267 tokens/sec (Spark unggul hingga 13,4x). Hal ini disebabkan oleh optimalisasi kernel FP4 tingkat rendah milik NVIDIA yang belum tersaji secara matang pada tumpukan ROCm milik AMD.

Meskipun demikian, jika kita membandingkannya dengan Mac Studio M5 Ultra yang memiliki bandwidth memori sebesar 1.2 TB/s, DGX Spark menghadapi masalah serius dalam kecepatan generasi token tunggal (single-user decode). Sebagai contoh, saat memuat model besar seperti Llama 3.1 70B dalam format FP8, Spark mampu melakukan prefill secepat 803 tokens/sec, namun kecepatan decode-nya merosot hingga 2.7 tokens/sec akibat keterbatasan bandwidth memori yang hanya sebesar 273 GB/s. Dalam skenario ini, Mac Studio M5 Ultra (khususnya varian 256GB atau 512GB) merupakan pilihan terbaik untuk inferensi model berukuran raksasa secara interaktif oleh satu pengguna.

3. Pengujian Subsistem Penyimpanan (FIO Benchmark)

Meskipun kedua platform menyertakan SSD PCIe Gen5, arsitektur internal AMD Ryzen AI Halo membatasi kecepatan link slot M.2 miliknya ke tingkat PCIe Gen4. Hal ini sangat memengaruhi pengujian penyimpanan jangka panjang menggunakan FIO.

FIO Sequential Read (128K, IODepth 64/1)
NVIDIA DGX Spark  : [====================================] 13,399.6 MB/s (0.597 ms latency)
AMD Ryzen AI Halo : [==================] 6,897.5 MB/s (1.159 ms latency)

Pada penulisan acak (Random 4K Write) dengan antrean padat, keunggulan Spark semakin mutlak:

FIO Random 4K Write Peak IOPS (Saturasi Maksimal)
NVIDIA DGX Spark  : [====================================] 490.4K IOPS
AMD Ryzen AI Halo : [========] 125.6K IOPS

Namun, AMD Ryzen AI Halo memiliki satu keunggulan unik: latensi ultra-rendah pada queue depth rendah. Pada skenario Random Read 64K dengan kedalaman antrean minimal (QD 1/1), Halo merespons dalam waktu hanya 0,051 ms, jauh lebih cepat dibandingkan DGX Spark yang membutuhkan waktu 0,275 ms. Halo sangat lincah untuk tugas-tugas penyimpanan interaktif berukuran kecil, tetapi performanya tidak stabil dan mengalami thermal throttling/peningkatan latensi yang tajam saat antrean mulai penuh.

Kesimpulan Praktis: Sistem Mana yang Harus Anda Pilih?

Memilih antara ekosistem pengujian fisik, AMD Ryzen AI Halo, atau NVIDIA DGX Spark bergantung sepenuhnya pada prioritas alur kerja tim pengembang Anda.

Pilih AMD Ryzen AI Halo Jika:

Menginginkan Mesin Hybrid: Anda membutuhkan workstation x86 ringkas yang mendukung dual-boot Windows 11 dan Linux tanpa perlu melakukan tuning alokasi memori secara manual berkat fitur Variable Graphics Memory (VGM) bawaan.
Kemudahan Upgrade Fisik: Anda ingin menggunakan SSD standar M.2 2280 berkapasitas besar (hingga 8TB) untuk menyimpan dataset mentah tanpa pusing mencari form factor 2242 yang langka.
Fokus pada Pengembangan CPU/Kompilasi: Sebagian besar pekerjaan harian Anda adalah melakukan kompilasi kode robotika, manajemen sistem, dan pengujian modul ROS/DDS secara lokal.

Pilih NVIDIA DGX Spark Jika:

Kecepatan Inferensi Adalah Prioritas Utama: Workload Anda berpusat pada pemrosesan model vLLM berskala besar dengan tingkat konkurensi tinggi.
Ekosistem CUDA & TensorRT-LLM: Tim Anda sudah terbiasa dengan fungsionalitas LoRA, QLoRA, dan ingin melakukan pengujian model yang nantinya akan di-deploy ke infrastruktur GPU data center NVIDIA.
Clustering Jaringan Skala Besar: Anda berencana menghubungkan beberapa unit workstation menggunakan kartu jaringan ConnectX-7 berkecepatan 200Gbps untuk komputasi terdistribusi.

References

Tags : LocalAI HardwareBenchmarks Robotics SpatialComputing