Pernahkah kamu bertanya-tanya bagaimana cara membuat agen AI lebih pintar dan lebih relevan dengan tugas spesifik? Jawabannya ada pada bagaimana kamu mengkoneksikan model tersebut ke "dunia nyata." Di sinilah konsep **harness** menjadi sangat penting. Artikel ini akan membahas **How to Build a Custom Agent Harness** menggunakan LangChain, sebuah kerangka kerja yang sangat membantu.

### Apa Itu Agent Harness?

Bayangkan sebuah model AI sebagai otak yang cerdas. Otak ini perlu terhubung ke tangan, mata, telinga, dan juga lingkungan sekitarnya untuk bisa melakukan sesuatu. Nah, **harness** adalah semacam kerangka atau perancah yang membungkus model tersebut, menjadi jembatan antara model dan dunia nyata. Seberapa baik harness ini sesuai dengan tugas yang diberikan akan menentukan seberapa berguna agen AI tersebut.

Intinya, membangun agen yang berguna sebagian besar bergantung pada bagaimana kita menghubungkan agen tersebut ke konteks, data, dan lingkungan yang tepat untuk tugas yang dihadapi. Sebuah agen, pada dasarnya, adalah sebuah model yang memanggil alat (tools) dalam sebuah siklus (loop) sampai tugas selesai dan mengembalikan hasil.

Agen AI hanya akan sebaik konteks yang kamu berikan kepada modelnya. Tugas utama harness adalah menyediakan konteks tersebut kepada model di setiap langkah. Jadi, untuk membangun agen yang benar-benar berguna, kamu memerlukan harness yang sangat baik dalam menyampaikan konteks yang tepat kepada model untuk tugas yang diberikan.

### Mengapa Harness Kustom Penting?

LangChain memiliki `AgentExecutor`, sebuah primitif untuk membangun harness. Cukup dengan memberinya model, tools, dan system prompt, kamu sudah memiliki agen yang berfungsi. `AgentExecutor` hadir dengan tumpukan middleware siap pakai yang sudah diatur (seperti manajemen memori, konteks, sandboxing, dan lainnya). Ini dirancang untuk membuat agen produksi kamu siap dengan cepat dan bekerja dengan baik untuk sebagian besar kasus.

Namun, banyak agen memerlukan penyesuaian yang lebih detail dari yang bisa didukung oleh harness ini. Misalnya, kamu mungkin butuh *custom prompting*, *business logic* tertentu, atau *guardrails* yang ketat. Di sinilah `langchain.runnable.Agent` mengambil pendekatan yang berbeda. Ini adalah pendekatan yang minimalis, mirip dengan filosofi OpenDevin. Ia hanya mengimplementasikan loop inti agen dan mengekspos **middleware** sebagai primitif untuk penyesuaian.

### Memahami Middleware

**Middleware** adalah kunci untuk menyesuaikan harness kamu. Ini bekerja dengan menyisipkan "hook" ke dalam loop agen di setiap langkah, yaitu sebelum dan sesudah panggilan model, sebelum dan sesudah panggilan *tool*, serta saat agen dimulai dan diakhiri. Setiap bagian middleware menangani satu kekhawatiran spesifik dan bisa digabungkan secara bebas dengan middleware lainnya.

Middleware memungkinkan kamu menambahkan penyesuaian ke agen melalui beberapa cara yang seringkali bekerja bersama:

*   **Logika Kustom (Custom Logic)**: Ini adalah tempat untuk *business logic*, penegakan kebijakan, kontrol agen dinamis, atau apa pun yang perlu dieksekusi pada titik tertentu dalam loop. Ini mencakup kontrol saat runtime atas agen itu sendiri, seperti mengganti model berdasarkan kompleksitas tugas, menyesuaikan *prompt*, dan memperbarui riwayat pesan agen. Ini ideal untuk hal-hal yang tidak dapat atau tidak seharusnya berada di dalam *prompt*.
*   **Tools Dinamis (Dynamic Tools)**: Daripada mendaftarkan *tools* secara langsung pada agen, middleware dapat menangani seluruh siklus hidup *tools* (pengaturan, pembongkaran, pendaftaran), dan memberikan agen satu set *tools* yang bersih untuk bekerja. Ini penting ketika *tools* memiliki dependensi, memerlukan inisialisasi, atau perlu diakhiri dengan bersih di akhir proses. Ini juga menjaga konfigurasi *tools* dekat dengan logika yang mengaturnya.
*   **State yang Diperluas (Extended State)**: Jika middleware kamu perlu melacak *state* di seluruh *hook*, middleware dapat memperluas *state* agen dengan properti kustom. Ini memungkinkan middleware melacak *state* sepanjang eksekusi (memelihara penghitung, *flag*, atau nilai lain yang bertahan sepanjang eksekusi agen) dan berbagi data antar *hook*.
*   **Intersepsi Aliran Output (Output Stream Interception)**: Middleware dapat mencegat dan mengubah aliran output agen. Ini bisa berupa memfilter *event*, menyuntikkan *metadata*, atau merutekan berbagai jenis *event* ke konsumen yang berbeda. Ini berguna ketika berbagai bagian dari *stack* kamu perlu bereaksi terhadap hal-hal berbeda yang dilakukan agen. Misalnya, UI yang mengonsumsi *token deltas*, log audit yang menangkap panggilan *tool*, atau sistem pemantauan yang melacak latensi.

Keindahan middleware adalah ia memungkinkan penyesuaian di setiap titik dalam loop agen, menggabungkan logika terkait dalam unit kode yang dapat disusun dan dibagikan. LangChain menyediakan banyak middleware siap pakai untuk pola umum. Apa pun yang khusus untuk kasus penggunaan kamu hanya berjarak satu `Middleware` saja. Karena setiap bagian terisolasi, middleware yang sama dapat digunakan kembali di setiap agen dalam organisasi, sehingga agen baru mewarisi perilaku yang sudah teruji tanpa perlu membangunnya dari awal lagi.

Tugas utama harness adalah memberikan konteks yang tepat kepada model pada waktu yang tepat untuk tugas yang diberikan. Tabel di bawah ini memetakan kemampuan umum ke middleware yang mendukungnya:

| Kemampuan Umum         | Middleware yang Mendukung                                  |
| :--------------------- | :--------------------------------------------------------- |
| Observability          | Event Streaming                                            |
| Caching                | Caching                                                    |
| User Feedback          | Human in the Loop                                          |
| Guardrails             | Custom Logic                                               |
| Cost Optimization      | Custom Logic, Event Streaming                              |
| Logging & Auditing     | Event Streaming                                            |
| State Management       | Extended State                                             |
| Tool Discovery & Routing | Dynamic Tools                                              |
| Advanced Memory        | Custom Logic                                               |
| Custom Prompting       | Custom Logic                                               |
| Runtime Control        | Custom Logic                                               |

### Pentingnya 'Task-Harness Fit'

**Task-harness fit** adalah seberapa baik harness kamu cocok dengan tuntutan tugas yang sebenarnya. Ini meliputi konteks yang dibutuhkan, kegagalan yang mungkin terjadi, kebijakan yang harus ditegakkan, dan lingkungan operasinya. Sebuah harness untuk agen layanan pelanggan akan terlihat sangat berbeda dari yang dibangun untuk agen pengkodean yang berjalan lama.

Setiap agen yang LangChain bangun, termasuk `AgentExecutors` mereka, dirancang dengan tumpukan middleware yang disesuaikan dengan misi agen tersebut. Agen terbaik tidak hanya dibangun dengan model yang cakap, tetapi juga dengan harness yang sangat pas dengan tugasnya. Cara termudah untuk membangun harness kustom adalah dengan `langchain.runnable.Agent`.

LangSmith, platform *agent engineering* dari LangChain, juga membantu para pengembang untuk men-debug setiap keputusan agen, mengevaluasi perubahan, dan menerapkan *deployment* hanya dengan satu klik.

## Referensi
*   https://www.langchain.com/blog/how-to-build-a-custom-agent-harness

Pelajari cara membuat custom agent harness dengan LangChain, komponen penting yang menghubungkan model ke dunia nyata dan memastikan agen AI berfungsi optimal untuk tugas spesifik.

Membangun Agent Harness Kustom yang Fleksibel dengan LangChain

Reggi

Membangun aplikasi agentik atau fitur AI yang siap produksi itu tidak mudah. Hanya mengandalkan model canggih atau prompt yang bagus saja tidak cukup. Anda pasti membutuhkan keandalan maksimal, persetujuan manusia sebelum eksekusi berbahaya, serta kemampuan observasi di setiap lapisan. Di sinilah **Genkit Middleware: Intercept, Extend, and Harden Your Agentic Apps** hadir sebagai solusi kunci.

Genkit adalah sebuah framework *open-source* yang dirancang untuk membantu Anda menciptakan aplikasi agentik yang tangguh. Framework ini mendukung banyak bahasa pemrograman, seperti TypeScript, Go, Dart, dan Python. Sistem middleware-nya sendiri sudah tersedia di TypeScript, Go, dan Dart, sementara dukungan untuk Python akan segera menyusul.

### Apa Itu Genkit dan Kenapa Kita Butuh Middleware?

Pada dasarnya, setiap panggilan `generate` di Genkit menjalankan sebuah **generation loop**. Dalam loop ini, model menghasilkan output, alat-alat yang diminta akan dieksekusi, hasilnya kembali masuk ke panggilan model baru, dan siklus ini berulang sampai model selesai.

Untuk membuat aplikasi agentik yang andal di dunia nyata, kita perlu menambahkan beberapa "lapisan pelindung" ekstra. Misalnya, apa yang terjadi jika panggilan API model Anda gagal? Bagaimana jika model mencoba melakukan tindakan yang bisa merusak? Middleware hadir untuk menjawab tantangan-tantangan ini.

Middleware Genkit adalah *hook* yang dapat disusun. *Hook* ini akan mencegat panggilan `generate`, termasuk loop eksekusi *tool*, lalu menyuntikkan perilaku kustom ke dalamnya. Anda bisa melampirkan *hook* middleware pada tiga lapisan loop ini:

*   **Pre-call**: Sebelum panggilan model utama.
*   **Post-call**: Setelah panggilan model selesai.
*   **Tool-call**: Saat alat-alat dieksekusi.

### Middleware Bawaan: Solusi Siap Pakai

Genkit menyediakan beberapa middleware bawaan yang bisa langsung Anda pakai untuk skenario umum. Ini sangat menghemat waktu pengembangan:

| Nama Middleware                 | Fungsi Utama                                | Detail                                                                                                                                                                                                                          |
| :------------------------------ | :------------------------------------------ | :---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- |
| **Retry**                       | Mengulang panggilan API model yang gagal.   | Secara otomatis mencoba kembali panggilan API model yang gagal karena kesalahan transien (misalnya, HTTP 429 atau 500) dengan *exponential backoff* dan *jitter*. Hanya panggilan model yang diulang.                     |
| **Fallback**                    | Beralih ke model alternatif.                | Mengganti ke model lain jika model utama gagal pada kode kesalahan tertentu. Berguna untuk beralih penyedia jika model utama Anda melebihi kuota.                                                                      |
| **Human-in-the-loop (Allow-list)** | Membatasi eksekusi tool.                    | Membatasi eksekusi tool pada daftar yang diizinkan saja. Tool yang tidak ada dalam daftar akan memicu interupsi, sehingga perlu konfirmasi manual sebelum tindakan dilanjutkan.                                     |
| **Skills**                      | Memuat "skill" atau kemampuan model.        | Memindai direktori untuk file `.skill` dan menyuntikkan kontennya ke *system prompt*. Juga menyediakan *tool* `loadSkill` agar model bisa memuat *skill* tertentu sesuai kebutuhan.                                  |
| **Filesystem (LocalFS)**        | Memberi model akses terbatas ke filesystem. | Memberi model akses terbatas ke sistem file lokal melalui *tool* yang disuntikkan (misalnya, `read` dan `write` jika diaktifkan). Keamanan path diterapkan sehingga model tidak bisa keluar dari direktori root yang ditentukan. |

### Membangun Middleware Kustom Anda Sendiri

Meskipun middleware bawaan sangat berguna, kekuatan Genkit yang sebenarnya ada pada kemampuan Anda untuk menulis middleware kustom. Bayangkan Anda sedang membuat aplikasi dukungan pelanggan agentik dan perlu memastikan model tidak pernah menyebutkan produk pesaing atau data harga internal. Daripada menulis aturan ini di setiap *prompt*, Anda bisa menerapkannya secara deterministik dengan middleware.

Middleware kustom mengikuti kontrak sederhana di semua bahasa yang didukung: Anda memberikan nama dan sebuah *factory function* yang mengembalikan *hook* yang Anda inginkan. *Factory function* ini dipanggil sekali per pemanggilan `generate`, dan Anda hanya perlu mengimplementasikan *hook* yang Anda butuhkan.

Berikut contoh sederhana kode *content filter* kustom yang mungkin Anda buat:

```jsx
import { Middleware, preCall } from '@genkit-ai/core';

export const myContentFilter: Middleware = {
  name: 'my-content-filter',
  factory: () => ({
    preCall: async ({ config, context, input }) => {
      // Logic untuk memeriksa konten input
      if (input.text && input.text.includes('competitor-product')) {
        throw new Error('Mentioning competitor products is not allowed.');
      }
      // Tambahkan logic lain untuk memeriksa data internal, dll.
      return { config, context, input };
    },
    // Anda bisa menambahkan postCall atau toolCall hooks di sini
  }),
};
```

### Kekuatan Komposisi dan Debugging

Anda bahkan dapat menggabungkan dan menumpuk berbagai solusi middleware. Middleware ditumpuk dari kiri ke kanan. Middleware yang pertama kali disebut menjadi pembungkus terluar. Misalnya, `myCustomMiddleware` membungkus `pre-call` yang membungkus panggilan model. Urutan ini penting, dan Genkit membuatnya sangat jelas.

Jika Anda merasa telah membangun middleware yang akan bermanfaat bagi pengembang lain, Anda bisa mempublikasikannya sebagai *package* agar bisa digunakan secara luas.

Genkit juga menyediakan **Dev UI** yang bisa Anda gunakan untuk memeriksa, menguji, dan melakukan debug pada aplikasi Anda, termasuk eksekusi middleware. Saat Anda mendaftarkan middleware, ia akan terlihat di Dev UI. Anda bisa memeriksa konfigurasinya, menelusuri eksekusi melalui setiap lapisan *hook*, dan menguji berbagai kombinasi.

Kami menantikan kemampuan baru yang Genkit middleware hadirkan untuk aplikasi Anda. Kami juga ingin melihat middleware kustom apa yang akan Anda bangun untuk memecahkan masalah spesifik Anda. Jika Anda baru mengenal framework ini, silakan kunjungi dokumentasi Genkit. Jika Anda punya ide untuk middleware bawaan baru, sampaikan ide Anda kepada kami.

## Referensi
https://developers.googleblog.com/announcing-genkit-middleware-intercept-extend-and-harden-your-agentic-apps/

Pelajari bagaimana Genkit Middleware membantu Anda membangun aplikasi agentik yang andal dan aman, dengan kemampuan intersepsi, perluasan, serta pengerasan fitur AI.

Membedah Genkit Middleware: Membuat Aplikasi Agentik Lebih Kuat dan Fleksibel

Solusi praktis integrasi webmail custom ke dalam dashboard Gmail. Kelola, baca, dan kirim email domain pribadi langsung dari satu tempat tanpa ribet gonta-ganti tab.

Mengapa Kamu Masih Buka Dua Tab Terpisah? Panduan Setup Custom Webmail Langsung di Dashboard Gmail

Pelajari efisiensi merakit mesin tetas telur listrik AC otomatis dengan modal murah untuk mendongkrak hasil ternak unggas tanpa repot bolak-balik telur manual.

Otomasi Ternak Unggas: Kenapa Rakit Sendiri Mesin Penetas Telur AC Jauh Lebih Worth It Dibanding Cara Konvensional?

Pelajari bagaimana mesin tetas telur berbasis arus listrik DC bekerja menjaga suhu dan kelembapan ideal untuk mendongkrak keberhasilan penetasan telur unggas.

Mesin Tetas Telur Arus DC: Solusi Hardware Murah Buat Tingkatin Angka Penetasan Unggas

Kupas tuntas seluk-beluk mobil aki anak dengan kontrol ganda dan fitur multimedia. Pahami batas spesifikasi hardware sebelum eksekusi build sendiri.

EV Versi Mini: Membedah Mobil Listrik Aki Lengkap dengan Remote Control dan Fitur Multimedia

Pelajari cara merakit smart power strip berbasis NodeMCU dan Blynk untuk kontrol daya nirkabel serta integrasi IoT yang aman dan efisien.

Mengapa Beli Mahal Kalau Bisa Bikin Sendiri? Rancang Smart Power Strip Berbasis NodeMCU dan Blynk

Solusi tuntas mengatasi bug sistem dan software bermasalah di MacBook dengan panduan install ulang macOS lewat Internet Recovery secara aman.

#middleware

Getting Lastest Post..

Populer Bulan Ini