Desain Orkestrator Multi-Agent

Prompt latihan

1. Ruang Lingkup, Kebutuhan Fungsional, dan Asumsi Skala

   Mulai dengan membenarkan kebutuhan multi-agent: jelaskan pekerjaan apa yang dipecah, kenapa satu agent dengan tool yang lebih baik tidak cukup, dan bagian mana yang benar-benar bisa paralel. Tetapkan lingkup orkestrator: pemecahan tujuan, delegasi, pemantauan, penggabungan hasil, dan penyerahan ke manusia. Nyatakan non-goal dan asumsi skala: tugas per jam, subtugas per tugas, dan durasi rata-rata subtugas.

2. Kebutuhan Non-Fungsional

   Tetapkan NFR: waktu penyelesaian tugas ujung ke ujung, daya tahan keadaan tugas ketika proses mati di tengah jalan, jaminan pengiriman antrean dan konsekuensinya bagi idempotensi, batas biaya per tugas, serta perilaku ketika sebagian subtugas gagal. Nyatakan juga kapan tugas dianggap gagal total versus dikembalikan sebagai hasil sebagian.

3. Analisis Kuantitatif

   Hitung kapasitas dan biaya: subtugas per detik dari tugas per jam dikali subtugas per tugas, jumlah pekerja yang dibutuhkan dari durasi rata-rata dan konkurensi, kedalaman antrean pada lonjakan, serta biaya token per tugas ketika anggaran diwariskan ke subtugas. Tunjukkan berapa besar biaya tambahan yang muncul dari koordinasi dibanding satu agent tunggal.

4. Desain API dan Kontrak Delegasi

   Rancang API orkestrator: kirim tujuan baru, lihat pohon tugas beserta status dan biaya, batalkan tugas beserta seluruh anaknya, setujui langkah yang tertahan, dan ambil hasil termasuk hasil sebagian. Rancang juga kontrak delegasi yang dikirim ke pekerja: tujuan, masukan tersaring, skema keluaran, tool yang diizinkan, dan anggaran langkah, token, serta tenggat.

5. Desain Tingkat Tinggi

   Gambar komponennya: penerima tujuan, supervisor, antrean tugas dengan visibility timeout, kolam pekerja agent, registry tugas persisten, penggabung hasil, antrean persetujuan manusia, dan dead letter queue. Tunjukkan jalur satu tugas dari tujuan masuk sampai hasil akhir, termasuk apa yang terjadi ketika sebuah pekerja mati di tengah eksekusi.

6. Pertanyaan Lanjutan Desain Tingkat Tinggi

   Jawab tiga hal. Pertama, bagaimana Anda mencegah ledakan biaya ketika supervisor boleh membuat subtugas baru: batas kedalaman, batas jumlah anak, dan pewarisan anggaran. Ketiga hal itu jelaskan angkanya. Kedua, bagaimana pembatalan satu tugas induk menghentikan seluruh anak yang sedang berjalan. Ketiga, bagaimana hasil sebagian disajikan ke pengguna tanpa membuatnya terlihat seperti hasil lengkap.

7. Deep Dive Pemulihan Kegagalan

   Rancang pemulihan untuk lima kegagalan: penyedia model mengembalikan 429 dan 500 beruntun, pekerja mati setelah menjalankan tool yang mengubah keadaan, agent berputar tanpa kemajuan, keluaran tidak sesuai skema, dan tugas menunggu persetujuan manusia yang tidak pernah datang. Untuk masing-masing sebutkan deteksi, tindakan, dan bagaimana keadaan tugas berubah di registry.

8. Kesiapan Serah Terima Final Review

   Tutup desain: sebutkan alasan multi-agent, pola orkestrasi yang dipilih, cara keadaan tugas bertahan, batas biaya dan kedalaman, titik persetujuan manusia, dua risiko terbuka, dan rencana peluncuran dari satu agent tunggal menuju fan-out terbatas.

Preview solusi

Jalur referensi Solusi Orkestrator Multi-Agent adalah materi baca read-only. Pakai untuk membandingkan desain Anda sebelum latihan atau sesudahnya. Buktikan dulu bahwa satu agent tidak cukup. Jawaban yang paling sering benar adalah satu agent dengan tool yang lebih baik. Pakai alat sistem terdistribusi: antrean dengan visibility timeout, pekerja idempoten, r…