Apa yang dibangun tim dengan web search API untuk AI agent?

Apa kesamaan dari keempat pekerjaan ini?

Masing-masing membutuhkan kata-kata di halaman, bukan sekadar daftar tautan. Cuplikan sepanjang 160 karakter jarang memuat angka, tanggal, atau syarat yang harus dikutip oleh model. Jadi sebagian besar stack akhirnya memakai dua layanan: sebuah API pencarian untuk menemukan URL dan sebuah reader untuk mengambilnya.

LLMWebSearch menggabungkan kedua langkah itu. Satu panggilan menjalankan pencarian web langsung dan membaca halaman-halaman pertama yang ditemukannya. Setiap hasil membawa posisi, judul, URL, host, snippet, dan saat dibaca, konten utama halaman sebagai Markdown atau teks biasa beserta jumlah kata dan tanggal publikasinya jika diketahui. Agen mendapatkan teks yang bisa dikutipnya dalam satu round trip yang sama, dan Anda hanya menerima satu tagihan.

Kebutuhan lain yang sama-sama dimiliki adalah kontrol. Anda menentukan berapa banyak hasil yang dikembalikan (max_results), berapa banyak halaman yang dibaca (read), dan berapa panjang maksimum setiap halaman (max_chars). Ketiga angka itu menentukan biaya token di sisi model Anda sekaligus biaya kredit di sisi kami.

Setelan mana yang cocok untuk tiap use case?

Mulailah dari default dan ubah satu hal dalam satu waktu.

• Agent tool. Pertahankan max_results=5 dan read=3, dan batasi halaman di 3.000 hingga 5.000 karakter. Agen sering memanggil tool ini, jadi jawaban yang singkat menjaga konteks tetap bersih.
• Riset mendalam. Banyak pencarian kecil lebih baik daripada sedikit pencarian besar. Gunakan read=3 per kueri dan jalankan lebih banyak kueri. Naikkan read hanya jika satu kueri harus membahas subjek yang sempit secara mendalam.
• RAG. Minta halaman yang lebih panjang (max_chars sekitar 12.000) dan potong sendiri menjadi chunk. Tambahkan include_domains jika jawaban harus berasal dari sumber yang diketahui.
• Pemantauan berita. Setel topic=news dan time_range=day, lalu hapus URL yang sudah pernah Anda lihat. Baca tiga artikel per kueri untuk merangkum apa yang berubah.

Semua filter tercantum di referensi pencarian.

Bagaimana cara menentukan ukuran pack pertama?

Kalikan tugas per hari dengan pencarian per tugas, lalu dengan 30. Sebuah asisten yang menjawab 100 pertanyaan sehari dengan 4 pencarian per pertanyaan membutuhkan sekitar 12.000 pencarian sebulan. Itu muat dalam 25.000 pencarian dengan sisa ruang untuk bulan kedua.

Kredit tidak hangus di akhir siklus penagihan. Kredit pencarian tidak memiliki tanggal kedaluwarsa: yang tidak Anda pakai bulan ini masih ada tahun depan. Pack kecil yang dibeli untuk prototipe tetap bernilai sampai proyeknya berkembang. Panduan biaya membahas tiga kasus yang lebih besar dan membandingkannya dengan API lain serta dengan tool pencarian yang terpasang di dalam model.