Ekipler AI agent'lar için bir web search API'siyle neler inşa ediyor?

Bu dört işin ortak noktası ne?

Her biri sayfadaki sözcüklere ihtiyaç duyar, yalnızca bir bağlantı listesine değil. 160 karakterlik bir snippet, bir modelin alıntılaması gereken rakamı, tarihi veya koşulu nadiren barındırır. Bu yüzden çoğu yığın iki hizmetle sonuçlanır: URL'leri bulmak için bir arama API'si ve bunları getirmek için bir okuyucu.

LLMWebSearch iki adımı birleştirir. Tek bir çağrı canlı bir web araması yürütür ve bulduğu ilk sayfaları okur. Her sonuç konumunu, başlığını, URL'sini, hostunu, snippet'ini ve okunduysa sayfanın ana içeriğini Markdown veya düz metin olarak kelime sayısı ve biliniyorsa yayın tarihiyle birlikte taşır. Agent, aynı gidiş-dönüşte alıntılayabileceği metni alır ve siz tek bir fatura alırsınız.

Diğer ortak ihtiyaç ise kontroldür. Kaç sonuç döneceğine (max_results), kaç sayfanın okunacağına (read) ve her sayfanın ne kadar uzun olabileceğine (max_chars) siz karar verirsiniz. Bu üç sayı, hem modeliniz tarafındaki token maliyetini hem de bizim tarafımızdaki kredi maliyetini belirler.

Her kullanım senaryosuna hangi ayarlar uyar?

Varsayılanlarla başlayın ve her seferinde tek bir şeyi değiştirin.

• Agent aracı. max_results=5 ve read=3 değerlerini koruyun ve sayfaları 3.000 ila 5.000 karakterle sınırlayın. Agent'lar aracı sık çağırır, bu yüzden kısa yanıtlar bağlamı temiz tutar.
• Derin araştırma. Çok sayıda küçük arama, birkaç büyük aramadan daha iyidir. Sorgu başına read=3 kullanın ve daha fazla sorgu çalıştırın. read değerini yalnızca tek bir sorgunun dar bir konuyu derinlemesine kapsaması gerektiğinde artırın.
• RAG. Daha uzun sayfalar isteyin (max_chars yaklaşık 12.000) ve bunları kendiniz parçalara ayırın. Yanıtların bilinen kaynaklardan gelmesi gerektiğinde include_domains ekleyin.
• Haber izleme. topic=news ve time_range=day ayarlayın, ardından daha önce gördüğünüz URL'leri çıkarın. Neyin değiştiğini özetlemek için sorgu başına üç makale okuyun.

Tüm filtreler arama başvurusu içinde listelenmiştir.

İlk paketi nasıl boyutlandırırım?

Günlük görev sayısını görev başına arama sayısıyla, sonra da 30 ile çarpın. Günde 100 soruyu her biri 4 aramayla yanıtlayan bir asistan ayda yaklaşık 12.000 aramaya ihtiyaç duyar. Bu, ikinci bir aya da yer bırakacak şekilde 25.000 arama içine sığar.

Krediler faturalandırma döngüsünün sonunda tükenmez. Arama kredilerinin son kullanma tarihi yoktur: bu ay kullanmadığınız krediler gelecek yıl da orada durur. Bir prototip için satın alınan küçük bir paket, proje büyüyene kadar değerini korur. Maliyet rehberi üç daha büyük vakayı ele alır ve bunları diğer API'lerle ve modellere yerleşik arama araçlarıyla karşılaştırır.