ChatGPT’nin kurucu ortağından Jev: Metin yerine karar üreten yeni yapay zeka

TypeSafe AI, iki yıllık gizli geliştirme sürecinin ardından, ilk "Sistem Bir Modeli" olan Jev'i piyasaya sürdü. Bu yapay zeka türü, metin üretimini tamamen terk ederek, büyük dil modellerine kıyasla çok daha düşük maliyet ve gecikme süresiyle yapılandırılmış kararlar döndürmeye odaklanıyor. San Francisco merkezli şirket, DCVC liderliğinde 40 milyon dolarlık bir tohum yatırım turunu tamamladığını da duyurdu.stackfutures

Yapay Zekaya Farklı Bir Yaklaşım

Jev metin üretmez. Bunun yerine, doğal dil veya yapılandırılmış girdileri alır ve her biri kalibre edilmiş güven değerleriyle desteklenen seçimler, puanlar veya evet/hayır olasılıkları gibi tipize edilmiş çıktılar döndürür. Model, bu kararları sıralı token üretimi yerine paralel olarak işler; TypeSafe, hız avantajının temelinde bunun yattığını belirtiyor.typesafe+1

Şirket, Jev'in benzer yapılandırılmış görevlerde mevcut LLM'lerden 20 ila 200 kat daha hızlı ve 40 ila 400 kat daha ucuz olduğunu iddia ediyor. Giriş token'larının milyon başına 0.042 dolar olarak fiyatlandırıldığı sistemde, autoregresif üretim olmadığı için çıkış token'ları pratikte ücretsizdir. TypeSafe, hızda 193.6 kata varan artış ve maliyette 444.6 kata varan düşüş gibi benchmark verileri raporlarken, bunların beklenen gerçek dünya performansının üst sınırlarını temsil ettiğini kabul ediyor.explainx+2

TypeSafe'in "Kalibre Edilmiş Kararlar için Pekiştirmeli Öğrenme" (RLCD) olarak adlandırdığı temel eğitim yöntemi, insan tercihlerinden ziyade epistemik olarak dürüst olasılık tahminlerini optimize ediyor. OpenAI'da InstructGPT ve ChatGPT'nin arkasındaki insan geri bildirimli pekiştirmeli öğrenme tekniklerine katkıda bulunan kurucu Diogo Almeida, modelin arayüzünü "girişte yapılandırılmamış durum, çıkışta tipize edilmiş olasılıksal kararlar" olarak tanımlıyor.stackfutures

Yetenekler ve Kısıtlamalar

Jev'in çıktısı üç temel öğeyle sınırlıdır: 255 önceden tanımlanmış seçenek arasından bir seçim, sayısal bir puan veya ikili bir olasılık. Model metin yazamaz, kod üretemez veya mantığını açıklayamaz. TypeSafe bunu, Daniel Kahneman'ın hızlı ve sezgisel "Sistem 1" düşünme biçimi ile daha yavaş ve bilinçli "Sistem 2" muhakemesi arasındaki ayrımdan yola çıkarak bilinçli bir ödünleşim olarak tanımlıyor.explainx+1

Gerçek zamanlı karar verme yeteneğini göstermek için şirket, Jev'in saniyede yaklaşık 10 çağrıyla DOOM oynadığı ve oyun saati başına yaklaşık 7 dolara mal olduğu bir video yayınladı. Wikipedia bağlantı navigasyonu benchmark testinde Jev, yüksek hızlı modda çalışan birçok öncü modeli geride bıraktı.gigazine

Erken Erişim ve Açık Sorular

Jev şu anda TypeSafe'in geliştirici platformundaki bir bekleme listesi aracılığıyla erişilebilir durumda ve dokümantasyon docs.typesafe.ai adresinde yayınlanmış durumda. Şirketin kendi iddialarının yanı sıra bağımsız benchmark sonuçları henüz yayınlanmadı ve model şu an sadece metin girdisi kabul ediyor; görsel işleme özelliği bulunmuyor. Jev'in yapılandırılmış karar verme yaklaşımının, giderek daha yetenekli hale gelen genel amaçlı LLM'lerin yanında kalıcı bir yer edinip edinemeyeceği, şirketin piyasaya girişiyle birlikte karşılaştığı temel soru olmaya devam ediyor.typesafe+2