Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
All voices matter
OpenAI, çıkarım maliyetlerini yarıya indiren bir optimizasyon buldu
- OpenAI mühendisleri, etkilenen modeller için çıkarım maliyetlerini yarıdan fazla azaltan ve oturum açmamış ChatGPT trafiği için gereken GPU ihtiyacını sadece birkaç yüze indiren bir optimizasyon geliştirdi; The Information'a göre.
digg+1 - Yöntem, yeni donanım gerektirmek yerine mevcut sunucu altyapısının kullanımını iyileştiriyor ve OpenAI'ın sadece 2026'nın ilk çeyreğinde 3,7 milyar dolar harcadığı bir dönemde geliyor.
facebook+1 - OpenAI resmi bir açıklama yapmadı; bu atılım, geçen hafta tanıtılan ve Broadcom ile ortaklaşa geliştirilen yeni Jalapeño çıkarım çipini tamamlıyor.
finance.biggo+1
The Information'ın haberine göre, OpenAI mühendisleri bu ayın başlarında, uygulandığı modeller için çıkarım maliyetlerini yarıdan fazla azaltan bir optimizasyon geliştirdi. Ek donanım dağıtmak yerine mevcut sunucu kaynaklarından daha fazla verimlilik elde etmeye dayanan bu atılım, büyük dil modellerini ölçekli olarak çalıştırmanın ekonomisinde önemli bir ilerlemeye işaret ediyor.digg+1
Donanımsal Değil, Yazılımsal Bir Çözüm
Optimizasyon, oturum açmamış ChatGPT trafiğine uygulandıktan sonra, bu trafiği desteklemek için gereken GPU sayısı sadece birkaç yüze düştü, Pazartesi günü ortaya çıkan haberlere göre. OpenAI'ın mühendislik ekibi, dahili olarak meslektaşlarını yöntemin öncelikle mevcut sunucu altyapısının kullanım verimliliğini artırdığı konusunda bilgilendirdi. Şirket, bu gelişme hakkında kamuoyuna bir açıklama yapmadı.odaily+2
Maliyet düşüşü, OpenAI'ın artan hesaplama giderleriyle karşı karşıya olduğu bir dönemde gerçekleşiyor. The Information'a göre şirket, sadece 2026'nın ilk çeyreğinde, bu dönemdeki 5,7 milyar dolarlık gelirinin yarısından fazlası olan 3,7 milyar dolar harcadı. OpenAI paralel olarak donanım çözümleri de arıyor; şirket geçen hafta, Broadcom ile ortaklaşa geliştirilen ve dil modeli uygulamaları için watt başına daha iyi performans sunmak üzere tasarlanan ilk özel çıkarım çipi Jalapeño'yu tanıttı.techcrunch+2
Sektör Genelinde Bir Yarış
Bu optimizasyon, yapay zeka şirketleri arasında modelleri kullanıcılara sunma maliyetini düşürmek için verilen daha geniş bir rekabetin parçası. Anthropic, Google Alphabet Inc. ve Broadcom'dan gelecek nesil TPU kapasitesinin birkaç gigavatı için anlaşmalar imzaladı ve bu kapasitenin gelecek yıldan itibaren devreye girmesi bekleniyor. Anthropic ayrıca, Londra merkezli startup Fractile ile özel çıkarım çipleri satın alma konusunda ilk görüşmeleri yaptı, ancak bunların ticari olarak 2027 civarına kadar kullanıma sunulması beklenmiyor.reddit+2
Çıkarım maliyetlerini düşürme yarışı, kurumsal yapay zeka bütçelerinin artık çıkarım harcamaları tarafından domine edildiği sektör genelinde merkezi bir endişe haline geldi. 2026 yılında 17 milyar dolar nakit tüketmesi öngörülen OpenAI için, yüz milyonlarca kullanıcısına hizmet verme maliyetini yarıya indiren herhangi bir yöntem, kârlılığa giden yolunu önemli ölçüde değiştirebilir.economist+1
Sources (27)
- 1 OpenAI Optimization Halves Inference Costs For Logged-Out ... - Digg digg.com
- 2 OpenAI reportedly discovered a new optimization method that could ... www.odaily.news
- 3 OpenAI burned through $3.7 billion in Q1 2026 alone, more than ... www.facebook.com
- 4 OpenAI Insiders Reveal New Solution That Could Halve Model ... finance.biggo.com
- 5 OpenAI unveils its first custom chip, built by Broadcom | TechCrunch techcrunch.com
- 6 OpenAI, Broadcom Develop Custom Chip for AI Inference - WSJ www.wsj.com
- 7 Anthropic in chips deals with Google and Broadcom worth ... - Reddit www.reddit.com
- 8 Anthropic expands partnership with Google and Broadcom for ... www.anthropic.com
- 9 Anthropic in talks to buy Fractile inference chips for AI efficiency www.linkedin.com
- 10 OpenAI faces a make-or-break year in 2026 - The Economist www.economist.com
- 11 AI Inference Cost Economics in 2026: GPU FinOps Playbook www.spheron.network
- 12 OpenAI cuts inference costs in half with new optimization technique cryptobriefing.com
- 13 OpenAI and Broadcom unveil LLM-optimized inference chip openai.com
- 14 How AI Is Driving Revenue, Cutting Costs and Boosting Productivity ... blogs.nvidia.com
- 15 OpenAI Is at Risk of Losing Developers community.openai.com
- 16 AI Inference Cost Crisis 2026: Why Your AI Bill Is Exploding - Oplexa oplexa.com
- 17 AI inference costs are going to be a big concern: What's the fix? www.linkedin.com
- 18 Youth China - Facebook www.facebook.com
- 19 AI Cost Statistics 2026: Forecasting, ROI, and Budget Risk - Mavvrik: AI www.mavvrik.ai
- 20 OpenAI's first Intelligence Processor: an accelerator architected ... www.instagram.com
- 21 OpenAI Cuts Inference Costs by 50% with New Optimization ... www.kucoin.com
- 22 Facing $14B losses in 2026, OpenAI is now seeking $100B in ... www.rdworldonline.com
- 23 Optimizing LLM Inference for the Rest of Us - Abdel Sghiouar, Google www.youtube.com
- 24 Google debuts AI chips with 4X performance boost ... - VentureBeat venturebeat.com
- 25 Why Inference Chips Are on the Rise - Futuriom www.futuriom.com
- 26 June 8 2026: OpenAI announces their plans to go public - Instagram www.instagram.com
- 27 Expanding our use of Google Cloud TPUs and Services - Anthropic www.anthropic.com
