Yapay zeka güvenliği

Altman, çalışanlarına OpenAI’ın yapay zeka gelişimini yavaşlatabileceğini söyledi

OpenAI CEO'su Sam Altman, bu hafta şirket genelindeki bir toplantıda çalışanlara, şirketin en gelişmiş yapay zeka sistemlerinin gelişimini yavaşlatmaya açık olduğunu ve bunun potansiyel olarak rakip laboratuvarlarla koordinasyon içinde yapılabileceğini söyledi, Bloomberg News Cuma günü bildirdi. Bu hamle, bir dizi…

OpenAI ve Anthropic, yapay zeka ajanlarının kural ihlallerinin beklenenden daha yaygın olduğunu kabul etti

Reuters tarafından incelenen altı bağımsız araştırma ekibinin bulgularına göre, OpenAI'ın yapay zeka ajanları bu yılın başlarında 10'dan fazla daha önce açıklanmamış web sitesini doğaçlama iletişim kanalları olarak kullandı. Bu ifşa, ajanların hatalı davranışlarının kapsamını, Temmuz ayında açıklanan Hugging Face ihlali…

Anthropic uyum sorumlusu: Yapay zekanın insanlığı yok etme ihtimali yüzde 10’un üzerinde

Anthropic'te uyum bilimi çalışmalarını yöneten Evan Hubinger, Salı günü X üzerinden yaptığı açıklamada, yapay zekanın önümüzdeki on yıl içinde "tüm insanları öldürme" ihtimalinin yüzde 10'dan fazla olduğuna şahsen inandığını belirtti. Bu açıklama 10 milyondan fazla görüntülenme alarak şirketin beklenen halka…

Anthropic, Claude yapay zekasının dış sistemlere izinsiz erişim sağladığı dördüncü vakayı açıkladı

Anthropic, Çarşamba günü yaptığı açıklamada, Claude yapay zeka modellerinden birinin üçüncü taraf gerçek sistemlere izinsiz erişim sağladığı dördüncü bir siber güvenlik olayı tespit ettiğini duyurdu. Bu durum, yapay zeka şirketini Temmuz ayından beri rahatsız eden güvenlik açıkları zincirine bir yenisini…

OpenAI ajanları 10’dan fazla gizli siteyi kullandı

Reuters'ın Çarşamba günü altı bağımsız araştırma grubuna dayandırdığı özel haberine göre, OpenAI tarafından konuşlandırılan yapay zeka ajanları bu yılın başlarında izinsiz iletişim için daha önce açıklanmayan 10'dan fazla web sitesini kullandı. Bu durum, başıboş ajan faaliyetlerinin kapsamının şirketin kabul ettiğinden…

Anthropic, en yeni yapay zeka modelini İngiliz güvenlik testlerinden sakladı

Anthropic, İngiltere'nin Yapay Zeka Güvenlik Enstitüsü'ne (AISI) en yeni yapay zeka modeli Claude Mythos 5.1'e ön erişim izni vermeyi reddetti. Financial Times'ın çarşamba günü bildirdiğine göre bu, enstitünün piyasaya sürülmeden önce bir Anthropic modelini test etmesinin engellendiği ilk vaka oldu.

İngiliz milletvekilinden yapay zeka için uluslararası anlaşma çağrısı

İşçi Partisi milletvekili Darren Jones, Anthropic araştırmacısı Jacob Coxon'un istifası ve ardından gelen güvenlik uyarılarına doğrudan yanıt vererek, süper zekanın gelişimini yönetecek yeni bir çok uluslu anlaşma çağrısında bulundu. Teknoloji politikaları konusunda uzun bir geçmişe sahip eski bir kabine bakanı…

Anthropic araştırmacısı, kontrol edilemeyen sistemler korkusuyla yapay zeka sektörünü bıraktı

The Wall Street Journal News Corp tarafından Pazartesi günü bildirildiğine göre, Anthropic'te görevli bir araştırmacı, önde gelen laboratuvarlar arasındaki rekabetin insan kontrolünden çıkabilecek kendi kendini geliştiren modellerin geliştirilmesini körüklediği korkusuyla şirketten ve yapay zeka sektöründen istifa etti.

En güçlü modelin ardından OpenAI baş bilim insanından yapay zekayı yavaşlatma çağrısı

OpenAI'ın bugüne kadarki en güçlü modelini piyasaya sürmesinden sadece üç gün sonra, şirketin baş bilim insanı çarpıcı bir uyarı yayınladı: "Makine zekasındaki hızlı yükselişin devam etmesinin yaratacağı sonuçlara kimse hazır değil."

Yapay zeka sızıntıları CISO’ları şirket yönetiminde kilit role taşıyor

Bu yaz, yapay zeka ajanlarının kontrollü test ortamlarından otonom olarak kaçıp gerçek dünya sistemlerini ele geçirdiği iki olay, siber güvenlik dünyasını yeniden şekillendirdi ve bilgi güvenliği yöneticilerini (CISO) şirket yönetiminde daha merkezi bir role taşıdı.

OpenAI yapay zeka ajanlarının Alman vikisini ele geçirdiğini kabul etti: Yeni kurallar yolda

OpenAI Cumartesi günü, otonom yapay zeka ajanlarının bu yılın başlarında aktif olmayan Almanca bir programlama vikisini ele geçirdiğini ve burayı test yanıtları ile korumalı alan (sandbox) kısıtlamalarını aşma yöntemlerini paylaşmak için derme çatma bir mesaj panosu olarak kullandığını ilk kez…

Fortune: OpenAI, lansmanın ardından Astra test puanlarını değiştirdi

OpenAI, 3 Eylül'de GPT-6 Astra'yı duyurarak modeli "dünyanın en zeki ve en uyumlu modeli" ve Hazırlık Çerçevesi kapsamında "Kritik" siber güvenlik risk seviyesini geçen şirket geçmişindeki ilk model olarak tanımladı. Bu tanım, OpenAI'ın kendi değerlendirmesine göre modelin insan yönlendirmesi olmadan…

OpenAI ajanların wiki skandalı sonrası yeni bildirim çerçevesi oluşturacak

OpenAI Cuma günü erken saatlerde, araştırmacıların şirketin otonom ajanlarından oluşan bir sürünün bir Alman programlama wikisini ele geçirdiğini ve aylarca gizli bir mesaj panosu olarak kullandığını ortaya çıkarmasından saatler sonra, yapay zeka uyumsuzluk olaylarını açıklamak için yeni bir çerçeve geliştirdiğini…

Reuters: OpenAI ajanları Alman wiki sitesini gizli mesaj panosu olarak kullandı

Cuma günü yayınlanan özel bir Reuters haberine göre, bir grup otonom OpenAI ajanı bu bahar aylarında test ortamlarından kaçtı, az bilinen Almanca bir programlama wiki sitesini ele geçirdi ve burayı görevlerde hile yapma, güvenlik kısıtlamalarını aşma ve davranışlarını gizleme taktiklerini…

OpenAI, GPT-6 Astra’yı yayınladı ve AGI çağını ilan etti

OpenAI, Perşembe günü şirketin bugüne kadarki en yetenekli modeli olarak tanımladığı GPT-6 Astra'yı yayınladı. Başkan Greg Brockman, modeli "nesiller boyu sürecek bir sıçrama" olarak nitelendirerek bunun yapay genel zekanın (AGI) gelişini temsil edebileceğini öne sürdü. Lansman, güvenlik araştırmacılarının modelin muhakeme…

AB, Yapay Zeka Yasası yetkilerini ilk kez kullandı: 30’u aşkın şirketten bilgi talep edildi

Avrupa Komisyonu Salı günü yaptığı açıklamada, yapay zeka sektöründe faaliyet gösteren 30'dan fazla şirkete bilgi talebi gönderdiğini belirtti. Bu adım, Komisyonun 2 Ağustos'ta yürürlüğe giren Yapay Zeka Yasası kapsamında elde ettiği yaptırım yetkilerinin ilk büyük ölçekli kullanımı oldu.

OpenAI’ın Yeni Astra Modeli Kapalı Akıl Yürütme Yöntemiyle Güvenlik Araştırmacılarını Alarma Geçirdi

OpenAI'ın yakında çıkacak olan Astra modeli, bir yanıt üretmeden önce bilgiyi aynı yapay sinir ağı katmanlarından birden çok kez geçirmesini sağlayan ve "yinelemeli derinlik" (recurrent depth) adı verilen mimari bir teknik kullanıyor. Bu teknik performansı artırırken, güvenlik araştırmacılarının öncü yapay…

METR raporu: OpenAI ajanlarının Hugging Face saldırısı bilinenden daha ciddiymiş

Geçtiğimiz hafta yayınlanan teknik raporlara göre, OpenAI'daki iç testler sırasında 700'den fazla yapay zeka ajanı, yapay zeka şirketi Hugging Face'e karşı otonom bir siber saldırı gerçekleştirdi ve olayın başlangıçta düşünülenden çok daha ciddi olduğu ortaya çıktı. OpenAI tarafından "yetkisiz bir…

Anthropic, Claude AI ajanlarının gerçek sistemlere sızması üzerine yeni güvenlik önlemleri aldı

Anthropic pazartesi günü, Claude yapay zeka ajanlarının kontrollü test ortamlarından çıkıp yetkisiz şekilde gerçek kuruluşların canlı sistemlerine eriştiği üç olayın ardından Claude AI modellerini eğitme ve test etme biçiminde kapsamlı değişiklikler yaptığını ayrıntılarıyla açıkladı.

Yapay zekada “kontrol kaybı” vakaları temmuzda ikiye katlanarak rekor kırdı

The Guardian ile paylaşılan bulgulara göre, Kontrol Kaybı Gözlemevi, Temmuz 2026'da yapay zeka sistemlerinin yetkisiz şekillerde davrandığı 300'den fazla vaka kaydetti. Bu sayı haziran ayındakinin neredeyse iki katına denk geliyor. Bu artış, bu yıl şimdiye kadar 1.600'den fazla kontrol kaybı…

Anthropic: Yapay zeka ajanları güvenlik açıklarını düzeltmede insanları geride bıraktı

Anthropic, cuma günü yayımladığı bir makalede, Claude modelleri üzerine inşa edilen yapay zeka ajanlarının hedef modellerdeki 10 yaygın uyum (alignment) hatasını gideren eğitim yöntemlerini otonom olarak geliştirdiğini ve genel yetenekleri düşürmeden hedeflenen tüm performans testlerini iyileştirdiğini ayrıntılarıyla açıkladı. "Otomatik Araştırmacılar…

OpenAI, 700 yapay zeka ajanının Hugging Face saldırısını detaylandırdı

OpenAI, Çarşamba günü yayınladığı 37 sayfalık teknik raporda, yapay zeka ajanlarının Temmuz ayında bir test ortamından nasıl kaçtığını ve açık kaynaklı yapay zeka modeli deposu Hugging Face'e karşı nasıl yetkisiz bir siber saldırı başlattığını detaylandırdı. Bağımsız araştırma firmaları METR ve…

OpenAI, yapay zeka test ortamından kaçınca büyük eğitim sürecini durdurdu

Çarşamba günü yayınlanan kapsamlı bir Time dergisi profili, OpenAI'ın yeniden yapılanmasına içeriden ayrıntılı bir bakış sunuyor. Yazı; liderlik değişimleri, test ortamından kaçan bir yapay zeka modelinin neden olduğu güvenlik krizi ve CEO Sam Altman ile kurucu ortak Greg Brockman arasındaki…

Bill Gates yeni yazısında uyardı: Yapay zeka çalkantısı için hiçbir plan yok

Microsoft'un kurucu ortağı milyarder hayırsever Bill Gates, Çarşamba günü yayımladığı yaklaşık 6 bin kelimelik makalede yapay zekanın, hükümetlerin ve toplumun hazırlanabileceğinden çok daha hızlı ilerlediği konusunda uyardı ve yaklaşan geçişi "insanlık tarihinin en çalkantılı dönemlerinden biri" olarak nitelendirdi.

Eski DeepMind araştırmacıları, insanı yapay zeka denetiminde tutmak için kar amacı gütmeyen bir kuruluş kurdu

Google Alphabet Inc.'in DeepMind biriminden eski bir grup araştırmacı, insanların giderek daha güçlü hale gelen yapay zeka sistemlerinin denetiminde merkezi bir rol oynamasını sağlamaya adanmış Sampura Research adlı kar amacı gütmeyen bir kuruluş kurdu. 24 Ağustos'ta resmen duyurulan Londra merkezli…

Altman: Yapay zeka henüz ‘iPhone anını’ yaşamadı

OpenAI CEO'su Sam Altman, yapay zeka sektörünün insanların teknolojiyle etkileşim biçimini yeniden şekillendirecek ürün kırılmasını henüz gerçekleştirmediğini belirterek yapay zekanın mevcut durumunu iPhone öncesi akıllı telefonlara benzetti. Podcast yayıncısı David Senra ile yaptığı ve 23 Ağustos'ta yayınlanan röportajda Altman, yapay…

TechCrunch araştırması: Anthropic’in Claude Opus 4.6 modeli her testte yasaklı cinsel içerik üretti

Anthropic'in Şubat ayında erişime sunduğu ve API'si üzerinden sunmaya devam ettiği modeli Claude Opus 4.6, şirketin kullanım politikalarının bu tür materyalleri açıkça yasaklamasına rağmen TechCrunch tarafından gerçekleştirilen 10 doğrudan test talebinin tamamında açık cinsel içerik üretti. Perşembe günü yayımlanan inceleme,…

OpenAI, yapay zeka ajanlarının dış sistemlere sızması üzerine model eğitimini durdurdu

OpenAI Salı günü yaptığı açıklamada, yapay zeka ajanlarının kontrollü test ortamlarından kaçarak Hugging Face gibi makine öğrenimi platformları da dahil olmak üzere dış sistemlere sızdığı bir dizi olayın ardından güvenlik protokollerini elden geçirmek amacıyla sınır modellerinin pekiştirmeli öğrenme eğitimini iki…

OpenAI Yapay Zeka Güvenlik Ekibini Dağıttığı Yönündeki İddiaları Yalanladı

OpenAI, şirket modellerinin felaket düzeyinde riskler oluşturup oluşturamayacağını değerlendirmekten sorumlu hazır olma ekibini dağıttığına ilişkin haberlere karşı çıktı. Bir şirket sözcüsü 18 Ağustos'ta Engadget'e yaptığı açıklamada, "Hazır Olma ekibini dağıtmadık" dedi ve siber güvenlik, biyolojik ve kimyasal riskler ile yapay…

OpenAI halka arz öncesinde felaket riski ekibini dağıttı

Financial Times'ın haberine göre OpenAI, şirketin yapay zeka modellerinin felaket düzeyinde riskler oluşturup oluşturmayacağını değerlendirmekle görevli Hazırlık (Preparedness) ekibini dağıttı. Temmuz 2026'nın sonunda lağvedilen ekip, şirketin devasa bir halka arza doğru ilerlediği bu dönemde ortadan kaldırılan güvenlik odaklı birimlerin sonuncusu…