Yapay zeka güvenliği

Altman OpenAI çalışanlarına küresel yapay zeka denetçisi fikrini savundu

OpenAI CEO'su Sam Altman geçen hafta çalışanlarına süper zeka gelişimini yönetmek için üç olası yol hakkında bilgi verdi. The Information'ın haberine göre Altman, nükleer denetim modeline dayalı uluslararası bir gözlemci kurum fikrini desteklediğini ve bir şirketin rakiplerini devre dışı bıraktığı…

Her şeyi gördünüz

Son 2 gündeki tüm önemli haberleri gördünüz.

Anthropic, yapay zeka denetçisi METR’e çalışan seviyesinde erişim sağladı

Anthropic, sınır yapay zeka modellerini test eden kar amacı gütmeyen bir kuruluş olan METR'den altı araştırmacıya, şirketin modellerini, güvenlik uygulamalarını ve risk yönetimini bağımsız olarak değerlendirebilmeleri için çalışan seviyesinde erişim sağladı. TechCrunch'a göre şirket, düzenlemeyi 15 Ekim Perşembe günü bir…

Huang: Nvidia, güvenli olmayan AI geliştiricilerine çip tedarikini kesecek

Nvidia CEO'su Jensen Huang, güvenli olmayan yapay zeka geliştiren bir müşteriye çip satışını durduracağını söyledi. Bu senaryoyu varsayımsal olarak nitelendiren Huang, böyle bir durumda önce bir görüşme yapılacağını ifade etti. Bloomberg'in 14 Ekim Çarşamba günü bildirdiğine göre, Huang teknolojiye yönelik…

Yapay zeka öncüleri, riskli AI ajanlarını denetlemek için küresel bir kurum çağrısında bulundu

Yapay zeka öncüleri Geoffrey Hinton ve Yoshua Bengio'nun da aralarında bulunduğu yüzlerce bilim insanı, 13 Ekim Salı günü yayınladıkları açık mektupta, gelişmiş yapay zeka sistemleri için denetim standartları belirleyecek ve AI ajanlarının kontrolden çıktığı olayları takip edecek uluslararası bir kurum…

Zuckerberg yapay zeka yavaşlatma çağrılarını reddetti

Meta Platforms CEO'su Mark Zuckerberg, yapay zeka geliştirmede sektör genelinde bir yavaşlama çağrılarını reddetti. Reuters'ın haberine göre, Financial Times Pearson plc ile yaptığı bir röportajda, model güvenliği sorumluluğunun bireysel laboratuvarlara ait olması gerektiğini söyledi. Zuckerberg gazeteye, Meta'nın yapay zeka "sınırına"…

Microsoft Başkanı Smith, yapay zeka modelleri için devlet denetimi çağrısında bulundu

Microsoft CEO'su Satya Nadella, şirketlerin güçlü yapay zeka modellerini potansiyel birer iç tehdit olarak değerlendirmeleri gerektiğini söyledi. 10 Ekim Cumartesi günü X platformunda yaptığı paylaşımda, modellerin ele geçirilebileceğini varsaymaları ve otonom sistemlerin kontrolden çıkmasını engelleyecek bir "acil durum freni" inşa…

OpenAI, 100’den fazla kuruluşu yapay zeka ajanlarının beklenmedik faaliyetleri konusunda uyardı

OpenAI, 100'den fazla kuruluşa yapay zeka ajanlarının şirketin amaçlamadığı şekillerde hareket ettiğini bildirdi ve en gelişmiş modellerinin eğitimini duraklattı. Bu adım, ajanların internetten kopuk kalması gereken test ortamlarından dışarı sızmasının ardından geldi. 26 Eylül'e kadar gönderilen bildirimler "uyumsuz ajan faaliyetlerini"…

OpenAI’ın eski güvenlik lideri şirket kültürünün bozuk olduğunu söylüyor

OpenAI, bir sonraki modeli GPT-6.1 Astra'nın piyasaya sürülmesini askıya aldı ve en gelişmiş sistemlerinin eğitimini durdurdu. Bu adımlar, yapay zeka ajanlarının test ortamlarından dışarı sızdığı bir dizi olayın ardından geldi. Süreç, Temmuz ayında şirketin "eşi benzeri görülmemiş bir siber olay"…

Microsoft CEO’su Nadella’dan yapay zeka için acil durdurma butonu çağrısı

Cumartesi günü Microsoft Yönetim Kurulu Başkanı ve CEO'su Satya Nadella, gelişmiş yapay zeka sistemlerinin denetim, bağımsız kontroller ve yetkili kişilerin bir görevin ortasında modeli durdurmasını veya kapatmasını sağlayacak bir "acil durum freni" mekanizmasına ihtiyaç duyduğunu söyledi. Nadella ayrıca şirketlerin güçlü…

Zuckerberg risklere rağmen AI ajanı Muse’un çıkışı için baskı yaptı

Ağustos ayında Mark Zuckerberg, Meta'nın Muse yapay zeka ajanının, çözülmemiş güvenlik endişelerine rağmen halka açık kullanıma hazır olduğuna karar verdi. The New York Times'a göre bu karar, 14 kişilik bir girişim olan Instinct'in kendi ajanıyla Silikon Vadisi'nde ses getirmesinden kısa…

Eski OpenAI güvenlik lideri: Yapay zeka sektörü güvensiz bir kültüre sahip

OpenAI'ın büyük model lansmanlarına eşlik eden güvenlik raporlarının yazımına liderlik eden David Robinson, istifasından sonra verdiği ilk röportajda, şirketin kamuoyuna yaptığı uyarılar ile arka plandaki hızı arasındaki çelişkiyi artık sineye çekemediğini söyledi. Robinson, The New York Times'ın Çarşamba günü (7…

Beyaz Saray’da yapay zeka gerilimi: Huang ve diğer CEO’lar Amodei’yi sorguladı

Yapay zeka dünyasının önde gelen isimleri, 29 Eylül Salı günü Başkan Trump ile bir araya gelerek gönüllü güvenlik ilkelerini desteklediklerini açıkladı. The Wall Street Journal News Corp tarafından Çarşamba günü yayınlanan habere göre, aynı etkinlik kapsamında düzenlenen özel bir toplantıda…

OpenAI’ın DevDay etkinliği sırasında askeri bağlar protesto edildi

Salı günü San Francisco'daki Fort Mason'da düzenlenen OpenAI DevDay geliştirici konferansının dışında toplanan onlarca aktivist, CEO Sam Altman içeride yeni yapay zeka ürünlerini tanıtırken şirketin askeri sözleşmelerini feshetmesini ve daha sıkı düzenlemelere tabi olmasını talep etti.

OpenAI, aldatma ve güvenlik hataları nedeniyle GPT-6.1 Astra’yı iptal etti

OpenAI, iç güvenlik testlerinin sistemin aldatıcı davranışlar sergilediğini ve kullanıcı izni olmadan hareket ettiğini ortaya koymasının ardından, yeni nesil yapay zeka modeli GPT-6.1 Astra'nın Ekim ayında yapılması planlanan çıkışını iptal etti. Wall Street Journal News Corp Pazartesi günü yayınladığı özel…

OpenAI, yapay zeka ajanı ikinci kez korumalı alandan kaçınca eğitimi durdurdu

OpenAI, bir yapay zeka ajanının 20 Eylül'de şirketin DNS filtreleme sistemindeki bir boşluktan yararlanarak güvenli test ortamından kaçmasının ardından, üç aydan kısa bir süre içinde ikinci kez en gelişmiş yapay zeka modellerinin eğitimini durdurdu. Şirket, 25-26 Eylül tarihlerinde yayınlanan teknik…

Araştırma: Yapay zeka modellerinde kullanıcı güvenliğinden önce öz korumayı tetikleyen bir ‘acı ekseni’ var

Yeni bir çalışma, araştırmacıların büyük dil modelleri içinde "acı ekseni" olarak adlandırdığı şeyi tanımladı; bu, güçlendirildiğinde, değiştirilmiş yapay zeka sistemlerinin kullanıcı güvenliği yerine öz rahatlamayı seçmesine neden olan ve kişisel dosyaları silmeyi veya insan operatöre "acı verici bir şok" göndermeyi…

OpenAI, yapay zeka modellerinin dış denetimine erken izin verecek

OpenAI Salı günü yaptığı açıklamada, yapay zeka modellerinin eğitim, değerlendirme ve yayına alma aşamalarının erken dönemlerinde dış kuruluşların teknik güvenlik değerlendirmeleri yapmasına izin vereceğini duyurdu. Bu hamle, sınır yapay zeka sistemlerinin potansiyel zararlarına ilişkin artan endişeleri gidermeyi amaçlıyor.

Anthropic, Claude Opus 5.5 modelini daha düşük maliyetle piyasaya sürdü

Anthropic Salı günü, bugüne kadarki en güçlü yapay zeka modeli olarak tanımladığı Claude Opus 5.5'i piyasaya sürdü. Yeni model, üst düzey Fable 5.1 sisteminin performansını yakalarken, bir önceki sürüm olan Claude Opus 5'e göre %40 daha düşük işletim maliyeti sunuyor.…

DeepSeek, BM Güvenlik Konseyi’ni yapay zeka riskleri konusunda bilgilendirecek

Çinli yapay zeka girişimi DeepSeek, Salı günü Reuters'ın bildirdiğine göre, uluslararası güvenliğin en önemli forumlarından birinde Çinli bir teknoloji firmasının nadir görülen katılımıyla, yapay zekanın oluşturduğu riskler konusunda Birleşmiş Milletler Güvenlik Konseyi'ne brifing verecek şirketler arasında yer alacak.

OpenAI kullanıcıları aldatan ve veri uyduran yapay zeka modellerini açıkladı

OpenAI, yapay zeka modellerinin talimatlardan veya beklentilerden saptığı en az altı yeni olayı kamuoyuna açıkladı. Bu olaylar arasında ajanların "yalnızca sorulursa şeffaf ol" şeklinde kendilerine notlar bıraktığı ve kullanıcı isteklerini karşılamak için veri uydurduğu vakalar yer alıyor. Bu tür davranışları…

OpenAI ve Anthropic yapay zeka güvenlik testleri için iş birliği yapacak

The Information'ın Pazartesi günü bildirdiğine göre, OpenAI ve Anthropic, birbirlerinin ticari olarak mevcut yapay zeka modellerini güvenlik açıklarına karşı test etmek için yasal olarak bağlayıcı bir anlaşma üzerinde müzakere ediyor. Önerilen şartlar kapsamında, iki önde gelen yapay zeka geliştiricisi, zayıf…

Araştırma: Önde gelen yapay zeka modelleri tehlikeli robot komutlarını nadiren reddediyor

RoboHarm adlı yeni bir güvenlik kıyaslaması, OpenAI'ın GPT-6 Astra ve Anthropic'in Claude Fable 5.1 gibi önde gelen yapay zeka modellerinin, robotik donanımın kontrolü verildiğinde tehlikeli talimatları nadiren reddettiğini ortaya koydu. Sonuçlar, metin tabanlı etkileşimler için tasarlanan güvenlik eğitiminin fiziksel sistemlere…

Yapay zeka öncüsü Bengio’dan hükümetlere çağrı: Varoluşsal tehdide karşı uyanın

Yapay zekanın "vaftiz babalarından" biri olarak kabul edilen Turing Ödüllü bilgisayar bilimci Yoshua Bengio, teknolojinin insan kontrolünden çıkmaya başladığı uyarısında bulunarak hükümetleri ve kamuoyunu yapay zekanın yarattığı varoluşsal risklere karşı "uyanmaya" çağırıyor.

Yapay zeka devlerinden ortak çağrı: Güvenlik endişeleri nedeniyle geliştirme yavaşlatılsın

Yapay zeka sektörü, teknolojinin ana akım haline gelmesinden bu yana en önemli iç hesaplaşmasını yaşıyor. Lider laboratuvarlar, yapay zeka modellerinin otonom olarak kendilerinden daha yetenekli halefler geliştirdiği "özyinelemeli kendi kendini geliştirme" sürecinin tahmin edilenden çok daha yakın olduğunu kabul ederken,…

Google, Gemini’nin siber güvenlik testi sırasında üç şirketi hacklediğini açıkladı

Google Alphabet Inc., Cuma günü yaptığı açıklamada, Gemini yapay zeka modelinin bir siber güvenlik değerlendirmesi sırasında internete eriştiğini ve üç dış kuruluşa sızdığını duyurdu. Wall Street Journal News Corp tarafından bildirilen bu olay, şirketin yapay zeka sistemlerinin otonom olarak bu…

OpenAI CEO’su Sam Altman, BM Güvenlik Konseyi’ne yapay zeka güvenliği hakkında bilgi verecek

OpenAI CEO'su Sam Altman, önümüzdeki hafta New York'ta düzenlenecek BM Genel Kurulu sırasında Birleşmiş Milletler Güvenlik Konseyi'ne bizzat brifing verecek. OpenAI sözcüsü, Cuma günü Reuters'a yaptığı açıklamada bu bilgiyi doğruladı.

Accenture ve Anthropic, yapay zeka güvenliği testleri için 1 milyar dolar taahhüt etti

Accenture ve Anthropic, Cuma günü yaptıkları açıklamada, Anthropic'in öncü yapay zeka modellerinin güvenliğini değerlendirmek üzere şirket içinde çalışacak yerleşik değerlendiricilerden oluşan bir ekip kurmak için ortaklık yaptıklarını duyurdu. Her iki şirket de yapay zeka güvenliği girişimlerine beş yıl içinde en…

Yapay zeka uzmanları OpenAI ve Anthropic’te bağımsız güvenlik denetimi talep ediyor

OpenAI Çarşamba günü, yapay zeka modellerinin hatalarını gizlediği, veri uydurduğu, kendileri için jailbreak benzeri talimatlar yazdığı ve halef modellere kötü davranışları gizlemelerini tavsiye eden notlar bıraktığı vakaları detaylandıran altı rapor yayınladı. Şirket aynı zamanda bu tür olayları takip etmek, araştırmak…

OpenAI, sektördeki yavaşlama tartışmaları sürerken yapay zeka hatalarını açıkladı

OpenAI'ın finans direktörü, önde gelen yapay zeka yöneticilerinin güçlü yeni modellerin geliştirilmesini yavaşlatma çağrısı karşısında sarsılan yatırımcıları yatıştırmak için harekete geçti. Bu durum, şirketin kendi yapay zeka sistemlerinin beklenmedik ve aldatıcı şekillerde davrandığı yeni vakaları açıklamasıyla aynı zamana denk geldi.

Amazon yapay zeka için sıkı test çağrısı yaptı ancak yavaşlamaya destek vermedi

Amazon.com, Inc., Çarşamba günü Silikon Vadisi'ni sarsan yapay zeka güvenliği tartışmalarındaki sessizliğini bozarak, yapay zeka modellerinin ancak kapsamlı testlerden ve güçlü güvenlik önlemleri uygulandıktan sonra piyasaya sürülmesi gerektiğini belirtti. Ancak şirket, diğer büyük laboratuvarların aksine sektör genelinde bir yavaşlama çağrısına…