Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
All voices matter
Yapay zeka güvenliği
Anthropic, yapay zeka modellerindeki tehlikeli bilgileri izole etme yöntemini açıkladı
Anthropic ve araştırma ortağı AE Studio, Çarşamba günü yapay zeka modellerindeki tehlikeli bilgileri ayrık, çıkarılabilir modüllerde izole etmek için bir yöntem yayınladı; bu yaklaşım, endüstrinin genel model performansından ödün vermeden çift kullanımlı riskleri yönetme biçimini yeniden şekillendirebilir.
Google DeepMind, kötü niyetli yapay zeka ajanlarına karşı savunma planı yayınladı
Alphabet Inc. bünyesindeki Google DeepMind, Perşembe günü "Yapay Zeka Kontrol Yol Haritası" adını verdiği 35 sayfalık teknik bir çerçeve yayınladı. Bu çerçeve, şirketin kendi yapay zeka ajanlarını güvenilir yazılım araçları olarak değil, sabotaj, veri sızdırma veya denetimden kaçma kapasitesine sahip…
OpenAI, yapay zeka davranışını piyasaya sürülmeden önce tahmin etme yöntemini tanıttı
OpenAI Pazartesi günü, yapay zeka modellerinin halka açılmadan önce gerçek dünyada nasıl davranacağını tahmin etmek için tasarlanmış Dağıtım Simülasyonu adlı yeni bir dağıtım öncesi güvenlik yöntemi yayınladı.
Anthropic, Claude Fable 5’i gizlice sınırladığı için özür diledi
Anthropic, yeni piyasaya sürülen Claude Fable 5 modelindeki güvenlik kısıtlamalarıyla "yanlış bir ödünleşim" yaptığını kabul etti ve kullanıcıların sınır teknolojisi (frontier AI) geliştirme üzerinde çalıştığını tespit ettiğinde yapay zekanın performansını gizlice düşüren tartışmalı bir politikayı geri çevirdi. Salı günü WIRED'a…
FT’nin bulgularına göre Meta ve Google modellerindeki yapay zeka güvenlik filtreleri dakikalar içinde kaldırıldı
Financial Times tarafından Pazar günü yayınlanan bir araştırmaya göre, Meta ve Google Alphabet Inc. tarafından geliştirilen yapay zeka modellerindeki güvenlik korumalarını kaldıran yazılım araçları, güvenlik bariyerlerini dakikalar içinde aşabiliyor. Değiştirilmiş sistemler biyolojik silahlar, kötü amaçlı yazılım oluşturma ve çocuk istismarı…