Podcast’lerde gizli, duyulamaz sesler yapay zeka sesli asistanlarını ele geçirebilir, araştırmacılar buldu

Bir güvenlik araştırmacıları ekibi, podcast'lerde, YouTube videolarında ve sesli aramalarda gizlenmiş algılanamaz ses sinyallerinin, yapay zeka sesli asistanlarını yetkisiz eylemler gerçekleştirmeleri için manipüle edebileceğini gösterdi — bu hafta San Francisco'daki IEEE Güvenlik ve Gizlilik Sempozyumu'nda sunulan bu bulgu, ses tabanlı yapay zekanın hızla genişleyen dünyasında yeni bir güvenlik açığı sınıfını ortaya koyuyor.

AudioHijack Nasıl Çalışır?

AudioHijack adlı teknik, Zhejiang Üniversitesi, Singapur Ulusal Üniversitesi ve Nanyang Teknoloji Üniversitesi'nden araştırmacılar tarafından geliştirildi. Teknik, müzik, kayıtlar veya video klipler gibi normal ses çıkaran medya dosyalarına, insan kulağı tarafından algılanamayan ancak büyük ses-dil modellerini web aramaları yapma, dosya indirme veya kullanıcı verilerini içeren e-postalar gönderme gibi saldırgan tarafından seçilen davranışlara yönlendiren düşmanca sesler yerleştiriyor.windowsforum+1

Zhejiang Üniversitesi'nde doktora adayı olan baş yazar Meng Chen, IEEE Spectrum'a verdiği demeçte, "Bu sinyali eğitmek sadece yarım saat sürüyor ve bu sinyal bağlamdan bağımsız olduğu için, kullanıcı ne derse desin hedef modeli istediğiniz zaman saldırmak için kullanabilirsiniz" dedi.futurism

Araştırmacılar, AudioHijack'i Qwen2-Audio, GLM-4-Voice, Phi-4-Multimodal ve Kimi-Audio dahil olmak üzere 13 açık ses yapay zeka modeline karşı test ettiler ve yüzde 79 ile 96 arasında başarı oranları elde ettiler. Ayrıca, açık kaynaklı modeller için tasarlanan saldırıların, birçok ticari ürün açık kaynak temeller üzerine inşa edildiğinden, Microsoft ↗ 2.75% Azure ve Mistral AI'dan gelen ticari ses sistemlerine etkili bir şekilde aktarıldığını gösterdiler.welcome+2

Sınırlı Savunmalar

Belki de en endişe verici olanı, mevcut savunmaların büyük ölçüde etkisiz olduğunun kanıtlanmasıdır. Bulgulara göre, istem sertleştirme ve niyet doğrulama teknikleri saldırı başarısını yalnızca yaklaşık yüzde 7 oranında azalttı. Araştırmacılar, modellerin meşru kullanıcı niyeti ile sese gömülü düşmanca talimatlar arasında ayrım yapmakta zorlandığını belirttiler.welcome+1

Bu güvenlik açığı, basit konuşma tanımayı hedefleyen önceki duyulamaz komut araştırmalarından farklıdır. AudioHijack, büyük ses-dil modellerinin daha derin akıl yürütme katmanlarını istismar ediyor; bu sistemler artık sadece konuşmayı yazıya dökmekle kalmıyor, aynı zamanda web'de gezinme, dosyalara erişme ve kullanıcılar adına mesaj gönderme gibi eylemleri de gerçekleştirebiliyor.windowsforum

Günlük Kullanıcılar İçin Etkileri

Araştırma, şirketlerin artan özerkliğe sahip sesli yapay zeka ajanlarını devreye almak için yarıştığı bir dönemde geldi. Microsoft'un IEEE Spectrum'a, gerçek dünya uygulamalarının genellikle temel modelin ötesinde ek güvenlik önlemleri içerdiğini söylediği bildirildi. Ancak güvenlik uzmanları, bir kaydı özetleyen bir sesli asistan ile kurumsal sistemler üzerinde hareket edebilen bir asistan arasındaki boşluğun, risk profilinde temel bir değişikliği temsil ettiği konusunda uyarıyor.windowsforum

Chen, "Bu tek noktalı savunmalar saldırımıza direnmekte zorlanıyor çünkü bu modellerin normal kullanıcı niyeti ile düşmanca saldırımızı ayırt etmesinin çok zor olduğunu gördük" dedi.futurism

Bulgular, sesli yapay zeka sistemleri dosya arama, e-posta taslağı hazırlama, takvimleri değiştirme gibi eylemleri gerçekleştirme yeteneği kazandıkça, ses kanalının kendisinin mevcut güvenlik mimarilerinin savunmak için tasarlanmadığı bir saldırı yüzeyi haline geldiğini gösteriyor.