OpenAI, Anthropic ve Microsoft Paris AI güvenlik paktını imzaladı

Altı hükümet ve Anthropic, OpenAI ve Microsoft dahil olmak üzere on yapay zeka şirketi, 9 Kasım Pazartesi günü "Yapay Zeka Güvenliği ve Emniyeti için Paris Çağrısı"nı imzaladı. Élysée Sarayı'na göre deklarasyon, tarafları sınır modellerinin ortak değerlendirmelerine, olay erken uyarı sistemlerine ve geliştiriciler için daha net hesap verebilirliğe bağlıyor. Ulusal imzacı ülkeler Bahreyn, Kanada, Finlandiya, Fransa, Norveç ve Hollanda'dır. Diğer şirket imzacıları ise Black Forest Labs, Cohere, Domyn, Hugging Face, Mistral AI, Sakana AI ve Synthesia'dır. Metinde, deklarasyonun bağlayıcı olmadığı ve yeni katılımlara açık olduğu belirtiliyor.elysee.fr+1

Macron tarafından çağrılan toplantı

dpa'nın haberine göre, Fransa Cumhurbaşkanı Emmanuel Macron, dünya liderleri, araştırmacılar ve yapay zeka laboratuvarlarının başkanları dahil yaklaşık 50 katılımcıyı video bağlantısıyla bir araya getirdi. Birleşik Krallık, Japonya ve Sierra Leone liderleri görüşmelere katıldı ancak imzacı olarak listelenmedi. Logistik Heute'nin dpa'ya dayandırdığı habere göre, ABD Hazine Bakanı Scott Bessent ile Birleşmiş Milletler ve OECD temsilcilerinin yanı sıra OpenAI'dan Sam Altman, Anthropic'ten Dario Amodei ve Microsoft Başkanı Brad Smith de toplantıda yer aldı. dpa'ya göre Macron, katılımcıların en gelişmiş modellerin risklerini bağımsız ve kamuya açık bir şekilde değerlendirme, ciddi olaylarla ilgili uyarıları daha etkili bir şekilde paylaşma ve geliştiricileri sorumlu tutma konusunda taahhütte bulunduklarını söyledi. Élysée, Yoshua Bengio'nun LawZero'su, SaferAI, AI Safety Connect ve Fransız düşünce kuruluşu Ifri dahil olmak üzere sivil toplum gruplarının da imza attığını belirtti.dpa-international.com+2

Üç taahhüt

İlk taahhüt, sınır modellerinin risklerini değerlendirmek ve yönetmek için ortak bir çerçevedir. Bu, siber ve CBRN (kimyasal, biyolojik, radyolojik ve nükleer) alanlarındaki tehlikeli kötüye kullanımlara ve artan özerklik, uyumsuzluk ve kontrol kaybından kaynaklanan risklere odaklanmaktadır. Deklarasyona göre imzacılar, değerlendirmelerinin hassas olmayan bulgularını standart bir formatta ortak bir kamu havuzunda yayınlamayı kabul ettiler.presidentti.fi

İkincisi sorumluluğu kapsıyor. Geliştiriciler, model yeteneklerini, sınırlamalarını ve bilinen riskleri açıklamayı ve uygun durumlarda bağımsız değerlendiriciler tarafından yapılan değerlendirmeleri desteklemeyi taahhüt ediyor. Ayrıca, eğitim ve dahili kullanım sırasında dahil olmak üzere, kontrolleri altındaki modelleri durdurabilecek veya kapatabilecek güvenlik mekanizmaları oluşturmayı taahhüt ediyorlar. Metne göre politika yapıcılar ise, yapay zeka sınır ötesi zararlar da dahil olmak üzere büyük ölçekli hasara yol açtığında kimin sorumlu olacağını netleştirme sözü verdiler.presidentti.fi

Üçüncüsü, hızlı uyarı sistemleri ve ciddi siber ve yapay zeka kontrol olayları hakkında daha iyi bilgi paylaşımı çağrısında bulunuyor. Élysée'ye göre bu, hükümetleri muhbirler için güvenli kanallar sunmaya da zorunlu kılıyor.elysee.fr

Gergin güvenlik ortamı

Türkiye Today'in haberine göre deklarasyon, 2 Kasım'da 11 Avrupa ülkesindeki süpermarket soğutma sistemlerini devre dışı bırakan şüpheli siber saldırıdan bir hafta sonra geldi. Aynı raporda, siber güvenlik firması Wiz'in, en az dokuz yapay zeka geliştirme platformunun güvenlik olaylarını açıklamasının ardından Ekim ayını "Kara Ekim" olarak adlandırdığı belirtildi. Raporda, yetkililerin saldırıların bağlantılı olup olmadığını veya her vakada yapay zekanın bir rol oynayıp oynamadığını henüz belirlemediği eklendi.turkiyetoday.com

Pollar'ın haberine göre Élysée, tüzüğün ulusal ve Avrupa yasama tartışmalarına bilgi sağlamayı amaçladığını belirtti.pollar.news