Altman’ın ‘kötü şeyler’ açıklaması yapay zeka sorumluluğu tartışmasını alevlendirdi

OpenAI CEO'su Sam Altman, dünyanın yapay zekanın faydaları karşılığında "bazı kötü şeylerin yaşanmasını kabul etmesi gerektiğini" söyledi. Her iki partiden yasa yapıcılar bu açıklamayı eleştirdi ve bu durum Washington, Sacramento ve Brüksel'de yapay zeka zarar verdiğinde kimin sorumlu tutulması gerektiğine dair tartışmaları yeniden alevlendirdi.politico+2

Altman bu yorumları Politico'nun Decoded podcast'inin ilk bölümü için verdiği röportajda yaptı. OpenAI'ın yaklaşımının Anthropic'inkinden nasıl farklı olduğu sorulduğunda, iki şirket arasında "büyük bir fark" olduğunu söyledi. "Bizimle daha katı yapay zeka güvenliği savunucuları arasındaki farklardan biri, dünyanın bu teknolojinin faydaları ve insanların özgürlüğü karşılığında bazı kötü şeylerin yaşanmasını kabul etmesi gerektiğine inanmamızdır" dedi. Ayrıca, "savunduğumuz daha hafif düzenleyici duruş, bazı kötü şeylerin yaşanacağı gerçeğinin kabulüyle birlikte gelir" diye ekledi.techspot+1

Altman nerede sınır çizdi

Altman, yapay zekanın büyük hack'lere, dolandırıcılıklara veya kötüye kullanımlara yol açmayacağını garanti etmeyeceğini söyledi. İnsanların bu teknolojiyi kötüden çok "kat kat fazla" iyilik yapmak için kullanacağını savundu. "San Francisco'daki tek bir laboratuvarın" güçlü yapay zekayı kontrol etmesine izin vermenin, "özgürlük ve insan iradesi perspektifinden tamamen kabul edilemez bir ödünleşim" olacağını belirtti. Ayrıca toplumun "yapay zeka üzerinde ciddi bir kontrol kaybı" gibi "gerçekten felaket riskleri" kabul etmemesi gerektiğini söyledi.reason+2

Vanity Fair'in Fair Game podcast'ine verdiği ayrı bir röportajda Altman, açık kaynaklı modellerden kaynaklanan "gelecek siber güvenlik sorunları dalgası" konusunda uyardı. Toplumun, "bununla gelen özgürlük karşılığında açık modellerden kaynaklanan oldukça ciddi siber olayları kabul etmek zorunda kalabileceğini" söyledi.tikr

Yasa yapıcılardan tepki

Senatör Bernie Sanders, Altman'ın hangi "kötü şeyleri" kastettiğini sordu: "On milyonlarca işin kaybı mı? Kitlesel bir gözetim devleti mi? … Kitlesel yok oluş mu?" Gelişmiş yapay zeka geliştirmeyi durdurma çağrısında bulundu. Florida Valisi Cumhuriyetçi Ron DeSantis, "bir avuç teknoloji oligarkı geri kalanımız adına bu kararı mı verecek? Asla" diye yazdı. Illinois Valisi JB Pritzker, Altman'ın "hepimiz adına hangi 'kötü şeyleri' kabul etmemiz gerektiğine dair kararlar vermemesi gerektiğini" söyledi.commondreams+2

Kaliforniya'da Meclis Üyesi Rebecca Bauer-Kahan, "sıradan Kaliforniyalıların AI laboratuvarlarının kârı için bedel ödememesini sağlamanın hükümetin görevi olduğunu" söyledi. Vali adaylığı için önde gelen isimlerden Xavier Becerra, bu yorumun "beni koruma mekanizmalarını daha hızlı oluşturmak için çalışmaya ittiğini" belirtti.politico

Sorumluluk yeniden gündemde

Altman röportajda, AI platformlarının neden oldukları zararlar için bir miktar sorumluluk üstlenmeleri gerektiğine katıldı. Bauer-Kahan, bu sorumluluğun sınır modellerinin neden olduğu "tüm zararları" kapsaması gerektiğini ve yasama organının gelecek yıl ne tür ek yasal sorumlulukların gerekli olduğunu tartışacağını söyledi. Avrupa'da Alman milletvekili Axel Voss, Brüksel'in rafa kaldırdığı AB AI sorumluluk teklifinin yeniden canlandırılması çağrısında bulundu. Voss, "Artık OpenAI'ın CEO'su bile kabul ediyor: Sorumluluk olmadan güven olmaz" dedi.politico+1

Altman'ın açıklamaları, kendisinin ve diğer yapay zeka yöneticilerinin Beyaz Saray'da Başkan Donald Trump ile görüşüp kendi modellerini denetleme taahhüdünü imzalamalarından günler sonra geldi. Trump o zamandan beri Jay Clayton'ı, yapay zekanın risklerini ve fırsatlarını değerlendirmek için 120 günü olan yeni bir "Süper Zeka Gücü"nün başına atadı.yahoo+1