Yapay zeka çalışanları, geliştirdikleri teknolojiden korktukları için istifa ediyor

Financial Times'ın 22 Eylül'de yayınlanan araştırmasına göre, yapay zeka geliştirme sürecinin ön saflarında yer alan araştırmacılar, işlerinin yarattığı psikolojik yük dayanılmaz hale geldiği için giderek artan sayılarda sağlık izni alıyor, psikolojik destek arıyor ve istifa ediyor.ft+1

Yapay Zeka Laboratuvarlarında Ruh Sağlığı Krizi

Sınırları zorlayan yapay zeka modellerini değerlendirmekle görevli hükümet kurumu olan Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'ndeki personel, bu durumdan en çok etkilenenler arasında yer alıyor. Birçok çalışan, ağır test programları ve eski bir çalışanın "stresli ve zaman zaman toksik" olarak tanımladığı ortam nedeniyle şu anda sağlık izninde ve psikolojik destek alıyor. Bu baskı, özellikle yapay zeka modellerinin biyolojik tehditler yaratıp yaratamayacağını veya bilinmeyen yazılım açıklarını keşfedip keşfedemeyeceğini araştıran siber güvenlik ve biyokimya değerlendirme ekipleri üzerinde yoğunlaşıyor.aiweekly+1

Sorunlar Birleşik Krallık'taki enstitünün çok ötesine uzanıyor. Anthropic, OpenAI ve Google Alphabet Inc. ↘ 3.58% DeepMind çalışanları da benzer zorluklar bildiriyor. Bir DeepMind çalışanı Financial Times'a, yapay zeka güvenliği araştırmalarının o kadar yüksek bir tükenmişlik riski taşıdığını ve bunun "imkansız bir görev" gibi hissettirdiğini söyledi. Çalışan, "Kontrolü kaybetme duygusu ve gerçek zarara yol açan bir şey inşa etmenin verdiği sıkıntı, birçok insanın istifa etmesine veya sağlık izni almasına neden oluyor" dedi.sedaily+1

Üst Düzey İstifalar Artıyor

Financial Times'a göre, son iki yıl içinde Batı'nın önde gelen üç yapay zeka laboratuvarından bir düzineden fazla kıdemli araştırmacı istifa etti. En dikkat çekici son ayrılık, Anthropic'ten sadece dört ay sonra ayrılan ve önemli miktardaki hisse haklarından vazgeçen 27 yaşındaki Jacob Coxon oldu. X platformunda 115 milyondan fazla görüntülenen bir gönderide Coxon şunları yazdı: "Yapay zekayı inşa eden insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyor. Bu bir pazarlama numarası değil".axios+2

CNN'e verdiği bir röportajda Coxon, yapay zeka şirketlerinin "hayatımızla kumar oynadığını" söyledi ve yapay zekanın kendini daha zeki hale getirme ihtimalinin "en korkutucu" şey olduğu konusunda uyardı. Onun ayrılığını, Anthropic uyum araştırmacısı Evan Hubinger'ın destekleyici yorumları izledi. Hubinger, yapay zekanın önümüzdeki on yıl içinde insanlığın sonunu getirme olasılığını kişisel olarak yüzde 10'dan fazla tahmin ettiğini yazdı.cnbc+1

Çalışanlara Eylem Çağrısı

İstifa dalgası akademinin de dikkatini çekti. 21 Eylül'de Stanford HAI etkinliğinde siyaset bilimi profesörü Rob Reich, sınırları zorlayan yapay zeka şirketlerindeki çalışanları kolektif eylem düşünmeye çağırdı. Reich, OpenAI'ın 2023'teki yönetim krizi sırasında çalışan dayanışmasının Sam Altman'ın işini kurtardığını hatırlattı. "Laboratuvarlar genelinde ilerleme hızını kontrol altına almak için bu tür bir işçi örgütlenmesi çok etkili olabilir" diyen Reich, yapay zeka gelişiminin yavaşlatılması çağrısında bulunan açık mektubu imzalayan 1300'den fazla kişinin bir günlük iş bırakma eylemini bile düşünmediyse, "o zaman mektubun ciddiyetinden şüphe duyarım" ifadesini kullandı.

Bu açıklamalar, Anthropic CEO'su Dario Amodei ve OpenAI'dan Sam Altman gibi yapay zeka yöneticilerinin yavaşlama çağrılarının samimi bir endişeyi mi yansıttığı, yoksa teknoloji gazetecisi Steven Vaughan-Nichols'un Computerworld'de savunduğu gibi, finansal durumları belirsiz olan şirketlere zaman kazandırmaya mı yönelik olduğu tartışmaları arasında geldi International Business Machines Corporation ↗ 0.60%.futurism