Anthropic, yapay zekayı kötüye kullanımdan korumak için silah uzmanlarını işe alıyor

Anthropic, yapay zeka sistemlerinin kitle imha silahları üretmek, siber saldırılar düzenlemek veya finansal dolandırıcılık yapmak için kullanılmasını önlemekle görevli uygulama analistleri ve konu uzmanları için işe alım yapıyor.

Şirket, Axios tarafından ilk kez bildirilen ve Yahoo Finance tarafından detaylandırılan haberlere göre, son günlerde radyolojik ve nükleer zararlar, kimyasallar ve patlayıcılar, siber suçlar ve diğer tehdit kategorilerinde uzmanlar arayan bir dizi iş ilanı yayınladı. 200.000 ila 300.000 dolar aralığında maaşlar sunan bu roller kodlama becerisi gerektirmiyor; Anthropic bunun yerine nükleer fizik, biyoloji ve patlayıcılar gibi alanlarda gerçek dünya uzmanlığının yanı sıra şirketin savunmasındaki zayıf noktaları araştıran bir saldırgan gibi düşünebilme yeteneği istiyor.thenextweb+1

Büyüyen Bir Güvenlik Mekanizması

"Radyolojik ve Nükleer Zararlar Uygulama Analisti" için verilen bir ilan, nükleer mühendislik veya sağlık fiziği geçmişine sahip ve kitle imha silahlarının yayılmasının önlenmesi veya tehdit istihbaratı konusunda deneyimli adaylar arıyor. Siber zararlara odaklanan bir diğeri ise analistlerden, Anthropic'in modellerini kötü niyetli siber operasyonlar için silah haline getirme girişimlerini tespit etmelerini ve hafifletmelerini istiyor. Şirket ayrıca, "biyolojik alanda sorumlu yapay zeka güvenliğinin neye benzediğini tanımlamak" için viroloji, mikrobiyoloji veya ilgili alanlarda doktora derecesine sahip biyolojik güvenlik araştırma bilim insanlarını işe alıyor.job-boards.greenhouse+2

Bir Anthropic sözcüsü The Next Web'e verdiği demeçte, "modellerimizin potansiyel olarak zararlı bilgiler sağlamadığından emin olmanın sorumlu geliştirmenin merkezinde olduğunu" belirterek, şu anda yüzlerce personelin güvenlik üzerinde çalıştığını ekledi. BBC, bu yılın başlarında Anthropic'in, teknolojisinin "felaketle sonuçlanabilecek kötüye kullanımı" olarak adlandırdığı durumu hafifletmek için kimyasal silahlar ve yüksek etkili patlayıcılar konusunda bir uzman aradığını bildirmişti.bbc+1

Amodei'nin Tekrarlanan Uyarıları

İşe alım hamlesi, geçtiğimiz yılın büyük bir kısmını gelişmiş yapay zekanın oluşturduğu riskler hakkında alarm vererek geçiren CEO Dario Amodei'nin uyarılarıyla yakından örtüşüyor. Ocak ayındaki bir makalesinde Amodei, biyolojik saldırıların onu en çok endişelendiren konu olduğunu yazmış ve "milyonlarca insan ve birkaç yıllık süre göz önüne alındığında, milyonlarca veya daha fazla can kaybına yol açabilecek büyük bir saldırı riski olduğunu düşünüyorum" demişti. Ayrıca şirketleri ve hükümetleri, Anthropic'in en son modellerinin tespit ettiği yazılım açıklarını yamalamaları için altı ila 12 aylık bir süre olduğu konusunda uyardı.axios+2

Yasama Boşluğunda Öz Düzenleme

Anthropic bu çabasında yalnız değil. OpenAI da 445.000 dolara varan maaşlarla biyolojik ve kimyasal risklere odaklanan araştırmacılar işe alıyor. Bu paralel hamle, yapay zeka endüstrisindeki alışılmadık bir dinamiğin altını çiziyor: En güçlü modelleri inşa eden şirketler, kapsamlı bir federal yapay zeka güvenliği mevzuatının yokluğunda, onları denetlemek için personel toplayan şirketlerle aynı. Amodei bu gerilimi kabul ederek, yapay zeka şirketlerinin kendilerini düşman devletlerin hemen altındaki bir risk katmanı olarak nitelendirdi.thenextweb