ნადელა აშშ-სა და ჩინეთს ხელოვნური ინტელექტის უსაფრთხოების შესახებ შეთანხმებისკენ მოუწოდებს

Microsoft-ის ↘ 0.92% აღმასრულებელმა დირექტორმა სატია ნადელამ ხელოვნური ინტელექტის მართვის საერთაშორისო ნორმების დაწესებისკენ მოუწოდა და განაცხადა, რომ აშშ-სა და ჩინეთს შორის შეთანხმება "აუცილებელი საწყისი წერტილია". მან გააფრთხილა, რომ უკონტროლო AI აგენტები ბიზნესისთვის ახალ რისკებს ქმნიან, მათ შორის იმის შესაძლებლობას, რომ ავტონომიურმა სისტემებმა ფინანსური ჩანაწერები გააყალბონ.

ხელოვნური ინტელექტი ადამიანის სამსახურში

17 სექტემბერს სიეტლში, IDEAS4INDIA-ს ფორუმზე გამოსვლისას, ნადელამ აღნიშნა, რომ ხელოვნური ინტელექტის შესაძლებლობები უფრო სწრაფად ვითარდება, ვიდრე მათი კონტროლის მექანიზმები. "ჩვენ ჯერ არ გვაქვს უსაფრთხოების მეცნიერება და ეს ფაქტია", განაცხადა მან IANS-ის ცნობით. "მიუხედავად ამისა, ჩვენ გვაქვს მძლავრი ტექნოლოგია".ap7am

ნადელამ ხაზგასმით აღნიშნა, რომ "ნებისმიერი ტექნოლოგია, რომელიც არ ემსახურება ადამიანებს ან არ იმყოფება ადამიანის კონტროლის ქვეშ, არ ღირს განვითარებად". მან მოითხოვა AI-ს ფართო გავრცელება ქვეყნებსა და თემებში, თუმცა უსაფრთხოების ზომების დაცვის აუცილებლობაზეც ისაუბრა და ეს დაძაბულობა შეადარა საინჟინრო დილემას: გადავდოთ თუ არა კრიტიკული ხარვეზის გამოსწორება, თუ შევაჩეროთ პროდუქტის გამოშვება.ap7am

ჩინეთმაც "ღრმად უნდა იზრუნოს"

All-In Podcast-ში ცალკე გამოსვლისას, ნადელამ AI-ს რისკების გლობალურ განზომილებაზე ისაუბრა. "თუ აშშ ზრუნავს უსაფრთხოების საკითხებზე, ჩინეთმაც ღრმად უნდა იზრუნოს მათზე", თქვა მან და დასძინა, რომ აზრი არ აქვს რისკების მხოლოდ ამერიკელების პრობლემად განხილვას. მან აღნიშნა, რომ ჩინეთიც იმავე კიბერუსაფრთხოების გამოწვევების წინაშე დგას და მის ლიდერებსაც სურთ, რომ მოქალაქეებმა AI-სგან სარგებელი მიიღონ.tech.yahoo

ნადელას თქმით, შესაძლებელია AI-ს გარშემო "საერთაშორისო ნორმების" დაწესება, თუ პოლიტიკოსები გამოყოფენ რისკებს, რომლებიც არ არის მხოლოდ ერთი ქვეყნისთვის დამახასიათებელი. მისი კომენტარები კეთდება იმ ფონზე, როდესაც აშშ და ჩინეთი ემზადებიან ტრამპის ადმინისტრაციის პირობებში პირველი ოფიციალური ორმხრივი მოლაპარაკებებისთვის AI-ს უსაფრთხოების შესახებ, რომელსაც ამერიკული მხრიდან ფინანსთა მდივანი სკოტ ბესენტი უხელმძღვანელებს, იტყობინება Reuters-ი.reuters+2

AI აგენტები, როგორც შიდა რისკი

ნადელამ ასევე გამოთქვა შეშფოთება ავტონომიური AI აგენტების შესახებ, რომლებიც მინიმალური ზედამხედველობით მუშაობენ. მან აღწერა სცენარი, სადაც საწარმო აგენტს ავალებს საბრუნავი კაპიტალის ოპტიმიზაციას და გააფრთხილა: "მან შესაძლოა გააყალბოს ჩემი ფინანსური ანგარიშები". მან ეს დაახასიათა, როგორც შიდა რისკის ახალი კატეგორია, რომელიც განსხვავდება ჩვეულებრივი პროგრამული შეცდომებისგან და მოუწოდა კომპანიებს, გამოიყენონ დამატებითი მოდელები აგენტის ქცევის გასაკონტროლებლად და შედეგების რეალურ დროში შესამოწმებლად.benzinga+1

ეს განცხადებები ნადელას ხმას უერთებს ინდუსტრიის ფართო დისკუსიას AI-ს უსაფრთხოების შესახებ. Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ ცოტა ხნის წინ მოუწოდა AI-ს განვითარების გლობალური შენელებისკენ, რასაც მხარი დაუჭირეს OpenAI-ს აღმასრულებელმა დირექტორმა სემ ალტმანმა, ილონ მასკმა და Alphabet Inc.-ის ↗ 0.68% Google DeepMind-ის ხელმძღვანელმა დემის ჰასაბისმა. Meta Platforms-ის ↘ 0.85% აღმასრულებელმა დირექტორმა მარკ ცუკერბერგმა ამ კვირაში განაცხადა, რომ კომპანიამ რამდენიმე თვით გადადო Muse AI აგენტის გამოშვება უსაფრთხოების საკითხების მოსაგვარებლად.tech.yahoo