მურატის სტარტაპმა გამოუშვა ღია წონის AI მოდელი საწარმოო მონაცემების შიშის ფონზე

Microsoft ↗ 0.52%-ის აღმასრულებელმა დირექტორმა სატია ნადელამ წარმოადგინა ის, რასაც ის "ინფორმაციის საპირისპირო პარადოქსს" უწოდებს. მისი მტკიცებით, კომპანიები, რომლებიც საწარმოო AI-ს ნერგავენ, გაუცნობიერებლად თმობენ თავიანთ ყველაზე ღირებულ აქტივს — საკუთრების უფლების მქონე ცოდნას — ყოველ ჯერზე, როდესაც მოდელთან ურთიერთობენ.

ორშაბათს, 13 ივლისს, X-ზე გამოქვეყნებულ პოსტში ნადელამ დაწერა, რომ ორგანიზაციები "არსებითად იხდიან ინტელექტისთვის ორჯერ, ერთხელ ფულით და მეორედ კიდევ უფრო ღირებული რამით: საკუთრების უფლების მქონე ცოდნით, რომელიც უნდა გაამჟღავნოთ, რათა ეს ინტელექტი სასარგებლო გახდეს". მისი თქმით, რაც უფრო მეტად სურს კომპანიას AI-ს მუშაობის გაუმჯობესება, მით უფრო მეტი შიდა ექსპერტიზა, სამუშაო პროცესები და გადაწყვეტილების მიღების მექანიზმები უნდა გაუმჟღავნოს მოდელის პროვაიდერებს.firstpost+2

"ინტელექტის გამონაბოლქვის" პრობლემა

ნადელამ გააფრთხილა, რომ AI სისტემები აფიქსირებენ იმას, რასაც ის "ინტელექტის გამონაბოლქვს" უწოდებს — შესწორებებს, შეფასებებს და გამოყენების მონაცემებს, რომლებიც გენერირდება ყოველ ჯერზე, როდესაც თანამშრომლები AI ინსტრუმენტებთან ურთიერთობენ. ეს მონაცემები ავლენს კომპანიის შიდა ცოდნას, რომელსაც პროვაიდერები იყენებენ კონკურენტული პროდუქტების შესაქმნელად ან ეკონომიკური ღირებულების ინფრასტრუქტურის ოპერატორების ხელში კონცენტრირებისთვის, ნაცვლად იმ ფირმებისა, რომლებიც ამ ცოდნას ქმნიან.the-decoder+1

მისი შემოთავაზებული გამოსავალი არის მყარი "ნდობის საზღვარი" თითოეულ საწარმოში, რომელიც აგებულია ხუთ საყრდენზე, რასაც ის "ხუთ C-ს" უწოდებს: კონტროლი (Control), შესაძლებლობა (Capability), არჩევანი (Choice), ღირებულება (Cost) და ნაერთი (Compound). ჩარჩო მოუწოდებს კომპანიებს, ფლობდნენ საკუთარ შეფასებებს და უკუკავშირის ციკლებს, ააშენონ კერძო სასწავლო გარემო, შეინარჩუნონ ორკესტრირების ფენები ნებისმიერი ერთი მოდელის პროვაიდერისგან დამოუკიდებლად, ოპტიმიზაცია გაუწიონ ხარჯებს და შექმნან უწყვეტი სწავლის სისტემები, რომლებიც შიდა ღირებულებას ზრდიან.aiweekly+3

დისტილაციის ორმაგი სტანდარტი

ნადელამ ასევე გააკრიტიკა AI ლაბორატორიები, მათ შორის OpenAI და Anthropic, მოდელის დისტილაციის — უფრო დიდი მოდელების გამომავალი მონაცემების გამოყენებით უფრო მცირე მოდელების სწავლების პრაქტიკის — აკრძალვის გამო მათი მომსახურების პირობებში. მან განაცხადა, რომ ეს პოზიცია თვალთმაქცურია, იმის გათვალისწინებით, რომ იმავე ლაბორატორიებმა თავიანთი სისტემების გასაწვრთნელად თავისუფლად გამოიყენეს ღია ინტერნეტი. ნადელას თქმით, თუ ლაბორატორიებს შეუძლიათ საჯარო მონაცემებიდან სწავლა, საწარმოებსაც უნდა ჰქონდეთ თავისუფლება, შეისწავლონ და გააუმჯობესონ ის შედეგები, რომლებშიც ფულს იხდიან.techcrunch+2

მურატის Inkling მოდელი შემოდის ასპარეზზე

ნადელას მიერ წამოჭრილმა შეშფოთებამ პრაქტიკული პასუხი ჰპოვა ოთხშაბათს, როდესაც Thinking Machines Lab-მა, სტარტაპმა, რომელიც დააარსა OpenAI-ის ყოფილმა ტექნიკურმა დირექტორმა მირა მურატიმ, გამოუშვა თავისი პირველი მოდელი, სახელად Inkling. 975-მილიარდ-პარამეტრიანი ღია წონის მოდელი კომპანიებს საშუალებას აძლევს, ჩამოტვირთონ და მოარგონ ის საკუთარ მონაცემებს — რაც პირდაპირი კონტრასტია იმ დახურული მოდელებისა, რომლებსაც ნადელა აკრიტიკებდა. Palantir ↗ 3.68%-ის აღმასრულებელმა დირექტორმა ალექს კარპმა მსგავსი გაფრთხილებები გააჟღერა რამდენიმე კვირით ადრე და საწარმოს ლიდერებს უთხრა, რომ "რაღაც სერიოზულად არასწორად მიდის" იმ გზით, თუ როგორ მართავენ AI ლაბორატორიები მომხმარებელთა მონაცემებს.wsj+5

"გამყიდველი სულ უფრო მეტს სწავლობს თქვენს შესახებ, როდესაც იყენებთ იმას, რაც შეიძინეთ," წერდა ნადელა, "მაშინ როცა თქვენ ძალიან ცოტას სწავლობთ იმის შესახებ, თუ რას სწავლობს გამყიდველი სანაცვლოდ".thenextweb