OpenAI, Anthropic և Microsoft-ը ստորագրել են Փարիզի AI անվտանգության համաձայնագիրը

Վեց կառավարություն և տասը AI ընկերություն, այդ թվում՝ Anthropic-ը, OpenAI-ը և Microsoft-ը, երկուշաբթի՝ նոյեմբերի 9-ին, ստորագրել են «Փարիզի կոչը AI անվտանգության և պաշտպանության վերաբերյալ»։ Ելիսեյան պալատի համաձայն՝ հռչակագիրը նրանց պարտավորեցնում է իրականացնել սահմանային մոդելների համատեղ գնահատումներ, ստեղծել միջադեպերի վաղ նախազգուշացման համակարգեր և ապահովել մշակողների ավելի հստակ հաշվետվողականություն։ Ազգային ստորագրողներն են Բահրեյնը, Կանադան, Ֆինլանդիան, Ֆրանսիան, Նորվեգիան և Նիդեռլանդները։ Մյուս ընկերությունների թվում են Black Forest Labs-ը, Cohere-ը, Domyn-ը, Hugging Face-ը, Mistral AI-ը, Sakana AI-ը և Synthesia-ն։ Հռչակագիրը պարտադիր բնույթ չի կրում և բաց է նոր միացողների համար, ասվում է տեքստումelysee.fr+1։

Մակրոնի կողմից հրավիրված հավաքը

Ֆրանսիայի նախագահ Էմանուել Մակրոնը տեսակապի միջոցով համախմբել է մոտ 50 մասնակցի, այդ թվում՝ համաշխարհային առաջնորդների, հետազոտողների և AI լաբորատորիաների ղեկավարների, հայտնում է dpa-ն։ Մեծ Բրիտանիայի, Ճապոնիայի և Սիերա Լեոնեի առաջնորդները մասնակցել են բանակցություններին, սակայն չեն նշվել որպես ստորագրողներ։ ԱՄՆ ֆինանսների նախարար Սքոթ Բեսենթը և ՄԱԿ-ի ու ՏՀԶԿ-ի ներկայացուցիչները նույնպես մասնակցել են, ինչպես նաև OpenAI-ից Սեմ Ալթմանը, Anthropic-ից Դարիո Ամոդեյը և Microsoft-ի նախագահ Բրեդ Սմիթը, հայտնում է Logistik Heute-ը՝ վկայակոչելով dpa-ն։ Մակրոնը հայտարարել է, որ մասնակիցները պարտավորվել են անկախ և հրապարակայնորեն գնահատել ամենաառաջադեմ մոդելների ռիսկերը, ավելի արդյունավետ կիսվել լուրջ միջադեպերի մասին նախազգուշացումներով և մշակողներին պատասխանատվության ենթարկել։ Քաղաքացիական հասարակության խմբերը նույնպես ստորագրել են, այդ թվում՝ Յոշուա Բենջիոյի LawZero-ն, SaferAI-ը, AI Safety Connect-ը և ֆրանսիական Ifri վերլուծական կենտրոնը, հայտնել է Ելիսեյան պալատըdpa-international.com+2։

Երեք պարտավորություն

Առաջին պարտավորությունը սահմանային մոդելների ռիսկերի գնահատման և կառավարման ընդհանուր շրջանակն է։ Այն կենտրոնանում է կիբեր և CBRN (քիմիական, կենսաբանական, ռադիոլոգիական և միջուկային) ոլորտներում վտանգավոր չարաշահումների, ինչպես նաև աճող ինքնավարության, անհամապատասխանության և վերահսկողության կորստի ռիսկերի վրա։ Ստորագրողները համաձայնել են հրապարակել իրենց գնահատումների ոչ զգայուն արդյունքները ստանդարտացված ձևաչափով՝ ընդհանուր հանրային շտեմարանում, ըստ հռչակագրիpresidentti.fi։

Երկրորդը վերաբերում է պատասխանատվությանը։ Մշակողները պարտավորվում են բացահայտել մոդելի հնարավորությունները, սահմանափակումները և հայտնի ռիսկերը, ինչպես նաև աջակցել անկախ գնահատողների կողմից իրականացվող գնահատմանը։ Նրանք նաև պարտավորվում են կառուցել անվտանգության մեխանիզմներ, որոնք կարող են դադարեցնել կամ անջատել մոդելները իրենց վերահսկողության ներքո, ներառյալ ուսուցման և ներքին օգտագործման ընթացքում։ Քաղաքականություն մշակողները, իրենց հերթին, պարտավորվել են հստակեցնել պատասխանատվությունը, երբ AI-ն առաջացնում է լայնածավալ վնաս, ներառյալ անդրսահմանային վնասը, ասվում է տեքստումpresidentti.fi։

Երրորդը կոչ է անում ստեղծել արագ ծանուցման համակարգեր և ավելի լավ տեղեկատվության փոխանակում լուրջ կիբեր և AI վերահսկողության միջադեպերի վերաբերյալ։ Այն նաև պարտավորեցնում է կառավարություններին առաջարկել անվտանգ ուղիներ ազդարարների համար, ըստ Ելիսեյան պալատիelysee.fr։

Անվտանգության լարված ֆոն

Հռչակագիրը հրապարակվել է նոյեմբերի 2-ին տեղի ունեցած ենթադրյալ կիբերհարձակումից մեկ շաբաթ անց, որը շարքից հանել էր սուպերմարկետների սառնարանային համակարգերը 11 եվրոպական երկրներում, հայտնում է Türkiye Today-ը։ Նույն զեկույցում նշվում է, որ Wiz կիբերանվտանգության ընկերությունը հոկտեմբերն անվանել է «Սև հոկտեմբեր» այն բանից հետո, երբ առնվազն ինը AI մշակման հարթակներ հայտնել են անվտանգության միջադեպերի մասին։ Այն հավելում է, որ իշխանությունները դեռ չեն պարզել, թե արդյոք հարձակումները կապված են եղել, կամ արդյոք AI-ն դեր է խաղացել յուրաքանչյուր դեպքումturkiyetoday.com։

Ելիսեյան պալատը հայտնել է, որ կանոնադրությունը նպատակ ունի տեղեկացնել ազգային և եվրոպական օրենսդրական բանավեճերը, հայտնում է Pollar-ըpollar.news։