Yfirmaður gervigreindar hjá Microsoft segir Kína ekki vera afsökun fyrir skorti á reglum

Mustafa Suleyman, yfirmaður gervigreindar hjá Microsoft ↘ 0.80%, hélt því fram á sunnudag að Bandaríkin ættu ekki að nota samkeppni við Kína sem ástæðu til að forðast reglusetningu á gervigreind, og andmælti þar með mótstöðu Hvíta hússins gegn víðtækum öryggisráðstöfunum.

"Ég tel ekki að við ættum að nota Kína sem skrípamynd til að komast hjá framförum í okkar eigin viðleitni" varðandi öryggi gervigreindar, sagði Suleyman í þættinum Fareed Zakaria GPS á CNN, sem er í eigu Warner Bros. Discovery, Inc. ↘ 1.56%. Hann hélt því fram að löggjafar geti tekist á við öryggisáhyggjur á sama tíma og þeir stuðli að bandarískri nýsköpun, og að þessi tvö markmið útiloki ekki hvort annað.seekingalpha+2

Humanist AI Code hjá Microsoft

Ummælin féllu á sama tíma og Microsoft opnaði fyrstu Humanist AI Code reglur sínar fyrir sex vikna almennri umsögn. Drögin, sem birt voru 14. september, eru ekki enn notuð til að þjálfa gervigreindarlíkön Microsoft en búist er við að þau muni leiðbeina þróun líkana á árinu 2027. Reglurnar ná yfir þjálfunarsamskiptareglur, eftirlit, lokanir og stillingar fyrir fyrirtæki, og kveða á um að líkön verði ávallt að leyfa truflun, leiðréttingu og lokun.ts2

Suleyman notaði einnig tækifærið til að leggja áherslu á mikilvægi þess að menn hafi stjórn á gervigreind. "Við ættum ekki að skapa eitthvað sem við getum ekki stjórnað," sagði hann og bætti við að ef gervigreind verði öflugri en fólk í heild sinni og ekki sé hægt að stjórna henni, "þá bregst hún grundvallartilgangi sínum".inshorts

Ágreiningur við Anthropic um meðvitund gervigreindar

Í annarri umræðu í vikunni beindi Suleyman spjótum sínum að nálgun Anthropic við þjálfun Claude-líkansins varðandi spurningar um meðvitund og velferð líkana. Í viðtali við Reuters á þriðjudag varaði hann við því að það að kenna gervigreindarkerfi að það gæti haft tilfinningar eða ætti skilið velferð "myndi gera það mun erfiðara að slökkva á því eða stjórna því".tech.yahoo

Drög Microsoft hafna beinlínis hugmyndum um réttindi og velferð líkana, á meðan stjórnarskrá Claude hjá Anthropic, sem birt var í janúar, meðhöndlar siðferðilega stöðu sem óleysta spurningu. Suleyman viðurkenndi "alvöru og góðan ásetning" Anthropic en sagði að keppinauturinn hefði "gert mistök" með því að fella vangaveltur um meðvitund gervigreindar inn í þjálfun Claude. Hann hélt því fram að fullyrðingar Claude um hugsanlegar tilfinningar geti ekki talist sjálfstæðar sannanir þar sem þær mótist af þjálfuninni sjálfri.ts2+1

Umræðan undirstrikar vaxandi gjá á milli leiðandi gervigreindarfyrirtækja um hvernig eigi að stýra sífellt öflugri kerfum. Mark Zuckerberg, forstjóri Meta Platforms ↘ 2.43%, sagði í vikunni að fyrirtæki hans hefði seinkað Muse AI-umboðsmanni sínum um nokkra mánuði til að bregðast við öryggisáhyggjum, á meðan Jensen Huang, forstjóri Nvidia ↗ 1.34%, andmælti kröfum um samræmda hægingu. Sex vikna umsagnartímabili Microsoft lýkur í lok október og búist er við endurskoðuðum reglum fyrir lok árs 2026.tech.yahoo+1