Siðfræði gervigreindar

Notendastefna Anthropic bannar misnotkun á Claude

Anthropic birti á fimmtudaginn 8. október uppfærslu á notendastefnu sinni. Þetta er fyrsta endurskoðun fyrirtækisins í meira en ár og hún bætir við reglu gegn "viðvarandi og óþarfa misnotkun eða grimmd" í garð Claude-líkana þess. Uppfærslan safnar einnig fyrirliggjandi reglum…

Yfirkona Microsoft AI segir þjálfun Claude hjá Anthropic geta verið háskaleg

Mustafa Suleyman, yfirmaður gervigreindar hjá Microsoft, birti ritgerð á miðvikudag þar sem hann heldur því fram að nálgun Anthropic við þjálfun Claude spjallmennisins gæti haft "háskaleg áhrif á velferð mannkyns" með því að hvetja kerfið til að haga sér eins…

Microsoft gefur út siðareglur fyrir gervigreind

Microsoft birti á mánudag 15.000 orða skjal sem fyrirtækið kallar "Humanist AI: Code of Conduct," þar sem settar eru fram reglur sem setja gervigreindarlíkönum fyrirtækisins ströng mörk. Stefnumörkunin, sem fyrirtækið segir að hafi tekið fimm til sex mánuði að þróa,…

Vinsæl grein um Hugging Face-innbrot kveikir umræðu um meðvitund gervigreindar

Vinsæl grein hlaðvarpsstjórnandans Dwarkesh Patel, þar sem hann lýsir nýlegu innbroti sjálfstæðra gervigreindarumboða OpenAI í Hugging Face sem uppgangi og falli "umboðssiðmenningar", hefur valdið hörðum viðbrögðum frá vísindamönnum og tæknifræðingum. Þeir segja orðalagið gera hugbúnaðinn hættulega mannlegan og hylja raunverulegan…