Etika AI

Anthropic aktualizuje pravidla: zakazuje zneužívání modelu Claude

Společnost Anthropic ve čtvrtek 8. října zveřejnila aktualizaci svých pravidel užívání. Jde o první revizi pravidel za více než rok a přidává pravidlo proti "trvalému a zbytečnému zneužívání nebo krutému chování" vůči modelům Claude. Aktualizace také shromažďuje stávající pravidla proti…

Šéf AI v Microsoftu varuje: Trénování Claude od Anthropic může být katastrofální

Šéf divize AI v Microsoftu Mustafa Suleyman publikoval ve středu esej, v níž argumentuje, že přístup společnosti Anthropic k trénování chatbota Claude by mohl mít „katastrofální dopad na blaho lidstva“, protože systém nabádá k tomu, aby se choval, jako by…

Microsoft vydal kodex Humanist AI omezující jeho modely

Společnost Microsoft v pondělí zveřejnila dokument o rozsahu 15 000 slov, který nazývá "Humanist AI: Code of Conduct" (Kodex chování humanistické AI), a stanovuje v něm principy, které kladou pevné limity na špičkové modely umělé inteligence této společnosti. Manifest, na…

Virální esej o hacku Hugging Face rozdmýchala debatu o vědomí AI

Virální esej podcastera Dwarkeshe Patela, která popisuje nedávné narušení Hugging Face autonomními agenty OpenAI jako vzestup a pád "agentních civilizací", vyvolala ostrou reakci vědců a technologů. Ti tvrdí, že toto rámování nebezpečně polidšťuje software a zastírá skutečné lekce z jednoho…