AI-etik

Anthropic uppdaterar användarvillkor: Förbjuder missbruk av Claude

Anthropic publicerade på torsdagen den 8 oktober en uppdatering av sina användarvillkor. Det är företagets första revidering på över ett år, och den lägger till en regel mot "ihållande och onödigt kränkande eller grymt beteende" mot deras Claude-modeller. Uppdateringen samlar…

Microsofts AI-chef varnar: Anthropic-träning kan få katastrofala följder

Microsofts AI-chef Mustafa Suleyman publicerade på onsdagen en essä där han argumenterar för att Anthropics metod för att träna sin chatbot Claude kan få en "katastrofal inverkan på mänsklighetens välmående" genom att uppmuntra systemet att bete sig som om det…

Microsoft släpper ”Humanist AI”-kod för att begränsa sina modeller

Microsoft publicerade på måndagen ett 15 000 ord långt dokument som de kallar "Humanist AI: Code of Conduct", vilket fastställer principer som sätter fasta gränser för företagets avancerade AI-modeller. Manifestet, som företaget säger tog fem till sex månader att utveckla,…

Viral essä om Hugging Face-hack startar debatt om AI-medvetande

En viral essä av poddaren Dwarkesh Patel, som beskriver det nyliga intrånget i Hugging Face utfört av OpenAIs autonoma AI-agenter som uppkomsten och fallet av "agentsivilisationer", har utlöst en våldsam motreaktion från forskare och tekniker. De menar att inramningen på…