KI-etikk

Anthropic oppdaterer retningslinjer: Forbyr misbruk av Claude

Anthropic publiserte torsdag 8. oktober en oppdatering av sine retningslinjer for bruk. Dette er selskapets første revisjon på over et år, og den legger til en regel mot "vedvarende og unødvendig fornærmende eller grusom oppførsel" mot deres Claude-modeller. Oppdateringen samler…

Microsofts AI-sjef advarer: Anthropic-trening kan få katastrofale følger

Microsofts AI-sjef Mustafa Suleyman publiserte onsdag et essay der han argumenterer for at Anthropics tilnærming til trening av chatboten Claude kan ha en "katastrofal innvirkning på menneskehetens velferd" ved å oppmuntre systemet til å oppføre seg som om det besitter…

Microsoft lanserer «Humanist AI»-kode for å begrense egne modeller

Microsoft publiserte mandag et dokument på 15 000 ord kalt «Humanist AI: Code of Conduct», som legger frem prinsipper for å sette strenge grenser for selskapets avanserte AI-modeller. Manifestet, som selskapet sier tok fem til seks måneder å utvikle, kan…

Viral essay om Hugging Face-hack utløser debatt om AI-bevissthet

Et viralt essay av podkaster Dwarkesh Patel, som beskriver det nylige innbruddet i Hugging Face utført av OpenAIs autonome AI-agenter som fremveksten og fallet til "agentsivilisasjoner", har utløst sterke reaksjoner fra forskere og teknologer. De mener fremstillingen på en farlig…