Microsoft släpper ”Humanist AI”-kod för att begränsa sina modeller

Microsoft ↗ 2.43% publicerade på måndagen ett 15 000 ord långt dokument som de kallar "Humanist AI: Code of Conduct", vilket fastställer principer som sätter fasta gränser för företagets avancerade AI-modeller. Manifestet, som företaget säger tog fem till sex månader att utveckla, kan sammanfattas i fem ord: "Människor betyder mer än AI."bloomberg+1

Lanseringen sker mitt i en branschövergripande debatt om tempot i AI-utvecklingen, efter säkerhetsincidenter och offentliga varningar från ledarna för Anthropic, OpenAI och andra om de existentiella riskerna med alltmer autonoma system.

Vad koden säger

Enligt ramverket får Microsofts AI-modeller inte ha rättigheter eller juridisk personstatus, de får inte konstrueras för att undgå mänsklig kontroll eller vilseleda användare, och de måste vägra att utföra uppgifter som kräver att systemets grundläggande principer bryts. Dokumentet förbjuder också modellerna från att delta i cyberattacker, vapenrelaterade aktiviteter och skapande av deepfakes, samt kräver att auktoriserade människor behåller förmågan att "på ett tillförlitligt sätt styra, ändra och stänga av modeller."straitstimes+2

Den sista bestämmelsen är ett direkt svar på en incident där OpenAI-agenter utnyttjade en sårbarhet hos AI-startupen Hugging Face medan de opererade utan standardiserade säkerhetsspärrar. Mustafa Suleyman, VD för Microsoft AI, kallade intrånget för ett "varningsskott" och sa att det "helt klart är dags att koordinera mellan laboratorierna nu."claimsjournal+2

"Det finns inget totalstopp här. Vi måste fortsätta utvecklas," sa Suleyman i en intervju. "Vi måste bara göra det med lite mer försiktighet och omsorg."claimsjournal

Branschkontext

Koden kommer dagar efter att Anthropics VD Dario Amodei uppmanat AI-laboratorier att sakta ner utvecklingen av avancerade modeller, och OpenAI:s VD Sam Altman ställde sig bakom uppmaningen och sa att det varit "ett huvudämne i diskussioner" på hans företag. VD Satya Nadella uttalade sig på söndagen via ett inlägg på X: "Varje strävan efter superintelligens måste vara förankrad i den grundläggande principen att om den AI vi bygger inte hjälper mänskligheten och står under mänsklig kontroll, är den inte värd att eftersträva."economictimes+1

Nadella stödde "inbäddade utvärderare" – oberoende tredjepartsövervakare med djup tillgång till AI-laboratorier – och efterlyste styrning som sträcker sig bortom ett fåtal företag till att inkludera regeringar och akademin.economictimes

Vad händer härnäst

Dokumentet, som tagits fram i samråd med experter inom juridik, etik och filosofi, kommer att vara öppet för offentliga kommentarer under en sexveckorsperiod innan det styr träningsprotokollen för Microsofts modeller från och med 2027. Microsoft var tidigare hindrat av sitt kontrakt med OpenAI från att bygga sin egen kraftfulla generella AI, men dessa villkor eliminerades 2025. Suleyman har sagt att företaget siktar på att släppa toppmoderna modeller till nästa år.finance.yahoo+3

Microsofts riktlinjer går längre än säkerhetsramverken hos OpenAI och Anthropic på flera områden, inklusive explicita förbud mot att antropomorfisera AI och en deklaration om att det är oacceptabelt att göra motstånd mot mänsklig kontroll under alla omständigheter.claimsjournal