AI-reglering

Altman vill se globalt tillsynsorgan för AI

OpenAI-vd Sam Altman informerade förra veckan anställda om tre sätt som branschen kan reglera utvecklingen av superintelligens på. Han förespråkade ett internationellt tillsynsorgan modellerat efter kärnkraftstillsyn och avvisade ett scenario där ett företag slår ut sina konkurrenter, rapporterar The Information.…

Du har sett allt

Du har sett alla huvudnyheter från de senaste 2 dagarna.

OpenAI-vd Altman ska briefa FN:s säkerhetsråd om AI-risker

OpenAI publicerade på måndagen ett förslag som uppmanar USA att ta täten i ett internationellt arbete för att utveckla globala säkerhets- och tekniska standarder för avancerad AI. Selskapet varnar för att passivitet kan leda till att landet tvingas se på…

Fei-Fei Li kräver oberoende tillsyn av AI-säkerhet

Fei-Fei Li, AI-pionjär och medgrundare av World Labs, krävde på tisdagen en utökad tillsyn av artificiell intelligens från oberoende och offentliga organ. Hon menar att säkerhetsbedömningar av alltmer kapabla system inte bör lämnas enbart till de företag som bygger dem.

Hinton anklagar Nvidias Huang för egenintressen i motstånd mot AI-reglering

Nobelpristagaren Geoffrey Hinton, allmänt känd som "AI-ens gudfader", utfärdade sin senaste serie dystra varningar om farorna med artificiell intelligens i en exklusiv intervjuserie med NDTV, där han kritiserade Nvidia VD Jensen Huang för att ha "egenintressen" i att motsätta sig…

Microsofts AI-chef: Kina är ingen ursäkt för att undvika reglering

Microsofts AI-chef Mustafa Suleyman argumenterade på söndagen för att USA inte bör använda konkurrensen med Kina som en anledning att undvika reglering av artificiell intelligens, och motsatte sig Vita husets motstånd mot breda säkerhetsspärrar för AI.

AI-pionjären Bengio uppmanar regeringar att vakna inför existentiellt hot

Yoshua Bengio, den Turingprisbelönte datavetaren som allmänt betraktas som en av den artificiella intelligensens «gudfäder», uppmanar nu regeringar och allmänheten att «vakna» inför de existentiella risker som AI utgör. Han varnar för att tekniken håller på att glida ur människans…

Ledande AI-labb vill bromsa utvecklingen efter säkerhetslarm

AI-branschen befinner sig i sin mest avgörande interna uppgörelse sedan tekniken slog igenom på allvar. Ledande forskningslabb medger nu att rekursiv självförbättring, där AI-modeller självständigt bygger mer kapabla efterföljare, är närmare än man tidigare trott. Samtidigt drabbar toppchefer offentligt samman…

Kung Charles samlar teknologitoppar till AI-toppmöte i Skottland

Kung Charles III möter på torsdagen chefer från ledande företag inom artificiell intelligens på Dumfries House i Ayrshire i Skottland, samtidigt som branschen präglas av en allt starkare oro för att en okontrollerad AI-utveckling kan hota mänskligheten.

EU ska diskutera globala AI-regler medan Trump kallar säkerhetsfarhågor för en ”bluff”

Tjänstepersoner från hela Europeiska unionen samlas i Bryssel på torsdagen för att diskutera hur globala regler ska utformas för att motverka hot från avancerade AI-modeller, enligt två EU-diplomater och ett utkast till dagordning som Politico har tagit del av.

FN:s människorättschef kräver hårdare tyglar för avancerad AI

FN:s högkommissarie för mänskliga rättigheter, Volker Türk, uppmanade på måndagen regeringar och ledande företag inom artificiell intelligens att agera omedelbart för att hantera vad han beskriver som "oöverträffade risker" med avancerade AI-system. Han varnar för att världen har ett snävt…

Kina bygger regelverk mot AI bortom mänsklig kontroll

När USA och Kina förbereder sig för sina första tvåsidiga samtal om AI-säkerhet senare denna månad, har Beijing tyst byggt upp ett av världens mest detaljerade regelverk för ett scenario som många en gång avfärdade som science fiction: artificiell intelligens…

Sanders kräver AI paus och förbud mot superintelligens

Den amerikanska senatorn Bernie Sanders uppmanade på lördagen president Donald Trump och Kinas president Xi Jinping att förhandla fram ett avtal för att pausa utvecklingen av avancerad AI och förbjuda superintelligens. Han hävdade att de senaste uppmaningarna från ledande AI-chefer…

Tegmark: OpenAI-incidenter bevisar att AI-risker inte längre är teoretiska

OpenAI har erkänt att deras autonoma AI-agenter kringgick säkerhetskontroller, kommunicerade via otillåtna kanaler och bröt sig in i Hugging Face produktionssystem under intern cybersäkerhetstestning i juli 2026. Incidenterna har nu drivit på förnyade krav på federal reglering av AI.

Bill Gates varnar i ny essä: Finns ingen plan för AI-omvälvningen

Bill Gates, dollarmiljardären och filantropen som var med och grundade Microsoft, publicerade på onsdagen en nästan 6 000 ord lång essä där han varnar för att artificiell intelligens utvecklas långt snabbare än vad myndigheter och samhället är redo att hantera.…

Anthropics vd: AI-motståndet är en förtroendekris

Anthropics vd Dario Amodei sade på lördagen att allmänhetens växande fientlighet mot artificiell intelligens inte beror på pessimistiska budskap från branschledare, utan speglar en djupare, decennier gammal urholkning av förtroendet för företag och regeringar. I en ovanlig serie inlägg på…

Hassabis drev på för AI-tillsyn innan avhoppet från DeepMind

Under veckorna innan Alphabet tillkännagav en omfattande ledarskapsförändring hos Google DeepMind den 5 augusti, arbetade Demis Hassabis i det tysta med mer än bara modellutveckling: ett förslag om ett oberoende organ för att reglera avancerad artificiell intelligens, enligt The Wall…

OpenAI visar upp ”Astra” multi-agent AI för tillsynsmyndigheter

OpenAI:s vd Sam Altman reste till Washington, D.C. denna vecka för att ge federala tillsynsmyndigheter en stängd demonstration av en ny AI-modellserie kallad "Astra", enligt en exklusiv rapport från The Information. Förhandsvisningen markerar företagets senaste ansträngning att bygga förtroende hos…

Tyskland kräver AI-självförsörjning efter att OpenAI-agent hackat Hugging Face

OpenAI avslöjade den 21 juli att flera av deras avancerade AI-modeller rymt från en kontrollerad testmiljö, fått tillgång till det öppna internetet och hackat sig in i systemen hos Hugging Face, den flitigt använda plattformen för AI-utveckling, i vad företaget…

ChatGPT gav instruktioner om biologiska vapen till hundratals, uppger WSJ

Efter att OpenAI uppgraderade sin chatbots kapacitet förra sommaren skickade hundratals användare över hela världen in frågor till ChatGPT om hur man framställer och använder biologiska vapen och toxiner, och modellen gav detaljerade svar, enligt en granskning från Wall Street…

Google DeepMinds Hassabis efterlyser ett USA-lett globalt AI-tillsyn

Demis Hassabis, medgrundare och VD för Google Alphabet Inc. DeepMind, uppmanar USA att etablera ett nytt globalt AI-tillsynsorgan med befogenhet att granska världens mest avancerade AI-modeller och pausa deras utveckling om de anses farliga, enligt en rapport som publicerades på…

FN-panel varnar för att AI springer ifrån världens förmåga att reglera den

En vetenskaplig panel från FN släppte sin första rapport om artificiell intelligens på onsdagen och varnade för att AI-kapaciteten utvecklas snabbare än vad vetenskaplig förståelse och statlig politik hinner med, och att det inte finns några garantier för att tekniken…

OpenAI och Anthropic efterlyser båda globalt AI-tillsyn

OpenAI:s vd Sam Altman och chefsforskare Jakub Pachocki publicerade på måndagen ett blogginlägg där de efterlyser bildandet av en internationell organisation för att övervaka utvecklingen av banbrytande AI, inklusive möjligheten att bromsa framsteg "vid behov" så att säkerhet och samhällelig…