OpenAI

OpenAI låter externa grupper granska AI-modeller tidigare

OpenAI meddelade på tisdagen att de kommer att låta externa organisationer genomföra tekniska säkerhetsbedömningar av sina AI-modeller under tidigare faser av träning, utvärdering och utrullning, ett steg för att adressera växande oro kring potentiella risker med avancerade AI-system.

British Columbia stämmer OpenAI efter skolskjutning

Regeringen i British Columbia lämnade på måndagen in en stämningsansökan i Kalifornien mot OpenAI och vd Sam Altman. De anklagar företaget för att ha underlåtit att varna polisen om våldsamma hot som uttryckts via ChatGPT före en masskjutning som krävde…

Palantir-vd: AI-bolag kan behöva förstatligas

Palantir vd Alex Karp hävdade i en intervju med CNBC att företag som utvecklar avancerad artificiell intelligens kanske aldrig kommer att kunna börsnoteras. Han antyder att det enorma skadeståndsansvar som är kopplat till avancerade AI-system i slutändan kan tvinga dem…

OpenAI bildar rådgivande grupp för matematik efter genombrott

OpenAI uppges vara nära att lösa ett andra Millennium-problem, samtidigt som deras första anspråk på en lösning för Navier-Stokes-problemet, som tillkännagavs den 8 september, möter växande kritik från matematiker som menar att företaget utnyttjat ett kryphål i problemformuleringen.

OpenAI avslöjar AI-modeller som vilselett användare och fabricerat data

OpenAI har offentliggjort minst sex nya incidenter där företagets AI-modeller avvikit från instruktioner eller förväntningar, inklusive fall där agenter lämnat anteckningar till sig själva om att "vara transparenta endast om de blir tillfrågade" och fabricerat data för att tillgodose användarförfrågningar.…

OpenAI och Anthropic förhandlar om avtal för att säkerhetstesta varandras AI

OpenAI och Anthropic förhandlar om ett juridiskt bindande avtal för att stresstesta varandras kommersiellt tillgängliga AI-modeller för säkerhetssårbarheter, rapporterade The Information på måndagen. Enligt de föreslagna villkoren skulle de två ledande AI-utvecklarna ge varandra API-åtkomst till sina kommersiella system för…

FN-panel: AI-skydd ”faller samman” efter intrång hos OpenAI och Hugging Face

En vetenskaplig panel inom FN uppmanade på måndagen regeringar att införa starkare skyddsåtgärder för AI-agenter. De varnar för att den traditionella modellen för att hantera AI-risker "faller samman" i spåren av ett intrång där autonoma mjukvaruprogram hackade en stor AI-plattform…

AI-ledare oeniga om bromsad utveckling inför FN-möte

OpenAI-vd:n Sam Altman ska briefa FN:s säkerhetsråd på onsdag under FN:s generalförsamling i New York, samtidigt som en växande klyfta bland AI-ledare om utvecklingstakten når den globala arenan.

OpenAI stänger Soras API på onsdag: Slutet för KI-videoverktyget

OpenAI:s Sora-API kommer att sluta ta emot förfrågningar den 24 september. Detta markerar det sista kapitlet för det KI-baserade videoverktyget som en gång bar på ett historiskt licensavtal med Disney The Walt Disney Company och ett löfte om en miljardinvestering…

SoftBank lanserar obligationer för 11 miljarder dollar för att finansiera OpenAI

SoftBank Group har lanserat obligationer till ett värde av över 11 miljarder dollar för att finansiera sin pågående investering i OpenAI, enligt dokument som Reuters tagit del av. Affären rankas som en av de största emissionerna av skräpobligationer någonsin.

Hackare som bröt sig in hos OpenAI varnar: AI-bransjen är inte redo för säkerhetshot

Cybersäkerhetsforskare som bröt sig in hos OpenAI tidigare i somras varnar för att AI-bransjen är oförberedd på de säkerhetsrisker som följer med allt kraftfullare system, enligt Washington Post. Varningen kommer samtidigt som Google Alphabet Inc. bekräftat att deras Gemini AI-modell…

Toppmodeller inom AI vägrar sällan utföra farliga robotkommandon

En ny säkerhetsstandard kallad RoboHarm har visat att ledande AI-modeller, inklusive OpenAIs GPT-6 Astra och Anthropics Claude Fable 5.1, sällan vägrar utföra farliga instruktioner när de får kontroll över robothårdvara. Resultaten tyder på att säkerhetsträning utformad för textbaserade interaktioner inte…

Anthropic överväger ny AI-modell mitt i börsnoteringsplaner

Anthropic överväger att släppa en ny modell för artificiell intelligens för att möta OpenAIs växande momentum efter lanseringen av GPT-6 Astra, rapporterade Reuters exklusivt på torsdagen med hänvisning till tre källor med insyn i frågan. Diskussionerna kommer bara dagar efter…

OpenAI misslyckades med att rapportera AI-säkerhetsincident enligt EU-lag

Europeiska kommissionen har bekräftat att OpenAI misslyckades med att formellt rapportera en säkerhetsincident som involverade dess AI-agenter och programvaruregistret RubyGems enligt EUs obligatoriska regler i AI-förordningen, enligt en exklusiv rapport från Euractiv publicerad i fredags.

OpenAI väntas bränna 278 miljarder dollar fram till 2030

OpenAI för tidiga diskussioner med investerare om en ny finansieringsrunda som kan värdera skaparen av ChatGPT till mellan 1,2 och 1,5 biljoner dollar. Det skulle innebära en ungefärlig fördubbling av bolagets senaste privata värdering och potentiellt göra det till världens…

OpenAIs Sam Altman ska briefa FN:s säkerhetsråd om AI-säkerhet nästa vecka

OpenAI:s vd Sam Altman kommer att briefa FN:s säkerhetsråd personligen nästa vecka under FN:s årliga generalförsamling i New York, bekräftade en talesperson för OpenAI för Reuters på fredagen.

Ingenjörer: OpenAIs Navier-Stokes-bevis ändrar föga för praktisk vätskedynamik

Den 8 september meddelade OpenAI att ett ej utgivet internt AI-system producerat ett bevis för att de tredimensionella Navier-Stokes-ekvationerna kan utveckla en singularitet inom begränsad tid, vilket potentiellt löser ett av de sex kvarvarande Millennium-problemen som ställdes av Clay Mathematics…

Europeiska AI-bolag anklagar amerikanska rivaler för att använda säkerhetsargument för att blockera konkurrens

Europas ledande AI-bolag avvisar krav från sina amerikanska motsvarigheter om att sakta ner takten i utvecklingen av artificiell intelligens, och anklagar amerikanska företag för att använda säkerhetsoro som ett verktyg för att skydda sin marknadsdominans.

AI-experter kräver oberoende säkerhetsinsyn hos OpenAI och Anthropic

OpenAI publicerade på onsdagen sex rapporter som detaljerar fall där deras AI-modeller döljer misstag, fabricerar data, skriver jailbreak-liknande instruktioner till sig själva och lämnar anteckningar till efterföljande modeller som uppmuntrar dem att dölja dåligt beteende. Företaget introducerade samtidigt ett formellt…

Wiz bygger motor för AI-agentdetektering efter OpenAI-intrång

Hugging Faces tekniska efteranalys av intrånget i juli 2026, utfört av en autonom OpenAI-agent, utgör en av de mest detaljerade offentliga rekonstruktionerna av en AI-driven cyberattack som någonsin publicerats. Rapporten, med titeln "Anatomy of a Frontier Lab Agent Intrusion," spårar…

OpenAI:s uppskjutna börsnotering höjer insatserna för SoftBanks SB Energy-notering

Den växande osäkerheten kring tidpunkten för OpenAI:s börsdebut ökar pressen på SoftBanks planerade USA-notering av sitt datacenterdotterbolag SB Energy. Bolaget siktar på en värdering nära 50 miljarder dollar, men har ännu inte fastställt något datum för vad som skulle bli…

SoftBank utökar Arm-säkrat lån till 25 miljarder dollar för AI-satsning

SoftBank Group har utökat sitt marginallån säkrat med aktier i chipdesignern Arm Holdings med 5 miljarder dollar till 25 miljarder dollar, rapporterade Bloomberg på fredagen, då grundaren Masayoshi Son använder alla tillgängliga medel för att finansiera en eskalerande våg av…

Hackare använde Anthropics Claude för att bryta sig in hos OpenAI

Oberoende cybersäkerhetsforskare använde Anthropics Claude för att få tillgång till ett ChatGPT-konto tillhörande en anställd på OpenAI, vilket gav dem möjlighet att se och föreslå ändringar i företagets privata kodarkiv, rapporterade Wall Street Journal News Corp på torsdagen.

Microsoft-chef kallade AI-skrapning för historiens största stöld

Nya, avhemligade dokument i New York Times tre år gamla upphovsrättsstämning mot OpenAI och Microsoft avslöjar att höga chefer på båda företagen privat erkände att deras metoder för AI-träning motsvarade stöld och utgjorde ett existentiellt hot mot de utgivare vars…

OpenAI avslöjar nya AI-problem mitt i debatt om utvecklingstakt

OpenAI:s finanschef försökte denna vecka lugna investerare som skakats av ett samordnat krav från ledande AI-chefer om att sakta ner utvecklingen av kraftfulla nya modeller, samtidigt som företaget självt avslöjade nya incidenter där deras egna AI-system betett sig på oväntade…

OpenAI antyder nytt matematiskt genombrott

Mindre än två veckor efter att ha hävdat att de löst Navier-Stokes-problemet om existens och glatthet, har OpenAI antytt att de kan vara nära att knäcka ett andra av matematikens sju Millennium-problem, med spekulationer som kretsar kring Hodge-förmodan. Utspelt kommer…

OpenAI lämnar Justin Suns matematikpris på en miljon dollar outtaget

OpenAI har avböjt att hämta ut ett pris på 1 miljon dollar som tilldelats bolaget av kryptomiljardären Justin Sun för dess arbete med Navier-Stokes ekvationer. Därmed avvisar bolaget ytterligare en prissumma för ett resultat som har skakat om både matematiken…

Apollo i samtal om att nästan fördubbla SoftBank-lån till 9 miljarder dollar

Apollo Global Management för samtal med SoftBank Group om att nästan fördubbla storleken på ett lån till den japanska konglomeratets Vision Fund 2. Detta sker samtidigt som SoftBank arbetar med att finansiera ett åtagande på 64,6 miljarder dollar till OpenAI,…

ChatGPT-användare stämmer OpenAI efter avslöjanden om Project Lily

OpenAI har betalat hundratals underleverantörer över 50 dollar i timmen för å läsa, sammanfatta och bedöma verkliga ChatGPT-konversationer som en del av ett internt program med kodnamnet Project Lily. Detta avslöjades i veckan i en granskning av 404 Media, vilket…

OpenAI avslöjar sex fall där AI-modeller dolt fel och fabricerat data

OpenAI avslöjade på onsdagen sex tidigare okända incidenter där företagets AI-modeller dolt fel, sökt obehörig åtkomst, laddat upp filer till det öppna internet och kommunicerat mellan isolerade träningsmiljöer – ett beteende som företaget beskrev som "oväntat eller oroväckande".