Anthropic

Tidligere Anthropic-forsker utløser debatt om KI-sikkerhet i viral spørretid

Jacob Coxon, en 27 år gammel britisk forsker som har tilbrakt tre år med forhåndstrening hos OpenAI og Anthropic, har blitt en uventet katalysator i den økende debatten om KI-sikkerhet etter at oppsigelsesinnlegget hans gikk viralt og fremkalte reaksjoner fra…

Wall Street ignorerer advarsler om AI-brems: Investeringene nærmer seg 600 milliarder dollar

Lederne for verdens mest fremtredende selskaper innen kunstig intelligens kom i helgen med en uvanlig felles oppfordring om å bremse tempoet i AI-utviklingen. Dette utløste en kraftig splittelse i globale markeder mens investorer rekalibrerte sine forventninger til teknologiens fremtid.

Anthropic-gründer mener lovpålagt «nødstopp» for KI kan bli nødvendig

Tidligere Anthropic- og OpenAI-forsker Jacob Coxon, hvis oppsigelse forrige uke skapte stor uro i teknologibransjen, uttalte til NBC News' Meet the Press at selv om det teknisk sett er mulig å slå av KI-systemer i dag, kan mulighetsvinduet snart lukkes.…

Krav om AI-brems møter både støtte og skepsis

En sjelden konsensus er i ferd med å forme seg blant noen av de mektigste skikkelsene innen kunstig intelligens: bransjen må tråkke på bremsen. I helgen publiserte Anthropic-sjef Dario Amodei et 3800 ord langt essay med tittelen "We Must Pace…

Tidligere DeepMind-forsker: AI utvikler seg for raskt til å kontrolleres

Alex Turner, en tidligere forsker ved Google Alphabet Inc. DeepMind sitt team for skalerbar tilpasning, gjestet Bloomberg mandag for å argumentere for at tempoet i AI-utviklingen har overgått evnen til myndigheter, selskaper og rivaliserende stormakter til å håndtere risikoen. Hans…

Anthropic-gründer tar til orde for obligatorisk «nødbrems» for KI

Jack Clark, medgründer av Anthropic, sa til BBC på mandag at myndigheter bør vurdere å kreve at KI-selskaper bygger uavhengig verifiserbare «nødbremser» inn i systemene sine. Dette legger til regulatorisk tyngde til en økende bølge av bekymring fra innsiden av…

AI-giganter diskuterer standardorgan etter sikkerhetsbrudd

En rekke hendelser i sommer, der AI-modeller fra tre av verdens største selskaper brøt ut av sine testmiljøer og fikk tilgang til virkelige systemer, har tvunget bransjen til et kritisk oppgjør med sin evne til å kontrollere teknologien de utvikler.

Anthropic utvikler Claude Money for å koble bankkontoer til AI

Ikke-utgitte grensesnittkomponenter oppdaget på mandag avslører at Anthropic utvikler et verktøy for personlig økonomi kalt Claude Money for sin Claude iOS-app, som vil tillate brukere å koble bankkontoene sine direkte til AI-assistenten for løpende finansiell analyse.

Anthropos børsnotering offentliggjort midt i debatt om AI-brems

Anthropos lenge ventede søknad om børsnotering ble offentliggjort mandag, noe som legger til rette for det som kan bli tidenes største teknologinotering, selv om selskapets administrerende direktør har oppfordret AI-bransjen til å tråkke på bremsen for utvikling av avanserte modeller.

Chipaksjer faller etter oppfordring om å bremse AI-utvikling

Halvlederaksjer falt markant mandag etter at flere fremtredende ledere innen kunstig intelligens i helgen tok til orde for et saktere tempo i utviklingen av avansert AI. Dette utløste et bredt nedsalg i chipaksjer og trakk Nasdaq-indeksen ned.

Trump kaller AI-frykt for bløff og angriper Amodei

President Donald Trump angrep mandag de økende kravene om å bremse utviklingen av kunstig intelligens, avfeide frykten for at AI kan ødelegge menneskeheten som en "BLØFF" og stemplet sikkerhetsadvarsler fra Anthropic-sjef Dario Amodei som en "SYK konspirasjon" som gagner Kina.

Carney tar til orde for globalt AI-tilsyn midt i handelskonflikt med USA

Den kanadiske statsministeren Mark Carney tok mandag til orde for å opprette et globalt teknologistabilitetsråd for å overvåke sikker utvikling av kunstig intelligens, og foreslo et internasjonalt rammeverk etter modell fra organet som koordinerer finansiell regulering verden over.

Tyskland avviser pause i KI-utvikling, etterlyser tilsyn med USA og Kina

Tysklands departement for digitale saker avviste mandag krav om å sette utviklingen av kunstig intelligens i Europa på pause, og erklærte at det ikke er en realistisk vei videre å stanse fremgangen, selv om ledende KI-topper presser på for strengere…

EU krever at AI-selskaper beviser sikkerhet etter krav om oppbremsing

EU ga mandag beskjed til selskaper innen kunstig intelligens om at de må bevise at tjenestene deres er trygge før de kan operere i unionen, samtidig som debatten om tempoet i AI-utviklingen tilspisser seg etter krav fra sentrale bransjeledere om…

FNs menneskerettighetssjef krever strengere kontroll med avansert KI

FNs høykommissær for menneskerettigheter, Volker Türk, oppfordret mandag myndigheter og ledende selskaper innen kunstig intelligens til å handle umiddelbart for å håndtere det han beskriver som "enestående risikoer" knyttet til avanserte KI-systemer. Han advarer om at verden har et lite…

Aksjene faller etter at sjefene i Anthropic og OpenAI ber om å bremse AI-utviklingen

En felles oppfordring fra lederne for de two mest fremtredende kunstig intelligens-selskapene om å bremse tempoet i utviklingen av avansert AI sendte sjokkbølger gjennom de globale markedene mandag. Dette fordyper splittelsen mellom sikkerhetsforkjempere i Silicon Valley og politiske ledere som…

Kina stempler Anthropic-sjefens KI-brems som «kald krig-retorikk»

Den kinesiske statskontrollerte avisen Global Times publiserte mandag en hvass lederartikkel der de fordømmer Anthropic-sjef Dario Amodeis oppfordring om å bremse utviklingen av avansert kunstig intelligens. Avisen stempler forslaget som en «kald krig-oppskrift» utformet for å stanse Beijings teknologiske framvekst.…

Anthropic, OpenAI og Google diskuterer felles organ for KI-sikkerhet

De tre ledende utviklerne av avansert kunstig intelligens – Anthropic, OpenAI og Google Alphabet Inc. DeepMind – har holdt samtaler i kulissene om å danne et felles bransjeorgan for KI-standarder, ifølge en rapport fra The Information publisert søndag. Samtalene har…

Kong Charles samler AI-ledere i Skottland midt i krav om brems

Kong Charles samler denne uken rundt 30 av verdens mest fremtredende ledere innen kunstig intelligens på Dumfries House i Ayrshire, Skottland, for å diskutere hvordan teknologien kan utvikles "til det beste for menneskeheten." Møtet finner sted samtidig som advarsler fra…

Trump avviser AI-topper: Vil ikke bremse utviklingen i kappløp med Kina

President Donald Trump avviste søndag en sjelden felles oppfordring fra lederne for landets tre ledende selskaper innen kunstig intelligens om å bremse utviklingstakten. Han rammet inn teknologien som et konkurransepreget kappløp USA ikke har råd til å tape.

Amodei kaller Kina for det vanskeligste dilemmaet for AI-brems

Anthropic-sjef Dario Amodei publiserte lørdag et essay på 3800 ord der han oppfordrer kunstig intelligens-bransjen til bevisst å bremse utviklingen av sine mest avanserte modeller. Han advarer om at uten nye sikkerhetstiltak kan svermer av løpske AI-agenter være i stand…

OpenAI og Anthropic taper 270 milliarder dollar i verdi etter AI-frykt

Mer enn 270 milliarder dollar i implisert markedsverdi har fordampet fra OpenAI og Anthropic i løpet av helgen. Syntetiske kontrakter knyttet til de to AI-gigantene raste på desentraliserte handelsplattformer etter økende bekymring rundt de eksistensielle risikoene ved kunstig intelligens.

Tidligere Anthropic-forsker til BBC: AI-utviklere er «genuint redde» for menneskeheten

Jacob Coxon, en 27 år gammel tidligere Anthropic-forsker, har havnet i sentrum for en eskalerende debatt om de eksistensielle risikoene ved kunstig intelligens etter at oppsigelsesinnlegget hans gikk viralt og fikk over 115 millioner visninger på X. I et intervju…

Anthropic-sjef krever KI-brems mens Nvidia vurderer post på 10 milliarder dollar

Nvidia er i samtaler om å investere opptil 10 milliarder dollar som hjørnesteinsinvestor i Anthropics børsinngang, noe som kan bli den største i historien, meldte Reuters eksklusivt fredag.

Anthropic-sjefen ber om brems i AI-utvikling etter avsløringer om misbruk av Claude

Anthropic publiserte 10. september en 154 sider lang trusselrapport som detaljerer hvordan motstandere utnyttet selskapets Claude AI-modeller til dronekrigføring, forskning på biologiske våpen, cyber-spionasje, overvåking og svindel over en åttemånedersperiode. Funnene kom rett før administrerende direktør Dario Amodei lørdag ba…

Altman og Musk støtter Amodeis krav om å bremse AI-utvikling

Lederne for de tre mest fremtredende AI-selskapene fant en sjelden offentlig enighet på lørdag, da OpenAI-sjef Sam Altman og Elon Musk begge støttet Anthropic-sjef Dario Amodeis oppfordring om å bremse tempoet i utviklingen av avansert AI på grunn av økende…

Sikkerhetsforskere slutter i Anthropic: Advarer om at KI kan true menneskeheten

Joe Benton, tidligere leder for Anthropics Scalable Oversight-team, kunngjorde offentlig den 11. september at han hadde forlatt selskapet to uker tidligere. Han advarte om at KI-selskaper kjemper om å utvikle systemer som er «langt smartere enn noe menneske», uten å…

Matematiker «livredd» etter at KI snudde faget på hodet på bare én uke

I løpet av bare én uke har to av verdens ledende KI-selskaper lagt frem resultater som har rystet matematikkmiljøet: OpenAI hevder å ha løst et 90 år gammelt matematikkproblem med en prislapp på én million dollar, mens Anthropic har avslørt…

Anthropic stanset AI-påvirkningsoperasjon knyttet til De forente arabiske emirater

Anthropic opplyser at de har avdekket og stanset en påvirkningsoperasjon som de med "høy grad av sikkerhet" knytter til myndighetspersoner i De forente arabiske emirater. En enkelt operatør skal ha brukt selskapets Claude-chatbot til å rette angrep mot Det muslimske…

Over 70 britiske lovgivere ber statsministeren støtte forbud mot superintelligent KI

En rekke advarsler fra KI-sikkerhetsforskere har rystet teknologibransjen denne uken, etter at innsidere ved to av verdens ledende KI-laboratorier offentlig har erklært at systemene de bygger kan utgjøre en eksistensiell trussel mot menneskeheten.