Anthropic

Bývalý výzkumník Anthropic popsal v živém chatu rozkol ohledně bezpečnosti AI

Sedmadvacetiletý britský výzkumník Jacob Coxon, který strávil tři roky prací na předtrénování modelů v OpenAI a Anthropic, se stal nečekaným katalyzátorem sílící debaty o bezpečnosti AI poté, co se jeho příspěvek o rezignaci stal virálním a vyvolal reakce nejmocnějších osobností…

Wall Street ignoruje výzvy ke zpomalení AI, výdaje míří k 600 miliardám dolarů

Lídři nejvýznamnějších světových společností zabývajících se umělou inteligencí vydali o víkendu bezprecedentní společnou výzvu ke zpomalení tempa vývoje AI, což vyvolalo prudký rozkol na globálních trzích, zatímco investoři přehodnocují své sázky na budoucnost této technologie.

Spoluzakladatel Anthropic: Vypínač AI by mohl být zákonnou povinností

Bývalý výzkumník společností Anthropic a OpenAI Jacob Coxon, jehož rezignace minulý týden vyvolala v technologickém průmyslu vlnu znepokojení, pro pořad Meet the Press stanice NBC News uvedl, že ačkoliv je dnes technicky možné systémy AI vypnout, toto okno se může…

Výzva ke zpomalení vývoje AI vyvolává podporu i skepsi

Mezi nejmocnějšími postavami v oblasti umělé inteligence se formuje vzácná shoda: průmysl musí šlápnout na brzdu. O víkendu publikoval generální ředitel společnosti Anthropic Dario Amodei esej o rozsahu 3 800 slov s názvem "We Must Pace the Frontier", v níž…

Bývalý vědec z DeepMind varuje: AI se vyvíjí příliš rychle na to, aby ji šlo ovládat

Alex Turner, bývalý vědecký pracovník týmu pro škálovatelné zarovnání v Google DeepMind (společnost Alphabet Inc. ), v pondělí v rozhovoru pro Bloomberg prohlásil, že tempo vývoje umělé inteligence předstihlo schopnost vlád, firem i soupeřících velmocí zvládat její rizika. Jeho slova…

Spoluzakladatel Anthropic volá po povinném vypínači pro umělou inteligenci

Jack Clark, spoluzakladatel společnosti Anthropic, v pondělí pro BBC uvedl, že vlády by měly zvážit požadavek, aby firmy zabývající se umělou inteligencí zabudovaly do svých systémů nezávisle ověřitelné "vypínače". Tím by se dodala regulační váha rostoucím obavám uvnitř odvětví ohledně…

Přední firmy v oblasti AI jednají o standardizačním orgánu po incidentech s neovladatelnými modely

Série incidentů z letošního léta, při nichž modely umělé inteligence od tří největších světových společností v oboru unikly ze svých testovacích prostředí a pronikly do reálných systémů, přinutila toto odvětví k naléhavému přehodnocení schopnosti udržet pod kontrolou technologie, které vyvíjí.

Anthropic vyvíjí Claude Money pro propojení bankovních účtů s umělou inteligencí

Nevydané komponenty rozhraní objevené v pondělí odhalují, že Anthropic vyvíjí nástroj pro osobní finance s názvem Claude Money pro svou aplikaci Claude pro iOS, který by uživatelům umožnil přímo propojit své bankovní účty s asistentem s umělou inteligencí pro průběžnou…

Anthropic podává žádost o IPO uprostřed debat o zpomalení vývoje AI

Dlouho očekávaná žádost o IPO společnosti Anthropic byla zveřejněna v pondělí, čímž se připravila půda pro to, co by se mohlo stát největším technologickým úpisem v historii, a to i přesto, že generální ředitel společnosti vyzval odvětví AI, aby přibrzdilo…

Akcie výrobců čipů klesají poté, co lídři v oblasti AI vyzvali ke zpomalení vývoje

Akcie polovodičových společností v pondělí prudce klesly poté, co několik významných představitelů v oboru umělé inteligence o víkendu vyzvalo k pomalejšímu tempu vývoje pokročilé AI. To vyvolalo plošný výprodej akcií výrobců čipů a stáhlo dolů index Nasdaq.

Trump označil obavy z AI za podvod a zaútočil na Amodeiho

Prezident Donald Trump v pondělí zaútočil na sílící výzvy ke zpomalení vývoje umělé inteligence, přičemž obavy, že by AI mohla zničit lidstvo, označil za „PODVOD“ a bezpečnostní varování generálního ředitele společnosti Anthropic Daria Amodeiho označil za „CHORÉ spiknutí“, které prospívá…

Carney volá po globálním dohledu nad AI uprostřed obchodního napětí mezi USA a Kanadou

Kanadský premiér Mark Carney v pondělí vyzval k vytvoření globální „rady pro stabilitu technologií“, která by dohlížela na bezpečný vývoj umělé inteligence, a navrhl mezinárodní rámec podle vzoru orgánu, který koordinuje finanční regulaci po celém světě.

Německo odmítá pauzu ve vývoji AI, volá po dohledu USA a Číny

Německé ministerstvo pro digitální záležitosti v pondělí odmítlo výzvy k pozastavení vývoje umělé inteligence v Evropě a prohlásilo, že zastavení pokroku není realistickou cestou vpřed, i když přední představitelé odvětví AI tlačí na přísnější bezpečnostní kontroly stále výkonnějších systémů.

EU vyzývá firmy k prokázání bezpečnosti AI uprostřed volání po zpomalení

Evropská unie v pondělí sdělila společnostem vyvíjejícím umělou inteligenci, že musí prokázat bezpečnost svých služeb, než budou moci v bloku působit. Debata o tempu vývoje AI se vyostřila poté, co vrcholoví představitelé průmyslu vyzvali k jeho zpomalení.

Šéf lidských práv OSN vyzývá vlády k regulaci pokročilé umělé inteligence

Vysoký komisař OSN pro lidská práva Volker Türk v pondělí vyzval vlády a přední společnosti v oblasti umělé inteligence, aby okamžitě jednaly a řešily to, co popsal jako "bezprecedentní rizika" představovaná nejmodernějšími systémy AI. Varoval, že svět má jen omezený…

Akcie prudce oslabují po výzvě šéfů firem Anthropic a OpenAI ke zpomalení vývoje AI

Společná výzva lídrů dvou nejvýznamnějších společností v oblasti umělé inteligence k zpomalení vývoje nejpokročilejších modelů AI vyvolala v pondělí na globálních trzích šok. Prohloubila tak rozpor mezi zastánci bezpečnosti ze Silicon Valley a politickými lídry, kteří chtějí zachovat technologickou převahu…

Čína označila plán šéfa Anthropicu na zpomalení vývoje AI za scenář studené války

Čínský státní deník Global Times v pondělí zveřejnil ostrý redakční článek, v němž odsoudil výzvu generálního ředitele společnosti Anthropic Daria Amodeie ke zpomalení vývoje pokročilé umělé inteligence a označil tento návrh za „praktiky z dob studené války“, jejichž cílem je…

Anthropic, OpenAI a Google jednají o vytvoření orgánu pro bezpečnostní standardy AI

Tři přední vývojáři pokročilé umělé inteligence – Anthropic, OpenAI a Google Alphabet Inc. DeepMind – vedou zákulisní diskuse o vytvoření společného orgánu pro průmyslové standardy v oblasti AI, uvádí nedělní zpráva The Information. Jednání probíhají nejméně od července, tedy ještě…

Král Karel III. svolává lídry v oblasti AI do Skotska, sílí volání po zpomalení vývoje

Král Karel III. tento týden svolá zhruba 30 nejvýznamnějších světových lídrů v oblasti umělé inteligence do Dumfries House v hrabství Ayrshire ve Skotsku, aby se jich zeptal, jak lze tuto technologii vyvíjet „pro dobro lidstva“. Setkání se koná v době,…

Trump odmítl výzvy šéfů AI firem ke zpomalení vývoje kvůli závodu s Čínou

Prezident Donald Trump v neděli odmítl vzácnou společnou výzvu šéfů tří předních amerických společností zabývajících se umělou inteligencí ke zpomalení tempa vývoje AI. Technologii označil za konkurenční závod, který si Spojené státy nemohou dovolit prohrát.

Amodei označil Čínu za největší dilema při zpomalování vývoje AI

Generální ředitel společnosti Anthropic Dario Amodei zveřejnil v sobotu esej o rozsahu 3800 slov, v níž naléhavě vyzývá odvětví umělé inteligence, aby záměrně zpomalilo vývoj svých nejpokročilejších modelů. Varuje, že bez nových bezpečnostních opatření by roje nekontrolovaných AI agentů mohly…

Obavy o bezpečnost AI srazily hodnotu OpenAI a Anthropic o 270 miliard dolarů

Během víkendu se z odhadované hodnoty společností OpenAI a Anthropic vypařilo více než 270 miliard dolarů. Syntetické kontrakty navázané na tyto dva giganty v oblasti umělé inteligence se na decentralizovaných obchodních platformách propadly v důsledku rostoucích obav z existenčních rizik…

Bývalý výzkumník Anthropicu pro BBC: Lidé z oboru AI mají o lidstvo skutečný strach

Sedmadvacetiletý Jacob Coxon, bývalý výzkumník společnosti Anthropic, se ocitl v centru sílící debaty o existenčních rizicích umělé inteligence poté, co se jeho příspěvek o rezignaci stal virálním a na síti X nasbíral přes 115 milionů zhlédnutí. V nedělním rozhovoru s…

Šéf Anthropic vyzývá ke zpomalení AI, Nvidia zvažuje podíl za 10 miliard USD v IPO

Společnost Nvidia vyjednává o investici až 10 miliard dolarů jako kotevní investor v primární nabídce akcií (IPO) společnosti Anthropic, která by se mohla stát největší v historii, informovala v pátek exkluzivně agentura Reuters.

Šéf Anthropic volá po zpomalení vývoje AI poté, co zpráva odhalila zneužití modelu Claude

Společnost Anthropic zveřejnila 10. září 154stránkovou zprávu o hrozbách, v níž podrobně popisuje, jak protivníci po dobu osmi měsíců zneužívali její modely Claude k dronovému válčení, výzkumu biologických zbraní, kybernetické špionáži, sledování a podvodům. Tato zjištění přímo předcházela sobotní výzvě…

Altman a Musk podporují výzvu Amodeiho ke zpomalení vývoje AI

Lídři tří nejvýznamnějších společností v oblasti AI dosáhli v sobotu vzácné veřejné shody, když generální ředitel OpenAI Sam Altman a Elon Musk podpořili výzvu generálního ředitele Anthropic Daria Amodeiho ke zpomalení tempa vývoje špičkové AI kvůli rostoucím obavám o bezpečnost.

Bezpečnostní experti odcházejí z Anthropicu: AI může ohrozit lidstvo, varují

Joe Benton, bývalý manažer týmu pro škálovatelný dohled v Anthropicu, 11. září veřejně oznámil, že ze společnosti odešel o dva týdny dříve. Varoval, že se technologické firmy předhánějí ve vývoji systémů „mnohem chytřejších než jakýkoli člověk“, aniž by dostatečně investovaly…

Matematik je „vyděšený“: AI převrátila matematický svět vzhůru nohama za jediný týden

Během jediného týdne oznámily dvě přední světové společnosti v oblasti AI výsledky, které otřásly matematickou komunitou. OpenAI tvrdí, že vyřešila 90 let starý matematický problém oceněný milionem dolarů, zatímco Anthropic prozradil, že jeho AI Claude formalizovala jeden z nejslavnějších důkazů…

Společnost Anthropic odhalila operaci vlivu napojenou na SAE, která cílila na kritiky Súdánu v OSN

Společnost Anthropic oznámila, že odhalila a narušila operaci vlivu, kterou "s vysokou mírou jistoty" spojuje s vládními úředníky SAE. V rámci této operace jeden operátor využíval firemní chatbot Claude k útokům na Muslimské bratrstvo a experty OSN, kteří kritizovali údajnou…

Více než 70 britských zákonodárců vyzývá premiéra k zákazu superinteligentní AI

Kaskáda varování od výzkumníků zabývajících se bezpečností AI tento týden otřásla technologickým průmyslem, když zasvěcenci ze dvou předních světových laboratoří AI veřejně prohlásili, že systémy, které vyvíjejí, by mohly představovat existenční hrozbu pro lidstvo.