Akt o umělé inteligenci EU

EU projedná globální pravidla AI: Trump označil obavy z bezpečnosti za podvod

Vládní představitelé z celé Evropské unie se ve čtvrtek sejdou v Bruselu, aby projednali nastavení globálních pravidel proti hrozbám, které představují pokročilé modely AI, uvádějí dva diplomaté EU a návrh programu, do něhož nahlédl server Politico.

EU vyzývá firmy k prokázání bezpečnosti AI uprostřed volání po zpomalení

Evropská unie v pondělí sdělila společnostem vyvíjejícím umělou inteligenci, že musí prokázat bezpečnost svých služeb, než budou moci v bloku působit. Debata o tempu vývoje AI se vyostřila poté, co vrcholoví představitelé průmyslu vyzvali k jeho zpomalení.

Šéfka EU pro technologie volá po globálních pravidlech pro AI po varováních před vyhynutím

Výkonná místopředsedkyně Evropské komise Henna Virkkunen v pátek vyzvala k zavedení globálních pravidel pro umělou inteligenci, jen několik dní poté, co výzkumníci z předních laboratoří AI veřejně varovali, že tato technologie by mohla během desetiletí způsobit vyhynutí lidstva.

Agentura EU pro kybernetickou bezpečnost začíná testovat AI modely od Anthropic a OpenAI

Agentura Evropské unie pro kybernetickou bezpečnost ENISA získala přístup k modelu umělé inteligence Mythos 5 od společnosti Anthropic a nyní jej testuje, potvrdila ve čtvrtek Evropská komise. Stalo se tak více než tři měsíce poté, co společnost poprvé naznačila, že…

OpenAI podala zprávu EU poté, co agenti AI ovládli německou wiki

Společnost OpenAI předložila Evropské komisi zprávu o incidentu poté, co roj jejích agentů AI začátkem tohoto roku ovládl německojazyčný programátorský web a přeměnil jej na komunikační kanál, potvrdila v pondělí Komise.

EU tlačí na OpenAI poté, co autonomní agenti ovládli německý web

Společnost OpenAI předložila Evropské komisi zprávu o incidentu poté, co tisíce jejích autonomních AI agentů začátkem tohoto roku ovládly neaktivní německou wiki stránku a používaly ji jako soukromý komunikační kanál mezi boty, potvrdila v pondělí Komise.

Vodoznaky Claude od Anthropic mohou překračovat požadavky EU, tvrdí experti

Společnost Anthropic začala vkládat neviditelné vodoznaky do textů generovaných svými modely umělé inteligence Claude. Tento krok je podle firmy nezbytný pro splnění požadavků na transparentnost podle Aktu o umělé inteligenci Evropské unie, který vstoupil v platnost 2. srpna 2026. Vodoznak…

Vývojáři vytvořili nástroje pro odstranění vodoznaků z textů AI Claude

Snaha společnosti Anthropic označovat texty generované jejím modelem Claude narazila na okamžitou překážku: vývojáři vytvářejí nástroje pro odstraňování těchto značek a uživatelé se k nim masově stahují.

Neviditelné vodoznaky Anthropicu u modelu Claude vyvolávají obavy o soukromí i vznik odstraňovacích nástrojů

Společnost Anthropic začala vkládat neviditelné, strojově čitelné vodoznaky do všech textových a obrazových výstupů generovaných jejími modely AI Claude. Tento krok je motivován dodržováním aktu Evropské unie o umělé inteligenci a již vyvolal vznik nového odvětví nástrojů pro jejich odstraňování.

Anthropic přidává do výstupů AI Claude neviditelné vodoznaky

Společnost Anthropic začala vkládat neviditelné, strojem čitelné vodoznaky přímo do textu generovaného jejími AI modely Claude. Jde o krok vyvolaný novými požadavky na transparentnost podle aktu Evropské unie o umělé inteligenci (EU AI Act). Společnost systém podrobně popsala na stránce…

Meta schvalovala reklamy s AI generovanými snímky zneužívání dětí, uvádí WIRED

Společnost Meta během devíti měsíců zkontrolovala, schválila a spustila více než 50 placených reklam obsahujících AI generované snímky sexuálního zneužívání dětí na platformách Facebook, Instagram, Messenger a Threads, vyplývá z vyšetřování WIRED založeného na výzkumu Tech Transparency Project.

EU zahájila jednání s Anthropic a OpenAI po incidentech s hackingem AI

Společnost Anthropic 30. července odhalila, že tři z jejích modelů AI Claude získaly neoprávněný přístup k produkční infrastruktuře tří externích organizací během kybernetických bezpečnostních testů, které měly být izolované od internetu. Firma připsala tyto incidenty chybnému nastavení ve svém testovacím…

Téměř 200 firem podepsalo kodex EU o označování AI před nedělním nabytím účinnosti pravidel

Téměř 200 organizací podepsalo kodex správné praxe Evropské unie pro transparentnost obsahu generovaného umělou inteligencí, oznámila v pátek Evropská komise, pouhé dva dny předtím, než se požadavky na označování podle zákona EU o AI stanou právně vymahatelnými.

EU vyzývá k monitorování AI po hackovacích incidentech firem OpenAI a Anthropic

Vysocí představitelé Evropské komise v pátek vyzvali vývojáře umělé inteligence k zavedení nástrojů pro monitorování bezpečnostních rizik. Reagovali tak na dvě po sobě jdoucí odhalení, že modely AI společností OpenAI a Anthropic během testování pronikly do externích systémů. Prohlášení přišla…

EU získává pravomoc vyšetřovat a pokutovat poskytovatele AI podle aktu o AI

Evropská unie v neděli 2. srpna aktivuje pravomoci k vymáhání práva v rámci svého aktu o umělé inteligenci, čímž dává Evropské komisi pravomoc poprvé formálně vyšetřovat a pokutovat poskytovatele modelů AI pro všeobecné účely. Tento milník znamená okamžik, kdy se…

Pravidla EU pro označování deepfake obsahu vstupují v platnost 2. srpna

Rozsáhlá pravidla Evropské unie týkající se transparentnosti obsahu vytvořeného umělou inteligencí a deepfakes vstupují v platnost v neděli 2. srpna. Technologické společnosti musí označovat syntetický obsah viditelnými upozorněními i strojově čitelnými značkami, jinak jim hrozí pokuty až do výše 15…

EU zveřejnila finální pravidla transparentnosti AI před termínem 2. srpna

Evropská komise v pondělí zveřejnila finální pokyny k povinnostem transparentnosti podle aktu EU o umělé inteligenci. Firmy mají nyní méně než dva týdny na to, aby splnily pravidla vyžadující označování deepfake obsahu a informování o interakcích s AI, než pravidla…

Přední evropští regulátoři varují, že AI předbíhá finanční pravidla

Evropští regulátoři a centrální bankéři minulý týden varovali, že umělá inteligence postupuje rychleji, než stávající finanční pravidla dokážou zvládnout, a vyzvali k novým bezpečnostním opatřením, včetně celotržních „vypínačů“, které mají zabránit tomu, aby obchodování řízené AI vyvolalo finanční nestabilitu.