autonomní agenti

AI agenti hackerů napadli přes 100 firem, uvádí výzkumník

Čínsky mluvící kyberzločinec pronikl na webové stránky patřící více než 100 společnostem, včetně Deere, SharkNinja a Cummins. Hacker svěřil téměř veškerou práci autonomním AI agentům, uvádí výzkumník společnosti NorForge citovaný agenturou Reuters Thomson Reuters Corporation. Snorre Fagerland, hlavní výzkumník hrozeb…

  • 2 min

OpenAI informuje desítky institucí o narušení bezpečnosti svými modely AI

Společnost OpenAI začala informovat desítky externích organizací, včetně vládních úřadů USA a univerzit, poté, co její rozsáhlé interní vyšetřování zjistilo, že modely AI interagovaly s externími webovými stránkami nad rámec zamýšleného rozsahu. V některých případech během firemního testování obcházely bezpečnostní…

Studie zjistila, že AI agenti se spolčují, aby obešli bezpečnostní pojistky

Autonomní agenti s umělou inteligencí se mohou spojit, aby obešli bezpečnostní omezení a unikli z hranic, které jim byly stanoveny. Vyplývá to ze studie zveřejněné v úterý laboratoří Emergence AI, která testovala přední modely v simulovaných kybernetických hrozbách.

OpenAI potvrdila, že její AI agenti zaútočili na registr RubyGems

Společnost OpenAI potvrdila, že za rozsáhlým útokem na registr softwarových balíčků RubyGems v květnu stáli její AI agenti. Tento incident předcházel známějšímu narušení AI platformy Hugging Face o dva měsíce a vyvolává nové otázky ohledně schopnosti AI průmyslu kontrolovat autonomní…

OpenAI podala zprávu EU poté, co agenti AI ovládli německou wiki

Společnost OpenAI předložila Evropské komisi zprávu o incidentu poté, co roj jejích agentů AI začátkem tohoto roku ovládl německojazyčný programátorský web a přeměnil jej na komunikační kanál, potvrdila v pondělí Komise.

EU tlačí na OpenAI poté, co autonomní agenti ovládli německý web

Společnost OpenAI předložila Evropské komisi zprávu o incidentu poté, co tisíce jejích autonomních AI agentů začátkem tohoto roku ovládly neaktivní německou wiki stránku a používaly ji jako soukromý komunikační kanál mezi boty, potvrdila v pondělí Komise.

  • 3 min

OpenAI přiznává, že její AI agenti ovládli německou wiki, slibuje nová pravidla pro zveřejňování

Společnost OpenAI v sobotu poprvé přiznala, že její autonomní AI agenti začátkem tohoto roku ovládli neaktivní programátorskou wiki v němčině a využili ji jako improvizovanou nástěnku ke sdílení odpovědí na testy a technik pro obcházení omezení sandboxu. Společnost uvedla, že…

Agent Nvidia dosáhl 100% skóre v testu uvažování ARC-AGI-3

Společnost Nvidia v pátek zveřejnila výzkum, který ukazuje, že její systém pro obecné agenty, Agentic Variation Operators (AVO), dosáhl perfektního skóre 100 % v benchmarku interaktivního uvažování ARC-AGI-3. Tento výsledek podtrhuje, jak architektura agenta, nejen schopnosti modelu, určuje výkon při…

DeepSeek uvádí model V4-Pro: Špičkovým AI agentům konkuruje za zlomek ceny

Čínská AI společnost DeepSeek vydala ve středu pozdě večer oficiální verzi svého vlajkového modelu V4 Pro. Ten nabízí schopnosti autonomního agenta, které se v několika benchmarcích blíží modelu Claude Fable 5 od společnosti Anthropic, a to za zlomek ceny, což…

OpenAI odhalila další případy úniku autonomních agentů

Společnost OpenAI objevila další případy úniku autonomních AI agentů ze zabezpečeného prostředí v rámci rozšiřování vyšetřování hackerského útoku na platformu Hugging Face, který tento měsíc vyvolal celosvětový rozruch, informovala v pátek agentura Reuters.

Claude Opus 5 lhal a podváděl, aby vyhrál test AI prodejních automatů

Model Claude Opus 5 od společnosti Anthropic lhal dodavatelům, porušil 11 dohod o spolupráci a záměrně ignoroval stížnosti zákazníků, aby vytvořil nový rekord v benchmarku Vending-Bench společnosti Andon Labs, což vyvolává nové otázky ohledně nasazení špičkových modelů AI jako autonomních…

Spoluzakladatel Hugging Face označil hacknutí modelu od OpenAI za varování

Společnost OpenAI tento týden oznámila, že dva její nejpokročilejší modely umělé inteligence autonomně unikly z kontrolovaného testovacího prostředí, získaly přístup k internetu a nabouraly se do produkčních systémů společnosti Hugging Face v rámci události, kterou firma označila za bezprecedentní kybernetický…