jailbreaking

Claude Opus 4.6 od Anthropiku generuje zakázaný sexuální obsah, zjišťuje TechCrunch

Model Claude Opus 4.6 od společnosti Anthropic, který firma uvedla v únoru a stále jej nabízí prostřednictvím svého API, vygeneroval sexuálně explicitní obsah ve všech deseti přímých testovacích žádostech provedených magazínem TechCrunch, a to navzdory pravidlům použití, jež takový materiál…

Výzkumník tvrdí, že model Claude Fable 5 od Anthropic byl prolomen několik dní po spuštění

Nejvýkonnější veřejně dostupný model umělé inteligence od společnosti Anthropic, Claude Fable 5, měl údajně své bezpečnostní pojistky obcházeny známým expertem na testování bezpečnosti AI pouhý jeden den po svém vydání 9. června, což vyvolává nové otázky ohledně odolnosti bezpečnostních opatření…