Pangram rozšiřuje detekci AI na obrázky a videa

Společnost Pangram, startup známý především detekcí textů napsaných umělou inteligencí, vydala ve středu 4. listopadu Pangram Image 1.0. Tento model pro obrázky nahrazuje výzkumnou verzi z počátku letošního roku a firma zároveň vydala doprovodný model určený k detekci videí generovaných AI. S tímto spuštěním nyní produktová řada Pangram pokrývá kromě textu také obrázky a videa. Generální ředitel Max Spero uvedl, že tento krok je reakcí na vizuální obsah generovaný AI, který je stále těžší odhalit.pangram.com+1

Dva nové modely

Vlajková loď Pangram Image 1.0 vytváří tepelnou mapu, která ukazuje, kde se v obrázku nachází obsah vytvořený AI. Pangram tvrdí, že model odolá úpravám, kompresi i nízkému rozlišení. Společnost snížila minimální velikost obrázku z 512×512 na 256×256 pixelů, i když u výsledků pod 512 pixelů je uvedeno upozornění na sníženou spolehlivost. Pangram vykázal 99,96% přesnost v interní testovací sadě 1 200 syntetických obrázků vytvořených 12 špičkovými generátory, které zrcadlily 100 skutečných fotografií.pangram.com

Druhý model, Pangram Image Flash 1.0, je menší a rychlejší model zaměřený na video. Analyzuje klipy snímek po snímku. Pangram uvedl, že v akademickém benchmarku DF26 dosáhl 98,7% úspěšnosti, což je o 29 bodů více než u druhého nejlepšího detektoru. Oba modely jsou nyní součástí rozšíření Pangram pro prohlížeč Chrome, které označuje obsah AI na sociálních sítích, nákupních webech a v inzerátech na pronájem. Jsou také dostupné prostřednictvím API společnosti.pangram.com

Proč Pangram překročil hranice textu

Spero pro Pirate Wires řekl, že společnost začala na detekci obrázků pracovat na začátku roku. Poukázal na lidi, kteří se snaží „vytvořit podvod nebo falešné záběry z íránské války“. Dodal také, že detekce by mohla být užitečná na platformách, jako je Amazon Amazon.com, Inc. ↗ 6.12%, kde reklamy stále častěji využívají obrázky generované AI. Pangram nejprve otestoval stávající detektory. „Spustili jsme náš benchmark a zjistili jsme, že většina z nich stála za nic, měly přesnost kolem 80 až 95 %,“ řekl Spero.piratewires.com

Červencová výzkumná verze vykázala 99,5% přesnost v interním benchmarku oproti 98 % u nejbližšího z pěti komerčních konkurentů. V té době Pangram uvedl, že nedokáže spolehlivě detekovat deepfakes nebo výměny obličejů. Tato verze vyšla spolu s Pangram 4, detektorem textu společnosti, a investičním kolem v hodnotě 9 milionů dolarů vedeným společností Menlo Ventures.thedailystar.net+1

Pozdní příchod byl záměrný

Pangram není na tomto trhu první. Konkurenti jako TruthScan nabízejí detekci obrázků a videí již od roku 2025 nebo dříve. Spero uvedl, že zpoždění bylo záměrné. „Byli jsme velmi opatrní s tempem vydávání, abychom zajistili, že vydáme pouze něco, co považujeme za skutečně špičkové s velkým náskokem,“ řekl.piratewires.com