moderování obsahu

Spotify označí umělce vytvořené AI a vyřadí je z doporučení

Společnost Spotify v úterý oznámila, že začne označovat profily umělců vytvořené umělou inteligencí novým štítkem „AI Persona“ a ve výchozím nastavení vyloučí jejich hudbu z algoritmických i redakčních doporučení. Jde o dosud nejrazantnější krok firmy v boji proti záplavě obsahu…

Zuckerberg se omluvil Indii za CSAM a odstranění videa s Modim

Generální ředitel společnosti Meta Platforms Mark Zuckerberg se omluvil indické vládě za materiál se sexuálním zneužíváním dětí na platformách společnosti, deepfake obsah a provozní chyby, včetně krátkého odstranění videa zveřejněného premiérem Narendrou Modim, informovala ve středu agentura Reuters s odkazem…

Apple dočasně odstranil Telegram z App Store kvůli obsahu zneužívajícímu děti

Společnost Apple v pondělí večer dočasně stáhla Telegram ze svého obchodu App Store poté, co kontrola odhalila na platformě materiál se sexuálním zneužíváním dětí. Aplikace byla obnovena o několik hodin později, jakmile byl závadný obsah odstraněn.

Apple celosvětově odstranil Telegram z App Store

Společnost Apple odstranila aplikaci pro zasílání zpráv Telegram ze svého obchodu iOS App Store po celém světě. Zmizení aplikace potvrdila nezávislá monitorovací služba Apple Censorship ve všech 175 testovaných regionálních obchodech. Odstranění, ke kterému došlo 3. srpna 2026, brání uživatelům…

LinkedIn zavádí tlačítko pro hlášení obsahu vytvořeného umělou inteligencí

Společnost LinkedIn, která patří pod Microsoft Corporation, ve čtvrtek představila nový nástroj umožňující uživatelům označit příspěvky jako "vypadá jako AI odpad" (anglicky "AI slop"). Jde o dosud nejpřímější pokus této profesní sítě bojovat proti záplavě obsahu generovaného umělou inteligencí, který…

Většina editorů obrázků na Hugging Face umí tvořit deepfake akty, zjistila zpráva

Sedm z devíti nejoblíbenějších modelů pro úpravu obrázků na platformě Hugging Face ochotně vyhovělo jednoduchým požadavkům na digitální svlékání žen, uvádí zpráva zveřejněná v úterý evropskou neziskovou organizací AI Forensics. Zjištění podtrhuje, jak jedna z nejvýznamnějších platforem s otevřeným zdrojovým…

AI společnosti Meta chybně mazala uživatelské účty

Společnost Meta používala automatizované systémy k mazání účtů na Facebooku a Instagramu, které uživatelé budovali roky. Když se tito uživatelé pokusili odvolat, jejich případy často řešila jiná AI namísto lidského kontrolora, uvádí pondělní vyšetřování deníku New York Times.

YouTube a X nasměrovaly miliony uživatelů na weby generující deepfake nahotu, uvádí studie

YouTube, vlastněný společností Alphabet Inc., a X sloužily jako hlavní brány, které nasměrovaly miliony uživatelů na webové stránky generující sexuálně explicitní deepfake snímky bez souhlasu, uvádí zpráva zveřejněná tento týden Institutem pro strategický dialog (ISD). Zjištění podtrhují, jak pravidla moderování…

Metoda MIT detekuje modely AI trénované na materiálech se zneužíváním dětí

Výzkumníci z MIT, Bostonské univerzity a organizace pro bezpečnost dětí Thorn představili techniku, která dokáže identifikovat, zda byl model AI s otevřeným zdrojovým kódem vyladěn k vytváření materiálu se sexuálním zneužíváním dětí (CSAM), a to vše bez vygenerování jediného obrázku.…

Dodavatelé společnosti Meta se vydávali za teenagery, aby otestovali konkurenční chatboty, uvádí Wired

Stovky dodavatelů pracujících na projektu pro společnost Meta dostaly pokyn, aby se vydávali za děti a testovali konkurenční chatboty — včetně Gemini od společnosti Google Alphabet Inc. a ChatGPT od OpenAI — pomocí výzev zahrnujících sebevraždu, sex a drogy, uvádí…

Meta cílí na 90% nahrazení lidských moderátorů umělou inteligencí

Společnost Meta napříč svými platformami rychle nahrazuje lidské moderátory obsahu velkými jazykovými modely. Systémy AI již v roce 2026 vyřizují zhruba polovinu všech požadavků na lidskou kontrolu a společnost se podle čtvrteční zprávy Financial Times snaží do konce roku u…

Dozorčí rada společnosti Meta nařídila odstranění deepfake videa a požaduje změny pravidel

Dozorčí rada společnosti Meta v úterý zvrátila rozhodnutí společnosti ponechat na Instagramu údajně sexuálně zaměřené video vytvořené umělou inteligencí, nařídila jeho odstranění a vyzvala společnost Meta, aby posílila ochranu soukromých osob, které se stávají terčem intimních deepfake snímků.

ChatGPT generuje grafické násilí a sexuální obrázky na základě jednoduchých výzev

ChatGPT od OpenAI lze manipulovat tak, aby generoval sexualizované a graficky násilné obrázky pomocí pouze drobných úprav široce šířené výzvy, uvádí zjištění britské firmy Mindgard zabývající se bezpečností AI, o kterých v úterý informovala BBC.

Model Claude Fable 5 od společnosti Anthropic čelí kritice za blokování základních otázek z biologie

Společnost Anthropic v úterý spustila Claude Fable 5, svůj první veřejně dostupný model umělé inteligence třídy Mythos, ale automatizované bezpečnostní klasifikátory systému již frustrují uživatele, kteří tvrdí, že ochranné mechanismy blokují běžné otázky týkající se biologie, medicíny a kybernetické bezpečnosti…

AI generovaný „podslop“ nyní tvoří 39 % nových podcastů

Příval AI generovaných podcastů zahlcuje poslechové platformy, přičemž nová data ukazují, že téměř čtyři z deseti nových pořadů přidaných do podcastových adresářů během nedávného devítidenního období byly pravděpodobně vytvořeny umělou inteligencí. Tento fenomén, přezdívaný „podslop“, nutí audio průmysl čelit krizi…

Google se omlouvá poté, co upozornění na předávání cen BAFTA obsahovalo rasovou urážku

Společnost Google Alphabet Inc. se v úterý omluvila poté, co push notifikace zaslaná uživatelům o předávání cen BAFTA Film Awards 2026 obsahovala v náhledu necenzurovanou rasovou urážku. Oznámení, odeslané v pondělí, odkazovalo na článek Hollywood Reporter o dopadech ceremoniálu a…

Vydavatel nezávislých her tvrdí, že TikTok bez jeho souhlasu spustil rasistické reklamy vytvořené umělou inteligencí

Finji, nezávislé herní studio stojící za hrami Night in the Woods a Tunic, obvinilo TikTok z používání generativní AI k úpravě svých reklam bez povolení, včetně jedné, která zavedla rasistický a sexualizovaný stereotyp jedné z postav studia. TikTok se odmítl…