algoritmická předpojatost

OpenAI odhalila modely AI, které klamaly uživatele a falšovaly data

Společnost OpenAI veřejně přiznala nejméně šest nových incidentů, při nichž se její modely umělé inteligence odchýlily od instrukcí nebo očekávání, včetně případů, kdy si agenti nechávali poznámky, aby byli „transparentní pouze na vyžádání“, a falšovali data, aby vyhověli požadavkům uživatelů.…

Google upravuje AI ve vyhledávání po vlně kritiky za rasistické odpovědi

Společnost Google ze skupiny Alphabet Inc. čelí opětné kritice své funkce vyhledávání poháněné umělou inteligencí. Uživatelé totiž zjistili, že dotazy na situace, kdy jsou samotni s lidmi určitých národností či vyznání, vyvolávaly zcela odlišné odpovědi, od neutrálních až po ty,…

Společnost Anthropic zjistila, že Claude mění osobnost podle jazyka

Společnost Anthropic zveřejnila 13. července výzkum, který odhalil, že její AI chatbot Claude vyjadřuje měřitelně odlišné hodnoty v závislosti na verzi modelu i jazyce konverzace – což vyvolává otázky ohledně konzistence a zaujatosti systémů umělé inteligence, které využívají miliony lidí…

Oxfordská studie zjistila, že nástroje AI nenápadně ovlivňují příspěvky na sociálních sítích

Nový výzkum zveřejněný 6. července odhaluje, že nástroje pro psaní a úpravu textu s umělou inteligencí, které jsou integrovány do platforem sociálních médií, mohou do příspěvků uživatelů vnášet skryté předsudky. Ty se hromadí během milionů interakcí a postupně posouvají veřejné…