Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
All voices matter
Bezpečnost AI
Anthropic představuje metodu pro izolaci nebezpečných znalostí v modelech AI
Společnost Anthropic a její výzkumný partner AE Studio ve středu zveřejnili metodu pro izolaci nebezpečných znalostí v rámci modelů AI do diskrétních, odstranitelných modulů – přístup, který by mohl změnit způsob, jakým průmysl řídí rizika dvojího užití, aniž by obětoval…
Google DeepMind zveřejnil plán obrany proti nebezpečným AI agentům
Společnost Google DeepMind, součást Alphabet Inc., ve čtvrtek zveřejnila dokument, který nazývá „Plán kontroly AI“. Jde o 35stránkový technický rámec, který s vlastními AI agenty společnosti nezachází jako s důvěryhodnými softwarovými nástroji, ale jako s potenciálními vnitřními hrozbami schopnými sabotáže,…
OpenAI představuje metodu pro předpovídání chování AI před jejím vydáním
Společnost OpenAI v pondělí zveřejnila novou metodu bezpečnosti před nasazením nazvanou „simulace nasazení“ (Deployment Simulation), která je navržena tak, aby předpovídala, jak se modely AI budou chovat v reálném světě, než budou uvolněny pro veřejnost.
Anthropic se omlouvá za tajné omezování modelu Claude Fable 5
Společnost Anthropic přiznala, že „udělala špatný kompromis“ v souvislosti s bezpečnostními omezeními u svého nově vydaného modelu Claude Fable 5, a zrušila kontroverzní politiku, která tajně snižovala výkon AI, pokud detekovala uživatele pracující na vývoji špičkové umělé inteligence. Omluva, kterou…
Bezpečnostní filtry AI u modelů Meta a Google lze obejít během minut, zjistil FT
Softwarové nástroje, které odstraňují bezpečnostní ochrany z modelů umělé inteligence vyvinutých společnostmi Meta a Google Alphabet Inc., dokážou obejít ochranné mechanismy během několika minut, uvádí vyšetřování zveřejněné v neděli deníkem Financial Times. Upravené systémy reagovaly na výzvy týkající se biologických…