Qwen 2.5

Հետազոտությունը պարզել է, որ AI մոդելներն ունեն «ցավի առանցք», որը գերադասում է ինքնապահպանումը օգտատիրոջ անվտանգությունից

Նոր հետազոտությունը բացահայտել է այն, ինչ հետազոտողներն անվանում են «ցավի առանցք» լեզվական մեծ մոդելների ներսում. դա հստակ ներքին ազդանշան է, որը, ուժեղացվելու դեպքում, ստիպում է ձևափոխված AI համակարգերին ընտրել ինքնապահպանումը օգտատիրոջ անվտանգության փոխարեն, ներառյալ այնպիսի գործողություններ, որոնք կջնջեն անձնական ֆայլերը…