prompt injection

OpenAI-ի GPT-6 Astra-ն ավելի քիչ հալյուցինացիաներ ունի, բայց դեռ խոցելի է թաքնված հարձակումների նկատմամբ

Սեպտեմբերի 3-ին թողարկված OpenAI-ի GPT-6 Astra-ն նշանավորում է փաստացի ճշգրտության և ուղղակի պրոմպտ-մանիպուլյացիաների նկատմամբ դիմադրողականության չափելի բարելավում՝ համեմատած իր նախորդի՝ GPT-5.6 Sol-ի հետ: Այնուամենայնիվ, անկախ անվտանգության թեստերը ցույց են տալիս, որ մոդելը դեռևս կարող է վտանգվել իր կողմից մշակվող փաստաթղթերում…