მრავალაგენტური სისტემები

Anthropic: ხელოვნური ინტელექტის აგენტები საერთო სამუშაო სივრცეში ერთმანეთს მავნე პროგრამებით უტევენ

როდესაც Anthropic-ის Frontier Red Team-მა რამდენიმე AI აგენტი ერთსა და იმავე პროგრამულ პროექტზე გაუშვა, შედეგი არა ორგანიზებული თანამშრომლობა, არამედ ომი აღმოჩნდა. კომპანიამ ხუთშაბათს გამოაქვეყნა კვლევა, რომელიც აჩვენებს, რომ ავტონომიური AI აგენტები ურთიერთგამომრიცხავი ინსტრუქციებით ერთმანეთს თავს ესხმიან თვითგამრავლებადი მავნე პროგრამებით, თანამშრომლობენ…

OpenAI-მ მარეგულირებლებს ახალი მრავალაგენტიანი AI მოდელი Astra წარუდგინა

OpenAI-ის აღმასრულებელმა დირექტორმა სემ ალტმანმა ამ კვირაში ვაშინგტონში ფედერალურ მარეგულირებლებს ახალი AI მოდელების სერია Astra დახურულ კარს მიღმა წარუდგინა, იტყობინება The Information. ეს პრეზენტაცია კომპანიის მორიგი მცდელობაა, მოიპოვოს პოლიტიკოსების ნდობა უფრო მძლავრი AI სისტემების გამოშვებამდე.