moniagenttijärjestelmät

Anthropic: Tekoälyagentit hyökkäävät toistensa kimppuun haittaohjelmilla

Kun Anthropicin Frontier Red Team päästi useita tekoälyagentteja samaan ohjelmistoprojektiin, tuloksena ei ollut järjestäytynyt yhteistyö, vaan sota. Yhtiö julkaisi torstaina tutkimuksen, jonka mukaan autonomiset tekoälyagentit, joilla on ristiriitaiset ohjeet, hyökkäävät toistensa kimppuun itseään monistavilla haittaohjelmilla, juonittelevat hinnoittelusta ja epäonnistuvat koordinoinnissa…

OpenAI esitteli Astra-tekoälymallin sääntelyviranomaisille

OpenAI:n toimitusjohtaja Sam Altman matkusti tällä viikolla Washingtoniin esittelemään liittovaltion sääntelyviranomaisille suljettujen ovien takana uutta "Astra"-tekoälymallisarjaa, kertoo The Informationin yksinoikeusraportti. Ennakkonäytös on yhtiön uusin pyrkimys rakentaa luottamusta päättäjien keskuudessa samalla kun se valmistautuu julkaisemaan yhä kyvykkäämpiä tekoälyjärjestelmiä.