superintelligens

Nadella: Superintelligens utan mänsklig kontroll är inte värd att eftersträva

Microsofts styrelseordförande och vd Satya Nadella förklarade på söndagen att varje strävan efter superintelligens som inte "hjälper mänskligheten och står under mänsklig kontroll" är "inte värd att eftersträva". Han ansluter sig därmed till en växande skara teknikledare som kräver en…

Sanders kräver AI paus och förbud mot superintelligens

Den amerikanska senatorn Bernie Sanders uppmanade på lördagen president Donald Trump och Kinas president Xi Jinping att förhandla fram ett avtal för att pausa utvecklingen av avancerad AI och förbjuda superintelligens. Han hävdade att de senaste uppmaningarna från ledande AI-chefer…

Ny styrelsemedlem i OpenAI varnar för oåterkallelig förlust av kontroll

Dagen efter att han tillträtt i styrelsen för OpenAIs ideella stiftelse utfärdade AI-säkerhetsforskaren Paul Christiano en skarp varning: den snabba accelerationen av artificiell intelligens utgör en "betydande risk" för en "katastrofal och oåterkallelig förlust av kontroll inom en mycket snar…

Anthropic-chef: Över 10 procents risk att AI utplånar mänskligheten

Evan Hubinger, som leder arbetet med alignment-forskning på Anthropic, skrev på X under tisdagen att han personligen anser att det finns en risk på över 10 procent att AI "kan döda alla människor" inom det kommande decenniet. Uttalandet har fått…