superintelligens

Nadella: Superintelligens uten menneskelig kontroll er ikke verdt å satse på

Microsoft styreleder og administrerende direktør Satya Nadella erklærte søndag at enhver satsing på superintelligens som ikke "hjelper menneskeheten og er under menneskelig kontroll" er "ikke verdt å forfølge". Han slutter seg dermed til en voksende gruppe teknologiledere som etterlyser en…

Sanders krever AI pause og forbud mot superintelligens

Den amerikanske senatoren Bernie Sanders oppfordret lørdag president Donald Trump og Kinas president Xi Jinping til å forhandle frem en avtale om å sette utviklingen av avansert kunstig intelligens på pause og forby kunstig superintelligens. Sanders argumenterte med at de…

Nytt styremedlem i OpenAI advarer om irreversibelt tap av kontroll

Dagen etter at han ble med i styret for OpenAIs ideelle organisasjon, kom KI-sikkerhetsforsker Paul Christiano med en dyster advarsel: Den raske akselerasjonen av kunstig intelligens utgjør en "betydelig risiko" for et "katastrofalt og irreversibelt tap av kontroll i nær…

Anthropic-leder mener det er over 10 prosent sjanse for at KI utrydder menneskeheten

Evan Hubinger, som leder arbeidet med alignment-forskning hos Anthropic, skrev på X tirsdag at han personlig mener det er over 10 prosent sjanse for at KI "kan drepe alle mennesker" i løpet av det neste tiåret. Uttalelsen har fått over…