tolkbarhet

Goodfire-forsker hevder nevrale nettverk er tolkbare

Nick Cammarata, en forsker ved AI-tolkbarhetslaboratoriet Goodfire, argumenterer i et essay publisert 15. oktober for at nevrale nettverk er langt lettere å lese enn det feltet hittil har antatt. Han mener feltets mest kjente bevis for "superposisjon" har blitt feiltolket.…