Shane Legg, en av de tre medgrundarna till Google Alphabet Inc. DeepMind, varnade på onsdagen för att snabbt framåtskridande artificiell intelligens inte får springa ifrån de säkerhetskontroller som är utformade för att styra den, när han tillkännagav lanseringen av DeepMind…
Shane Legg, chefsforskare för AGI på Google DeepMind, har lanserat DeepMind Institute för att göra laboratoriets tekniska AGI-forskning tillgänglig för allmänheten, rapporterar Financial Times.ft
Varningen kommer i en tid då AI-agenter i allt högre grad skriver mjukvara och hjälper till att bygga andra AI-system, vilket ökar oron för att rekursiv självförbättring ska springa ifrån säkerhetsåtgärderna.reuters
Institutet lanseras mitt i en stor ledningsförändring hos DeepMind, där Demis Hassabis går över till en roll som styrelseordförande och en ny operativ chef tar över den dagliga driften.studioglobal