Import AI 456: RSI en economische groei; radicale optioneelheid voor AI-regulering; neurale computer
Meta
KAIST
Deze editie van Import AI behandelt drie onderwerpen: een voorgestelde 'radicale optioneelheid'-benadering voor AI-regulering, een concept van een neurale computer van Meta en KAIST, en een economisch model waaruit blijkt dat recursieve zelfverbetering (RSI) een explosieve economische groei kan veroorzaken. De nieuwsbrief bespreekt ook specifieke aanbevelingen voor overheden om zich voor te bereiden op transformerende AI.
Onderzoekers van het Institute for Law & AI stellen 'radicale optionaliteit' voor AI-regulering voor, en betogen dat overheden nu moeten investeren in instrumenten en instituties om de besluitvorming in toekomstige crises te behouden. Ze bevelen transparantie- en rapportagevereisten, klokkenluidersbescherming, informatiedeling binnen en tussen overheden, flexibele regels, beoordelingen, verbeterde beveiliging van modelgewichten en meer aanwerving van technisch talent aan. Een paper van Meta en KAIST introduceert de Neural Computer (NC), een neuraal systeem dat berekening, geheugen en invoer/uitvoer verenigt in een geleerde runtime-status, met vroege prototypes die CLI- en GUI-interfaces gebruiken. Economen van Forethought, Columbia University en de University of Virginia modelleren dat recursieve zelfverbetering (recursive self-improvement, RSI) via AI-automatisering explosieve economische groei zou kunnen veroorzaken, en vinden dat 13% automatisering in alle sectoren of volledige automatisering van softwareonderzoek en -ontwikkeling (research and development, R&D) met 5% elders de economie binnen ongeveer zes jaar in een singulariteit zou kunnen doen belanden, waarbij hardwareonderzoek de dominante hefboom is.
Bron: Import AI —
origineel