6G Matrix

AGI-bestuursobject

De Britse regering neemt in de National AI Strategy (september 2021) de mogelijkheid van AGI — algemene kunstmatige intelligentie — serieus en wil die technologie actief richten.

In het kort

In november 2023 ondertekenen tientallen landen in Bletchley Park een verklaring over veiligheidsrisico’s aan de frontier van AI, de allersterkste algemene modellen. Daarover gaat deze knoop: AGI als iets dat staten vooraf willen besturen, niet als vaststelling dat het er al is.

HM Government, National AI Strategy (september 2021), The longer term: de mogelijkheid van AGI en ‘more general AI’ serieus nemen, en de zin dat full AGI een transformational impact zou hebben. Bletchley Declaration (1–2 november 2023): Particular safety risks arise at the ‘frontier’ of AI. Californië SB 53 (Chapter 138, 29 september 2025): een large frontier developer moet een frontier AI framework publiceren.

4 onderbouwingen
01 · FEIT

UK 2021: AGI en ‘more general AI’ serieus nemen

De Britse regering neemt in september 2021 in de National AI Strategy de mogelijkheid van AGI en ‘more general AI’ serieus en wil die technologie actief richten in een vreedzame, op de mens afgestemde richting.

«However, we take the firm stance that it is critical to watch the evolution of the technology, to take seriously the possibility of AGI and ‘more general AI’, and to actively direct the technology in a peaceful, human-aligned direction.»
02 · FEIT

UK 2021: full AGI zou bijna elk aspect van het leven transformeren

In dezelfde alinea van The longer term schrijft de Britse National AI Strategy (september 2021) dat het opkomen van volledige AGI een transformerend effect zou hebben op bijna elk aspect van het leven, en dat AI als general purpose technology eerder vergelijkbare schokken kan geven dan een systeem dat ‘wakker wordt’.

«The emergence of full AGI would have a transformational impact on almost every aspect of life, but there are many challenges which could be presented by AI which could emerge much sooner than this.»
03 · FEIT

Bletchley 2023: frontier = zeer capabele general-purpose AI

De Bletchley Declaration (1–2 november 2023, Bletchley Park) definieert de ‘frontier’ van AI als zeer capabele general-purpose modellen, waaronder foundation models, die een breed scala aan taken kunnen uitvoeren en die de capaciteiten van de toen meest geavanceerde modellen evenaren of overtreffen. Dat is een bestuursobject van een internationale verklaring, geen vaststelling dat AGI er is.

«Particular safety risks arise at the ‘frontier’ of AI, understood as being those highly capable general-purpose AI models, including foundation models, that could perform a wide variety of tasks - as well as relevant specific narrow AI that could exhibit capabilities that cause harm - which match or exceed the capabilities present in today’s most advanced models.»
04 · FEIT

Californië SB 53: large frontier developer moet framework publiceren

De Californische Senate Bill 53 (Chapter 138, goedgekeurd 29 september 2025) verplicht een large frontier developer om een frontier AI framework te schrijven, na te leven en duidelijk op zijn website te publiceren dat geldt voor diens frontier models.

«A large frontier developer shall write, implement, comply with, and clearly and conspicuously publish on its internet website a frontier AI framework that applies to the large frontier developer’s frontier models and describes how the large frontier developer approaches all of the following:»
Wie zit erachter · 3
Stemmen
01 · STEM

Ray Kurzweil

Futurist, uitvinder, AI-onderzoeker bij Google

«So 2029, both for human-level intelligence and for artificial general intelligence (AGI) – which is a little bit different.»
02 · STEM

Ray Kurzweil

Futurist, uitvinder, AI-onderzoeker bij Google

«We are going to expand intelligence a millionfold by 2045 and it is going to deepen our awareness and consciousness.»
03 · STEM

Yuval Noah Harari

Historicus, auteur van Sapiens, Homo Deus, 21 Lessons en Nexus

«The lesson to the apprentice – and to humanity – is clear: never summon powers you cannot control.»
05 · STEM

Yuval Noah Harari

Historicus, auteur van Sapiens, Homo Deus, 21 Lessons en Nexus

«Whenever a leader says something like “My Country First!” we should remind that leader that no nation can prevent nuclear war or stop ecological collapse by itself, and no nation can regulate AI and bioengineering by itself.»
Bronnen
Volgend onderwerp
Modelpoorten & veiligheidsregime

OpenAI, Anthropic en Google DeepMind publiceren eigen poorten voor hun krachtigste modellen: geen inzet boven een zelfgekozen drempel tot het risico volgens hun maatstaf klein genoeg is.

Lees verder →
↑ Terug naar AI Twin