AGI, de heilige graal van AI-ontwikkeling, beheerst elke cognitieve taak die een mens kan doen, leert over verschillende domeinen en verbetert zichzelf. En de kernbouwstenen zijn al hier.
Maar wanneer systemen zichzelf verbeteren, betekent zelfs 1% verkeerde afstemming = P(doom) 💀
Laten we ervoor zorgen dat we het goed doen.
🧵
1/🧵
AGI = AI die presteert op het niveau van menselijke experts in de meeste cognitieve domeinen. In tegenstelling tot de huidige smalle AI (geweldig in één taak), lost AGI onbekende problemen op, draagt kennis over tussen domeinen en stelt zijn eigen doelen.
Plotwending: De kernbouwstenen van AGI werden al ontdekt in 2020-2024.
3/🧵
DeepMind scheidt wat AI kan doen van hoe onafhankelijk het is toegestaan om te handelen. Ze definiëren zes niveaus van autonomie, van door mensen gecontroleerde tools tot volledig autonome agenten.
Cruciaal is dat krachtige AGI's geen hoge autonomie nodig hebben, en zelfs eenvoudige AI riskant kan zijn als deze niet wordt gecontroleerd. Veilige inzet hangt niet alleen af van capaciteit, maar ook van controle.
4,91K
59
De inhoud op deze pagina wordt geleverd door derden. Tenzij anders vermeld, is OKX niet de auteur van het (de) geciteerde artikel(en) en claimt geen auteursrecht op de materialen. De inhoud is alleen bedoeld voor informatieve doeleinden en vertegenwoordigt niet de standpunten van OKX. Het is niet bedoeld als een goedkeuring van welke aard dan ook en mag niet worden beschouwd als beleggingsadvies of een uitnodiging tot het kopen of verkopen van digitale bezittingen. Voor zover generatieve AI wordt gebruikt om samenvattingen of andere informatie te verstrekken, kan deze door AI gegenereerde inhoud onnauwkeurig of inconsistent zijn. Lees het gelinkte artikel voor meer details en informatie. OKX is niet verantwoordelijk voor inhoud gehost op sites van een derde partij. Het bezitten van digitale activa, waaronder stablecoins en NFT's, brengt een hoge mate van risico met zich mee en de waarde van deze activa kan sterk fluctueren. Overweeg zorgvuldig of de handel in of het bezit van digitale activa geschikt voor je is in het licht van je financiële situatie.