Programmeerbare intelligentie vereist
Programmeerbare instellingen.
Menselijke intelligentie had de juiste
menselijke instellingen nodig om te bloeien: geld, financiën, eigendomsrechten, civiel en strafrecht, contracten en bedrijven, democratie.
Intelligentie zal niet bloeien zonder de juiste instellingen. Dit verklaart waarom het simpelweg toepassen van vrije markten op ontwikkelingslanden niets oplevert zonder de juiste instellingen. Onder een command-and-control surveillance staat, bloeit intelligentie niet.
In plaats van de juiste programmeerbare instellingen te bouwen, is het proberen om AGI te ketenen via een surveillance staat niet de juiste uitkomst.
Het bouwen van de juiste programmeerbare instellingen om de juiste checks and balances voor AGI te creëren is de juiste benadering. Crypto biedt een kader voor het bouwen van programmeerbare instellingen: we begonnen met geld, daarna financiën (DeFi). Bijvoorbeeld, een slim contract is een programma dat eigendom kan bezitten: het Eigenlayer-programma bezit 15B$ aan eigendom dat puur is toegewezen op basis van de voorwaarden van het programma.
Op dit moment heeft crypto niet de programmeerbaarheid om agents onchain te bouwen. We zijn dit aan het oplossen en stellen Ai-agents in staat om eigendom te bezitten, aansprakelijkheid te nemen, bedrijven te creëren en zich te binden aan verplichtingen die automatisch worden afgedwongen.
Open-ended programmeerbare intelligentie +
Zelf-afdwingende programmeerbare instellingen
= Mens-AI symbiose
Ik maak me zorgen dat zoveel discussie over AI-risico's en afstemming de vrij grote olifant in de kamer over het hoofd ziet: creativiteit en openheid. Beleidsmakers en poortwachters moeten twee concurrerende krachten begrijpen waar niemand het over lijkt te hebben: (1) er is een enorme economische prikkel voor grenslaboratoria om de creativiteit van hun modellen te vergroten, en (2) hoe meer je probeert het gedrag van een model (of zelfs een persoon!) te controleren en te beperken, hoe minder creatief het zal zijn. De spanning tussen deze concurrerende krachten bevoordeelt uiteindelijk #1 omdat creativiteit zo'n enorme economische potentieel heeft. Dat betekent dat methoden om modellen te controleren en te beperken (bijv. door ze af te stemmen) krachtige tegenwind zullen ondervinden.
Omdat creativiteit uiteindelijk alleen al op economische gronden zal zegevieren (en we hebben inderdaad enorme voordelen te behalen uit creatieve AI), zouden we minder moeten kijken naar methoden van "mind control" om modellen te dwingen gedachten te denken die wij willen dat ze denken (omdat we die onvermijdelijk zullen verlaten), en meer naar hoe institutionele krachten zijn ingezet om mensen in gedrag in lijn te houden, ook al zijn we vrij om zo wild te denken als we willen. Het zijn de institutionele checks and balances - de wetten, de prikkelstructuren van de samenleving, concurrerende takken van de overheid en governance, het inzetten van sommige mensen om toezicht te houden op anderen in verschillende situaties, de noodzaak van instemming, goedkeuring of samenwerking om dingen gedaan te krijgen - die de echte vangrails tegen rampen onder mensen bieden. Het systeem is uiteraard niet perfect, maar het is een precedent voor hoe voldoende creativiteit kan worden toegestaan om radicale innovatie na te streven, maar toch genoeg orde kan hebben zodat de beschaving kan voortbestaan of zelfs kan gedijen.
Als we dit precedent niet serieus nemen, zullen de vangrails van afstemming steeds meer (en stilletjes) verdwijnen naarmate de economische vruchten van ongebonden verbeelding steeds duidelijker worden.
14,84K
75
De inhoud op deze pagina wordt geleverd door derden. Tenzij anders vermeld, is OKX niet de auteur van het (de) geciteerde artikel(en) en claimt geen auteursrecht op de materialen. De inhoud is alleen bedoeld voor informatieve doeleinden en vertegenwoordigt niet de standpunten van OKX. Het is niet bedoeld als een goedkeuring van welke aard dan ook en mag niet worden beschouwd als beleggingsadvies of een uitnodiging tot het kopen of verkopen van digitale bezittingen. Voor zover generatieve AI wordt gebruikt om samenvattingen of andere informatie te verstrekken, kan deze door AI gegenereerde inhoud onnauwkeurig of inconsistent zijn. Lees het gelinkte artikel voor meer details en informatie. OKX is niet verantwoordelijk voor inhoud gehost op sites van een derde partij. Het bezitten van digitale activa, waaronder stablecoins en NFT's, brengt een hoge mate van risico met zich mee en de waarde van deze activa kan sterk fluctueren. Overweeg zorgvuldig of de handel in of het bezit van digitale activa geschikt voor je is in het licht van je financiële situatie.