AGI, den hellige gral innen AI-utvikling, mestrer enhver kognitiv oppgave et menneske kan gjøre, lærer på tvers av domener og forbedrer seg selv. Og kjernebyggesteinene er allerede her.
Men når systemene forbedrer seg selv, er til og med 1 % feiljustering = P(doom) 💀
La oss sørge for at vi får det riktig.
🧵
1/ 🧵
AGI = AI som fungerer på menneske-ekspertnivå på tvers av de fleste kognitive domener. I motsetning til dagens smale AI (flott på én oppgave), løser AGI ukjente problemer, overfører kunnskap på tvers av domener og setter sine egne mål.
Plot twist: Kjernebyggesteinene til AGI ble allerede oppdaget i 2020-2024.

3/ 🧵
DeepMind skiller hva AI kan gjøre fra hvor uavhengig den har lov til å handle. De definerer seks autonominivåer, fra menneskestyrte verktøy til helt autonome agenter.
Avgjørende er at kraftige AGI-er ikke trenger høy autonomi, og selv enkel AI kan være risikabelt hvis den ikke overvåkes. Sikker distribusjon avhenger ikke bare av kapasitet, men av kontroll.
4/ 🧵
DeepMinds 6-lags AGI-sikkerhetsstakk: Tolkning + Overvåking + Opplæringsintervensjoner + Distribusjonssikringer + Sikre arkitekturer + Styring.
Men disse sikkerhetstiltakene trenger et pålitelig utførelseslag ...
Full forskning:
5/ 🧵
Gå inn i konfidensiell databehandling 🔐
💁 ♀️ Apples Private Cloud Compute (Siri)
💁 ♀️ Anthropics klarerte virtuelle maskiner (Claude)
💁 ♀️ Azures konfidensielle beholdere
Alle konvergerer mot ett mål: Kjør kunstig intelligens der verken skyleverandører eller angripere kan få tilgang til interne modellfunksjoner eller sensitive spørringer.

6/ 🧵
Phala Network: Konfidensiell infrastruktur for sikker AGI. Viktige komponenter:
☁️ GPU TEE-støtte for AI med høy ytelse
☁️ Privat ML SDK (sikker LLM-slutning)
☁️ Redpill Gateway (reviderbar AI API)
☁️ Attestering på kjeden for verifisering
Phala beviser at AGI-agenten din faktisk gjorde det den hevdet, sikkert.

AGI-agenter vil kjøre utenfor laboratorier – innen edge-enheter, økonomi, styring, vitenskap, etc.
Phala sørger for at de kjører privat, verifiserbart og med innebygde revisjonsspor.
Les også:

5,82k
65
Innholdet på denne siden er levert av tredjeparter. Med mindre annet er oppgitt, er ikke OKX forfatteren av de siterte artikkelen(e) og krever ingen opphavsrett til materialet. Innholdet er kun gitt for informasjonsformål og representerer ikke synspunktene til OKX. Det er ikke ment å være en anbefaling av noe slag og bør ikke betraktes som investeringsråd eller en oppfordring om å kjøpe eller selge digitale aktiva. I den grad generativ AI brukes til å gi sammendrag eller annen informasjon, kan slikt AI-generert innhold være unøyaktig eller inkonsekvent. Vennligst les den koblede artikkelen for mer detaljer og informasjon. OKX er ikke ansvarlig for innhold som er vert på tredjeparts nettsteder. Beholdning av digitale aktiva, inkludert stablecoins og NFT-er, innebærer en høy grad av risiko og kan svinge mye. Du bør nøye vurdere om handel eller innehav av digitale aktiva passer for deg i lys av din økonomiske tilstand.