AGI, den heliga graalen för AI-utveckling, bemästrar alla kognitiva uppgifter som en människa kan göra, lär sig över domäner och förbättrar sig själv. Och de grundläggande byggstenarna finns redan här. Men när system självförbättras, även 1% feljustering = P(doom) 💀 Låt oss se till att det blir rätt. 🧵
1/ 🧵 AGI = AI som presterar på människa-expertnivå inom de flesta kognitiva domäner. Till skillnad från dagens smala AI (bra på en uppgift) löser AGI okända problem, överför kunskap mellan domäner och sätter sina egna mål. Plot twist: De centrala byggstenarna i AGI upptäcktes redan 2020-2024.
3/ 🧵 DeepMind separerar vad AI kan göra från hur självständigt den får agera. De definierar sex autonominivåer, från mänskligt styrda verktyg till helt autonoma agenter. Avgörande är att kraftfulla AGI:er inte behöver hög autonomi, och även enkel AI kan vara riskabel om den lämnas oövervakad. Säker distribution är inte bara beroende av kapacitet utan även av kontroll.
4/ 🧵 DeepMinds 6-lagers AGI-säkerhetsstack: Tolkningsbarhet + Övervakning + Utbildningsinsatser + Distributionsskydd + Säkra arkitekturer + Styrning. Men dessa skyddsåtgärder behöver ett betrott körningslager... Fullständig forskning:
5/ 🧵 Ange konfidentiell databehandling 🔐 💁 ♀️ Apples privata molnberäkning (Siri) 💁 ♀️ Anthropics betrodda VM:er (Claude) 💁 ♀️ Azures konfidentiella containrar Alla konvergerar mot ett mål: Kör AI där varken molnleverantörer eller angripare kan komma åt modellens interna delar eller känsliga frågor.
6/ 🧵 Phala Network: Konfidentiell infrastruktur för säker AGI. Viktiga komponenter: ☁️ GPU TEE-stöd för AI med hög prestanda ☁️ Privat ML SDK (säker LLM-inferens) ☁️ Redpill Gateway (granskningsbart AI API) ☁️ Attestering i kedjan för verifiering Phala bevisar att din AGI-agent faktiskt gjorde vad den hävdade, på ett säkert sätt.
AGI-agenter kommer att köra utanför laboratorier – inom gränsenheter, ekonomi, styrning, vetenskap osv. Phala ser till att de körs privat, verifierbart och med inbyggda verifieringskedjor. Läs mer:
Visa original
5,82 tn
65
Innehållet på den här sidan tillhandahålls av tredje part. Om inte annat anges är OKX inte författare till den eller de artiklar som citeras och hämtar inte någon upphovsrätt till materialet. Innehållet tillhandahålls endast i informationssyfte och representerar inte OKX:s åsikter. Det är inte avsett att vara ett godkännande av något slag och bör inte betraktas som investeringsrådgivning eller en uppmaning att köpa eller sälja digitala tillgångar. I den mån generativ AI används för att tillhandahålla sammanfattningar eller annan information kan sådant AI-genererat innehåll vara felaktigt eller inkonsekvent. Läs den länkade artikeln för mer detaljer och information. OKX ansvarar inte för innehåll som finns på tredje parts webbplatser. Innehav av digitala tillgångar, inklusive stabila kryptovalutor och NFT:er, innebär en hög grad av risk och kan fluktuera kraftigt. Du bör noga överväga om handel med eller innehav av digitala tillgångar är lämpligt för dig mot bakgrund av din ekonomiska situation.