AGI, cawan suci pengembangan AI, menguasai tugas kognitif apa pun yang dapat dilakukan manusia, belajar lintas domain, dan meningkatkan dirinya sendiri. Dan blok bangunan inti sudah ada di sini.
Tetapi ketika sistem membaik diri, bahkan 1% ketidaksejajaran = P (malapetaka) 💀
Mari kita pastikan kita melakukannya dengan benar.
🧵
1/ 🧵
AGI = AI yang bekerja pada tingkat ahli manusia di sebagian besar domain kognitif. Tidak seperti AI sempit saat ini (hebat dalam satu tugas), AGI memecahkan masalah asing, mentransfer pengetahuan lintas domain, dan menetapkan tujuannya sendiri.
Plot twist: Blok bangunan inti AGI sudah ditemukan pada tahun 2020-2024.
3/ 🧵
DeepMind memisahkan apa yang dapat dilakukan AI dari seberapa independen ia diizinkan untuk bertindak. Mereka mendefinisikan enam tingkat otonomi, dari alat yang dikendalikan manusia hingga agen otonom penuh.
Yang terpenting, AGI yang kuat tidak membutuhkan otonomi tinggi, dan bahkan AI sederhana pun bisa berisiko jika dibiarkan tanpa pengawasan. Penerapan yang aman tidak hanya bergantung pada kemampuan, tetapi juga pada kontrol.
4/ 🧵
Tumpukan keamanan AGI 6 lapis DeepMind: Interpretabilitas + Pemantauan + Intervensi pelatihan + Perlindungan penerapan + Arsitektur aman + Tata kelola.
Tetapi pengamanan ini membutuhkan lapisan eksekusi tepercaya...
Penelitian lengkap:
5/ 🧵
Masukkan Komputasi Rahasia 🔐
💁 ♀️ Komputasi Cloud Pribadi Apple (Siri)
💁 ♀️ VM Tepercaya Anthropic (Claude)
💁 ♀️ Kontainer rahasia Azure
Semua menyatu pada satu tujuan: Jalankan AI di mana penyedia cloud maupun penyerang tidak dapat mengakses internal model atau kueri sensitif.
6/ 🧵
Jaringan Phala: Infrastruktur Rahasia untuk AGI yang Aman. Komponen utama:
☁️ Dukungan GPU TEE untuk AI berkinerja tinggi
☁️ SDK ML Privat (inferensi LLM aman)
☁️ Redpill Gateway (API AI yang dapat diaudit)
☁️ Pengesahan on-chain untuk verifikasi
Phala membuktikan agen AGI Anda benar-benar melakukan apa yang diklaimnya, dengan aman.
Agen AGI akan berjalan di luar laboratorium — di perangkat edge, keuangan, tata kelola, sains, dll.
Phala memastikan mereka berjalan secara pribadi, terverifikasi, dan dengan jejak audit bawaan.
Baca lebih lanjut:
5,82 rb
65
Konten pada halaman ini disediakan oleh pihak ketiga. Kecuali dinyatakan lain, OKX bukanlah penulis artikel yang dikutip dan tidak mengklaim hak cipta atas materi tersebut. Konten ini disediakan hanya untuk tujuan informasi dan tidak mewakili pandangan OKX. Konten ini tidak dimaksudkan sebagai dukungan dalam bentuk apa pun dan tidak dapat dianggap sebagai nasihat investasi atau ajakan untuk membeli atau menjual aset digital. Sejauh AI generatif digunakan untuk menyediakan ringkasan atau informasi lainnya, konten yang dihasilkan AI mungkin tidak akurat atau tidak konsisten. Silakan baca artikel yang terkait untuk informasi lebih lanjut. OKX tidak bertanggung jawab atas konten yang dihosting di situs pihak ketiga. Kepemilikan aset digital, termasuk stablecoin dan NFT, melibatkan risiko tinggi dan dapat berfluktuasi secara signifikan. Anda perlu mempertimbangkan dengan hati-hati apakah trading atau menyimpan aset digital sesuai untuk Anda dengan mempertimbangkan kondisi keuangan Anda.