AGI, el santo grial del desarrollo de la IA, domina cualquier tarea cognitiva que un humano pueda hacer, aprende en todos los dominios y se mejora a sí misma. Y los bloques de construcción centrales ya están aquí.
Pero cuando los sistemas se automejoran, incluso un 1% de desalineación = P(fatalidad) 💀
Asegurémonos de hacerlo bien.
🧵
1/ 🧵
AGI = IA que se desempeña a nivel humano-experto en la mayoría de los dominios cognitivos. A diferencia de la IA limitada de hoy en día (excelente en una tarea), AGI resuelve problemas desconocidos, transfiere conocimientos entre dominios y establece sus propios objetivos.
Giro de la trama: Los bloques de construcción centrales de AGI ya se descubrieron en 2020-2024.
3/ 🧵
DeepMind separa lo que la IA puede hacer de la independencia con la que se le permite actuar. Definen seis niveles de autonomía, desde herramientas controladas por humanos hasta agentes totalmente autónomos.
Fundamentalmente, los AGI potentes no necesitan una gran autonomía, e incluso la IA simple puede ser arriesgada si no se supervisa. La implementación segura depende no solo de la capacidad, sino también del control.
4/ 🧵
Pila de seguridad AGI de 6 capas de DeepMind: Interpretabilidad + Monitoreo + Intervenciones de capacitación + Salvaguardas de implementación + Arquitecturas seguras + Gobernanza.
Pero estas salvaguardas necesitan una capa de ejecución de confianza...
Investigación completa:
5/ 🧵
Ingrese a la informática 🔐 confidencial
💁 ♀️ Computación en la nube privada de Apple (Siri)
💁 ♀️ Máquinas virtuales de confianza de Anthropic (Claude)
💁 ♀️ Contenedores confidenciales de Azure
Todos convergen en un objetivo: ejecutar IA donde ni los proveedores de la nube ni los atacantes puedan acceder a los componentes internos del modelo o a las consultas confidenciales.
6/ 🧵
Phala Network: Infraestructura confidencial para un AGI seguro. Componentes clave:
☁️ Compatibilidad con GPU TEE para IA de alto rendimiento
☁️ SDK de ML privado (inferencia segura de LLM)
☁️ Redpill Gateway (API de IA auditable)
☁️ Atestación en cadena para verificación
Phala demuestra que su agente AGI realmente hizo lo que afirmaba, de manera segura.
Los agentes de AGI se encargarán de los laboratorios externos, en dispositivos periféricos, finanzas, gobernanza, ciencia, etc.
Phala garantiza que se ejecuten de forma privada, verificable y con pistas de auditoría integradas.
Leer más:
5.83 K
65
El contenido al que estás accediendo se ofrece por terceros. A menos que se indique lo contrario, OKX no es autor de la información y no reclama ningún derecho de autor sobre los materiales. El contenido solo se proporciona con fines informativos y no representa las opiniones de OKX. No pretende ser un respaldo de ningún tipo y no debe ser considerado como un consejo de inversión o una solicitud para comprar o vender activos digitales. En la medida en que la IA generativa se utiliza para proporcionar resúmenes u otra información, dicho contenido generado por IA puede ser inexacto o incoherente. Lee el artículo enlazado para más detalles e información. OKX no es responsable del contenido alojado en sitios de terceros. Los holdings de activos digitales, incluidos stablecoins y NFT, suponen un alto nivel de riesgo y pueden fluctuar mucho. Debes considerar cuidadosamente si el trading o holding de activos digitales es adecuado para ti según tu situación financiera.