AGI, el santo grial del desarrollo de la IA, domina cualquier tarea cognitiva que un humano puede hacer, aprende en diferentes dominios y se mejora a sí mismo. Y los bloques de construcción fundamentales ya están aquí.
Pero cuando los sistemas se auto-mejoran, incluso un 1% de desalineación = P(doom) 💀
Asegurémonos de hacerlo bien.
🧵
1/🧵
AGI = IA que actúa a nivel de experto humano en la mayoría de los dominios cognitivos. A diferencia de la IA estrecha de hoy (excelente en una tarea), AGI resuelve problemas desconocidos, transfiere conocimiento entre dominios y establece sus propias metas.
Giro inesperado: Los bloques de construcción fundamentales de AGI ya fueron descubiertos entre 2020 y 2024.
3/🧵
DeepMind separa lo que la IA puede hacer de cómo se le permite actuar de forma independiente. Definen seis niveles de autonomía, desde herramientas controladas por humanos hasta agentes completamente autónomos.
Crucialmente, las AGI poderosas no necesitan alta autonomía, y incluso la IA simple puede ser arriesgada si se deja sin supervisión. El despliegue seguro depende no solo de la capacidad, sino del control.
4/🧵
La pila de seguridad de AGI de 6 capas de DeepMind: Interpretabilidad + Monitoreo + Intervenciones en el entrenamiento + Salvaguardias en el despliegue + Arquitecturas seguras + Gobernanza.
Pero estas salvaguardias necesitan una capa de ejecución confiable...
Investigación completa:
5/🧵
Entrar en la Computación Confidencial 🔐
💁♀️ Nube Privada de Apple Compute (Siri)
💁♀️ VMs de Confianza de Anthropic (Claude)
💁♀️ Contenedores confidenciales de Azure
Todos convergen en un objetivo: Ejecutar IA donde ni los proveedores de la nube ni los atacantes pueden acceder a los internos del modelo o a consultas sensibles.
6/🧵
Phala Network: Infraestructura Confidencial para AGI Seguro. Componentes clave:
☁️ Soporte de GPU TEE para IA de alto rendimiento
☁️ SDK de ML Privado (inferencia segura de LLM)
☁️ Redpill Gateway (API de IA auditable)
☁️ Atestación en cadena para verificación
Phala prueba que tu agente AGI realmente hizo lo que afirmaba, de manera segura.
Los agentes de AGI funcionarán fuera de los laboratorios, en dispositivos de borde, finanzas, gobernanza, ciencia, etc.
Phala asegura que funcionen de manera privada, verificable y con auditorías integradas.
Lee más:
5,84 mil
65
El contenido de esta página lo proporcionan terceros. A menos que se indique lo contrario, OKX no es el autor de los artículos citados y no reclama ningún derecho de autor sobre los materiales. El contenido se proporciona únicamente con fines informativos y no representa las opiniones de OKX. No pretende ser un respaldo de ningún tipo y no debe ser considerado como un consejo de inversión o una solicitud para comprar o vender activos digitales. En la medida en que la IA generativa se utiliza para proporcionar resúmenes u otra información, dicho contenido generado por IA puede ser inexacto o incoherente. Lee el artículo vinculado para obtener más detalles e información. OKX no es responsable del contenido alojado en sitios de terceros. El holding de activos digitales, incluyendo stablecoins y NFT, implican un alto grado de riesgo y pueden fluctuar en gran medida. Debes considerar cuidadosamente si el trading o holding de activos digitales es adecuado para ti a la luz de tu situación financiera.