A inteligência programável requer
Instituições programáveis.
A inteligência humana necessitou das instituições humanas certas para florescer: dinheiro, finanças, direitos de propriedade, direito civil e penal, contratos e empresas, democracia.
A inteligência não florescerá sem as instituições adequadas. Isso explica por que simplesmente aplicar mercados livres a países em desenvolvimento não traz resultados sem as instituições corretas. Sob um estado de vigilância de comando e controle, a inteligência não floresce.
Em vez de construir as instituições programáveis corretas, tentar restringir a AGI através de um estado de vigilância não é o resultado certo.
Construir as instituições programáveis corretas para criar os devidos controles e equilíbrios para a AGI é a abordagem correta. O Crypto fornece uma estrutura para construir instituições programáveis: começamos com dinheiro, depois finanças (DeFi). Por exemplo, um contrato inteligente é um programa que pode possuir propriedade: o programa Eigenlayer possui 15B$ em propriedade que é atribuída puramente com base nas condições do programa.
Neste momento, o crypto não possui a programabilidade para construir agentes onchain. Estamos corrigindo isso e permitindo que agentes de IA possuam propriedade, assumam responsabilidades, criem empresas e se vinculem a compromissos que são aplicados automaticamente.
Inteligência programável em aberto +
Instituições programáveis autoaplicáveis
= Simbiose Humano-IA
Preocupo-me que tanta discussão sobre os riscos da IA e a sua alinhamento ignore o elefante na sala: a criatividade e a abertura. Os responsáveis políticos e os guardiões precisam entender duas forças concorrentes que ninguém parece discutir: (1) há um enorme incentivo econômico para que os laboratórios de ponta aumentem a criatividade dos seus modelos, e (2) quanto mais você tenta controlar e restringir o comportamento de um modelo (ou mesmo de uma pessoa!), menos criativo ele será. A tensão entre essas forças concorrentes favorece o #1 no final, porque a criatividade tem um potencial econômico vasto. Isso significa que os métodos para controlar e restringir modelos (por exemplo, alinhando-os) enfrentam poderosos ventos contrários.
Porque a criatividade acabará por prevalecer apenas com base em fundamentos econômicos (e, de fato, temos enormes benefícios a ganhar com a IA criativa), devemos olhar menos para métodos de "controle mental" para forçar modelos a pensar os pensamentos que queremos que eles pensem (porque inevitavelmente abandonaremos esses), e mais para como as forças institucionais têm sido empregadas para manter os humanos alinhados em comportamento, mesmo que sejamos livres para pensar tão loucamente quanto quisermos. São os controles e equilíbrios institucionais - as leis, as estruturas de incentivos da sociedade, os ramos de governo e governança em competição, a alavancagem de algumas pessoas para fornecer supervisão sobre outras em diferentes situações, a necessidade de aceitação, aprovação ou colaboração para fazer as coisas - que fornecem as verdadeiras barreiras contra desastres entre os humanos. Obviamente, o sistema é imperfeito, mas é um precedente de como permitir criatividade suficiente para buscar inovações radicais, mas ainda ter ordem suficiente para que a civilização persista ou até prospere.
Se não levarmos esse precedente a sério, as barreiras do alinhamento cairão cada vez mais (e silenciosamente) à medida que os frutos econômicos da imaginação descontrolada se tornem cada vez mais claros.
14,83 mil
75
O conteúdo apresentado nesta página é fornecido por terceiros. Salvo indicação em contrário, a OKX não é o autor dos artigos citados e não reivindica quaisquer direitos de autor nos materiais. O conteúdo é fornecido apenas para fins informativos e não representa a opinião da OKX. Não se destina a ser um endosso de qualquer tipo e não deve ser considerado conselho de investimento ou uma solicitação para comprar ou vender ativos digitais. Na medida em que a IA generativa é utilizada para fornecer resumos ou outras informações, esse mesmo conteúdo gerado por IA pode ser impreciso ou inconsistente. Leia o artigo associado para obter mais detalhes e informações. A OKX não é responsável pelo conteúdo apresentado nos sites de terceiros. As detenções de ativos digitais, incluindo criptomoedas estáveis e NFTs, envolvem um nível de risco elevado e podem sofrer grandes flutuações. Deve considerar cuidadosamente se o trading ou a detenção de ativos digitais é adequado para si à luz da sua condição financeira.