Este é um resumo de como cada artigo da série “O século mais importante” se relaciona com o argumento geral. Acho útil ler este roteiro antes da série completa para ter uma noção de onde cada artigo se encaixa.
Acho que temos boas razões para acreditar que o século XXI pode ser o século mais importante para a humanidade. Acredito que a maneira provável disso acontecer seria por meio do desenvolvimento de sistemas avançados de Inteligência Artificial, que levariam a um crescimento econômico explosivo e ao avanço científico, conduzindo-nos mais rapidamente do que a maioria das pessoas imagina a um futuro profundamente desconhecido.
Um pouco mais especificamente,1 acredito que há uma boa chance de que:
- Durante o século atual, desenvolveremos tecnologias que nos farão transitar para um estado no qual os humanos, tais como os conhecemos, não serão mais a força principal nos eventos mundiais. Esta é nossa última chance de moldar como essa transição acontecerá.
- Independentemente de qual seja a força principal nos eventos mundiais (talvez pessoas digitais, Inteligência Artificial desalinhada ou qualquer outra coisa), ela criará civilizações altamente estáveis que povoarão toda a nossa galáxia por bilhões de anos. A transição que está ocorrendo neste século poderá dar forma a tudo isso.
Acho que não está claro se isso seria bom ou ruim. O importante é que a transição poderia seguir vários caminhos diferentes e nós temos a possibilidade de influenciar seu resultado.
Acredito que a possibilidade acima não recebe atenção, discussão ou investimento suficiente, principalmente de pessoas cujo objetivo é melhorar o mundo. Ao escrever sobre o assunto, gostaria de ajudar a mudar isso ou ter mais oportunidades de ser desafiado a mudar de ideia.
Esta postagem serve como um resumo/roteiro para uma série de 11 postagens discutindo esses argumentos (e as próprias postagens são frequentemente resumos de análises mais longas realizadas por outras pessoas).
Nossa era extremamente importante
Todas as visões possíveis sobre o futuro da humanidade são audaciosas* discute duas observações simples — (a) é provável que, eventualmente, consigamos nos espalhar pela galáxia e (b) não parece que outras formas de vida já o tenham feito. Essas observações são o suficiente para comprovar que vivemos em um momento extremamente relevante. Ilustro isso com uma cronologia da galáxia.
O Duplicador explica o mecanismo básico pelo qual o “eventualmente” descrito acima poderia se tornar “em breve”: a capacidade de “copiar mentes humanas” poderia levar a uma explosão de produtividade. Este texto fornece o contexto para os próximos artigos. Pessoas digitais seriam mais importantes ainda discute como tecnologias aparentemente alcançáveis — em particular, upload de mentes — poderiam levar a uma produtividade sem precedentes, controle do ambiente e muito mais. O resultado poderia ser uma civilização estável abrangendo toda a galáxia, profundamente desconhecida do ponto de vista atual.
O potencial do nosso século para a aceleração
Isto não pode continuar analisa o crescimento econômico e o avanço científico ao longo da história humana. Nas últimas gerações, o crescimento tem sido bastante estável. Mas quando distanciamos a visão para um período mais longo, parece que o crescimento acelerou bastante recentemente; está perto de seu ápice histórico; e não poderá manter essa velocidade por muito mais tempo (não há átomos suficientes na galáxia para sustentar essa taxa de crescimento por mais 10.000 anos).
Os tempos em que vivemos são inusitados e instáveis. Em vez de planejar mais do mesmo, devemos antecipar a estagnação (desaceleração do crescimento e do avanço científico), a explosão (maior aceleração) ou o colapso econômico.
Prevendo a Inteligência Artificial transformadora, parte 1: qual tipo de IA? Introduz a possibilidade de sistemas de Inteligência Artificial que automatizam o avanço científico e tecnológico, o que poderia causar produtividade explosiva. Argumento que tais sistemas seriam “transformadores” no sentido de nos levar a um futuro novo e qualitativamente desconhecido.
Porque o alinhamento da Inteligência Artificial pode ser difícil com o Deep Learning moderno (postagem de convidado) entra em mais detalhes sobre porque os sistemas avançados de Inteligência Artificial podem estar “desalinhados”, com consequências potencialmente catastróficas.
Prevendo a Inteligência Artificial transformadora neste século
Prevendo a Inteligência Artificial transformadora: qual é o ônus da prova? Argumenta que não devemos ter um “ônus da prova” muito alto por acreditar que a Inteligência Artificial transformadora poderia ser desenvolvida neste século, em parte porque nosso século já é especial de muitas maneiras que podemos constatar sem uma análise detalhada da IA.
Prevendo a Inteligência Artificial transformadora: estamos “tendendo em direção” à Inteligência Artificial transformadora? Discute a estrutura básica da previsão da Inteligência Artificial transformadora, os problemas com a tentativa de efetuar previsões com base nas tendências da “imponência da IA” e o estado de opinião dos pesquisadores de Inteligência Artificial sobre as cronologias da Inteligência Artificial transformadora.
Prevendo a Inteligência Artificial transformadora: o método das “âncoras biológicas” em poucas palavras resume o método das âncoras biológicas para previsão de IA. Este método é o principal fator em minhas previsões específicas.
Prevejo mais de 10% de probabilidade da Inteligência Artificial transformadora ser desenvolvida dentro de 15 anos (até 2036); aproximadamente 50% de ser desenvolvida em 40 anos (até 2060); e aproximadamente 2/3 de ser desenvolvida neste século (até 2100).
Cronologias da IA: quais são os argumentos e como os especialistas se posicionam, resume brevemente o estado dos argumentos e aborda a questão: “Como se posicionam os especialistas sobre tudo isso?”
As afirmações que estou fazendo não contradizem um determinado consenso de especialistas, nem são corroboradas por ele (embora a maioria dos principais relatórios que cito tenham sido revisados por especialistas externos). Elas são, ao contrário, afirmações sobre tópicos que simplesmente não têm “uma área do conhecimento” com especialistas dedicados a estudá-los.
Algumas pessoas podem optar por ignorar quaisquer afirmações que não sejam ativamente corroboradas por um consenso robusto de especialistas; mas não acredito ser isso o que deveríamos fazer aqui.
Implicações
Como aproveitar o melhor do século mais importante? discute visões diferentes e contrastantes de como ajudar o século mais importante a ser da melhor maneira possível para a humanidade — e lista “ações vigorosamente úteis” que, independentemente disso, parecem valer a pena serem tomadas.
Chamada à vigilância está no lugar de uma “chamada à ação” para esta série. Dada toda a incerteza que enfrentamos, não acredito que as pessoas devam se apressar para “fazer alguma coisa” e depois seguir adiante. Em vez disso, elas devem realizar as ações vigorosamente boas que elas possam realizar hoje, e, além disso, colocarem-se em uma posição melhor para realizar ações importantes quando a hora chegar.
Algumas postagens complementares que desenvolvem os argumentos abordados são:
- Alguns detalhes adicionais sobre o que quero dizer com “o século mais importante”
- Uma nota sobre o crescimento econômico histórico: como o argumento do “século mais importante” é afetado se nossa visão da história econômica de longo prazo mudar.
- Mais sobre “múltiplas economias de tamanho mundial por átomo”. Uma continuação de “Isto não pode continuar” para os céticos.
- Ponto fraco de “O século mais importante”: automação completa (reconhece que eu poderia ter feito mais para abordar a questão de quão completa a automação de Inteligência Artificial deve ser para acarretar as consequências que discuto e acrescenta um pouco mais sobre esse assunto)
- Ponto fraco de “O século mais importante”: lock-in (reconhece que eu poderia ter feito mais para abordar como a Inteligência Artificial poderia levar ao “lock-in”(ou aprisionamento em português) do futuro de longo prazo e acrescenta um pouco mais sobre esse assunto)
- “Âncoras biológicas” é sobre delimitar e, não, especificar, cronologias da IA: mais sobre como usei o método das “âncoras biológicas”; este artigo é voltado para leitores céticos
Listei algumas fontes importantes para esta série em um só lugar aqui, para os interessados em se aprofundar muito mais no tema.
Notas
1Para uma elaboração mais detalhada do que quero dizer com “o século mais importante”, veja aqui (provavelmente não será de interesse para a maioria dos leitores).
*Nota do tradutor: o termo utilizado pelo autor no original em inglês é “wild”. Embora uma tradução literal possível seria “selvagem”, esta nos parece inapropriada para o significado que o autor deseja transmitir. Então, sem haver uma palavra diretamente equivalente no português em todas as suas conotações, aqui utilizaremos o termo “audacioso”. Outras possíveis traduções consideradas incluem “alucinante”, “incerto”, “desafiador”, etc.
