Estamos “Tendendo em direção” à IA transformadora? (Como saberíamos disso?)

Esta é uma de quatro postagens resumindo centenas de páginas de relatórios técnicos focados quase inteiramente na previsão de um número: o ano no qual a Inteligência Artificial transformadora será desenvolvida.⁸⁵

Por “IA Transformadora”, quero dizer “IA poderosa o suficiente para nos levar a um futuro novo e qualitativamente diferente”. Eu me concentro especificamente no que estou chamando de PASTA: sistemas de Inteligência Artificial que conseguem automatizar essencialmente todas as atividades humanas necessárias para acelerar o avanço científico e tecnológico.

Quanto mais cedo o PASTA for desenvolvido, mais cedo o mundo poderá mudar radicalmente, e parece que o mais importante para pensarmos hoje seria como fazer com que essa mudança seja bem ou malsucedida.

Nesta e na próxima postagem, falarei sobre os métodos de previsão subjacentes ao meu posicionamento atual: acredito que há mais de 10% de chance de desenvolvermos algo suficientemente parecido com o PASTA para ser qualificado como “IA transformadora” dentro de 15 anos (até 2036); uma chance de aproximadamente 50% disso acontecer dentro de 40 anos (até 2060); e uma probabilidade de aproximadamente 2/3 de que isso aconteça ainda neste século (até 2100).

Abaixo, eu:

• Discutirei que tipo de previsão estou almejando.

Não tenho certeza se perceberemos que a Inteligência Artificial transformadora está “a caminho” muito antes de ser desenvolvida. Espero, em vez disso, que tendências a respeito dos principais fatos subjacentes sobre o mundo (como recursos de IA, tamanho do modelo, etc.) sirvam de base para prever um futuro desconhecido qualitativamente.

Uma analogia para esse tipo de previsão seria algo assim: “A água não está borbulhando e não há sinais de borbulhas, mas a temperatura passou de 70° Fahrenheit⁸⁶ para 150°, e se ela atingir 212°, a água vai borbulhar.” Ou: “É como prever o fechamento de escolas e a superlotação de hospitais, antes que aconteça, baseando-se nas tendências de aumento de infecções”.

• Discutirei se é possível observar tendências que indiquem o quanto os sistemas de Inteligência Artificial são capazes ou “surpreendentes”. Acho que essa abordagem não é confiável: (a) o progresso da Inteligência Artificial pode não apresentar uma “tendência” da maneira que esperamos; (b) na minha experiência, diferentes pesquisadores de Inteligência Artificial têm intuições radicalmente diferentes sobre quais sistemas são surpreendentes ou capazes e como estão progredindo.
• Discutirei brevemente Grace et al. 2017, a melhor pesquisa feita com pesquisadores de Inteligência Artificial sobre cronologias da Inteligência Artificial transformadora. Suas conclusões parecem estar amplamente alinhadas com minhas próprias previsões, embora haja sinais de que os participantes da pesquisa não estavam pensando muito antes de responder às perguntas.

O próximo artigo nesta série focará no artigo Forecasting Transformative AI with Biological Anchors (Prevendo a Inteligência Artificial Transformadora com âncoras biológicas) de Ajeya Cotra (que me referirei abaixo como “Bio-âncoras”), o método de previsão para Inteligência Artificial transformadora que considero mais esclarecedor.

Que tipo de previsão almejo?

De algumas maneiras, prever a Inteligência Artificial transformadora é diferente de realizar as previsões que estamos acostumados a realizar.

Primeiramente, essas previsões abrangem intervalos de tempo muito longos (décadas), ao contrário de, por exemplo, uma previsão climática (dias) ou uma previsão eleitoral (meses). Isso torna a tarefa um pouco mais difícil,⁸⁷ e também mais difícil para quem está de fora avaliar, já que não há um histórico claramente relevante de previsões sobre tópicos semelhantes.

Em segundo lugar, carecemos de fontes de dados ricas e claramente relevantes e não podemos nos basear em um monte de previsões semelhantes feitas no passado. A FiveThirtyEight analisa centenas de pesquisas eleitorais e tem um modelo de quão bem elas previram os resultados das eleições passadas. Porém, a previsão da Inteligência Artificial transformadora se ancora mais em intuições, suposições e julgamentos, para determinar quais dados são mais relevantes e como eles são relevantes.

Finalmente, estou tentando prever um futuro desconhecido qualitativamente. A Inteligência Artificial transformadora — e o estranho futuro que a acompanha — não se parece com algo para o qual estamos “tendendo na direção”, ano a ano.

• Se eu estivesse tentando prever quando a população mundial chegaria a 10 bilhões, poderia simplesmente extrapolar as tendências existentes da população mundial. A própria população mundial é conhecida por estar crescendo e pode ser estimada diretamente. Na minha opinião, extrapolar uma tendência de longa duração é uma das melhores maneiras de fazer uma previsão.
• Quando a FiveThirtyEight faz previsões eleitorais, há um entendimento prévio de que haverá eleição em uma determinada data, e quem vencer tomará posse em outra data. Todos aceitamos esse modelo e há um entendimento geral de que uma votação maior significa maior probabilidade de vitória.
• Por outro lado, a Inteligência Artificial transformadora — e o estranho futuro que ela traz — não é uma tecnologia para a qual estamos “caminhando” de maneira claramente mensurável. Não há uma métrica clara como “transformatividade da IA” ou “estranheza do mundo” que aumenta regularmente a cada ano, de modo que possamos projetá-la no futuro e obter a data em que algo como o PASTA será desenvolvido.

Talvez para alguns, esses sejam motivos suficientes para ignorar toda a possibilidade de uma Inteligência Artificial transformadora ou presumir que ela está muito distante. Mas, por alguns motivos, não acredito que isso seja uma boa ideia.

Em primeiro lugar, tenho uma opinião subjacente de que algo como o PASTA é, de um certo modo, “inevitável”, presumindo que haverá avanços contínuos na sociedade e na computação. A intuição básica aqui – que eu poderia expandir se houver interesse – é que os cérebros humanos são numerosos e não parecem precisar de materiais raros específicos para serem produzidos, então, deve ser possível em algum momento replicar sinteticamente as principais partes de sua funcionalidade.⁸⁸

Por sua vez, não estou confiante de que o PASTA parecerá estar qualitativamente “a caminho” de ser desenvolvido bem antes de estar. (Mais sobre isso abaixo.) Portanto, estou inclinado a procurar maneiras de estimar para quando podemos esperar esse desenvolvimento, apesar dos desafios e do fato de que hoje não parece que isso acontecerá em breve.

Acho que há muitos exemplos de casos em que um futuro desconhecido qualitativamente poderia ser vislumbrado com antecedência, traçando a tendência com base em alguns fatos subjacentes e relacionados sobre o mundo. Alguns exemplos que vêm à mente:

• Quando a COVID-19 surgiu pela primeira vez, muitas pessoas não a levaram a sério porque não parecia estarmos “tendendo para” ou “na direção de” um mundo cheio de hospitais superlotados, fechamento de escritórios e escolas, etc. Na época (digamos, janeiro de 2020), havia um número relativamente pequeno de casos, um número ainda menor de mortes e nenhum entendimento qualitativo de que isso era uma emergência global. A princípio, a única coisa alarmante sobre a COVID-19, era que o número de casos estava crescendo a uma rápida taxa exponencial (embora o número total de casos ainda fosse pequeno). Mas foi possível extrapolar do rápido crescimento no número de casos para o risco de uma emergência global, e algumas pessoas conseguiram. (Enquanto outras não.)

Os climatologistas preveem um aumento global nas temperaturas que é significativamente maior do que o observado nas últimas décadas, e isso pode ter consequências significativas muito além das quais estamos observando atualmente. Isso é feito prevendo tendências nas emissões de gases de efeito estufa e extrapolando a partir disso para a temperatura e suas consequências. Se você simplesmente perguntasse “Com que rapidez a temperatura está subindo?” ou “Os furacões estão piorando?”, e baseasse todas as suas previsões do futuro nas respostas dessas perguntas, você provavelmente não estaria prevendo os mesmos tipos de eventos extremos por volta de 2100.⁸⁹

Casos de COVID-19 reportados pela OMS. O fechamento de locais de trabalho refere-se a estes dados da OWID (Nosso mundo em dados), simplesmente pontuados como 1 para “recomendado”, 2 para “obrigatório para alguns”, 3 para “obrigatório para todos, exceto os principais trabalhadores” e somados em todos os países.

Uma analogia para esse tipo de previsão seria algo assim: “Esta água não está borbulhando e não há sinais de borbulhas, mas a temperatura passou de 70° Fahrenheit⁹⁰ para 150°, e se ela atingir 212°, a água vai borbulhar.”

Preferencialmente, posso encontrar alguns fatores subjacentes que se alteram regularmente o suficiente para podermos predizê-los (tal como o crescimento no tamanho e custo dos modelos de IA), e, em seguida, argumentar que, se esses fatores atingirem um certo ponto, as chances do desenvolvimento da Inteligência Artificial transformadora serão altas.

Podemos pensar nessa abordagem como uma resposta para a pergunta: “Se eu acredito que algo como o PASTA é inevitável e estou tentando prever o momento em que ele será desenvolvido usando alguns métodos de análise diferentes, qual é a minha previsão?” Podemos perguntar separadamente “E há razão para que essa previsão seja implausível, não confiável ou muito audaciosa”? – isso foi abordado no artigo anterior desta série.

Extrapolações subjetivas e “imponência da IA”

Para uma apresentação diferente de um conteúdo parecido, veja esta seção de Bio-âncoras.

Se buscássemos fatores que influenciariam na previsão de quando uma Inteligência Artificial transformadora seria desenvolvida, talvez a primeira coisa a se analisar seriam tendências que mostrem o quão “surpreendentes” ou “capazes” os sistemas de Inteligência Artificial estão se tornando.

A versão mais fácil disso seria se o mundo se reestruturasse de tal forma que:

• Um dia, pela primeira vez, um sistema de Inteligência Artificial conseguisse ser aprovado no exame de ciências da 4ª série.

• Em seguida, a primeira Inteligência Artificial fosse aprovada (e depois recebesse a nota máxima) em um exame da 5ª série, depois no exame da 6ª série, etc.

• Depois, a primeira Inteligência Artificial conquistasse um doutorado e tivesse seu primeiro artigo publicado, etc., chegando finalmente a ser a primeira Inteligência Artificial que conseguisse realizar um trabalho científico digno de receber o Prêmio Nobel.
• Isso teria que ser distribuído regularmente ao longo de décadas, para podermos observar claramente o estado da arte avançando da 4ª para a 5ª e 6ª séries, alcançando o “pós-doutorado” e além. E tudo isso acontecesse lenta e regularmente o suficiente para ser possível começar a definir uma data para a “IA científica total” com várias décadas de antecedência.

Seria muito conveniente — quase quero dizer “comportado” — se os sistemas de Inteligência Artificial evoluíssem dessa maneira. Também seria “comportado” se a Inteligência Artificial avançasse da maneira que algumas pessoas casualmente imaginam: primeiro assumindo funções como “motorista de caminhão” e “trabalhador de linha de montagem”, depois funções como “professor” e “suporte de TI,” e depois empregos como “médico” e “advogado”, antes de progredir para “cientista”.

Qualquer um dos cenários acima nos daria bastante tempo de vantagem e uma base sólida para prever quando a Inteligência Artificial de automação científica será desenvolvida. Infelizmente, acredito que não podemos contar com isso.

• A Inteligência Artificial parece progredir de maneira muito diferente dos humanos. Por exemplo, existiam jogadores de xadrez de Inteligência Artificial sobre-humanos⁹¹ muito antes de existir uma Inteligência Artificial que pudesse diferenciar com segurança imagens de cães e gatos.⁹²
• Uma possibilidade é que os sistemas de Inteligência Artificial conseguirão realizar tarefas intelectuais mais difíceis do que as que os insetos conseguem realizar. Depois, as tarefas mais difíceis que os ratos e outros pequenos mamíferos conseguem realizar, depois as dos macacos, depois as dos humanos — se igualando efetivamente com as habilidades de cérebros crescentes. Se isso acontecesse, não observaríamos necessariamente muitos sinais de que a Inteligência Artificial conseguiria, por exemplo, fazer ciência até que estivéssemos muito próximos disso acontecer. Alcançar o mesmo nível que um aluno da 4ª série pode não acontecer até o final do processo.
• Outra possibilidade é que os sistemas de Inteligência Artificial consigam fazer qualquer coisa que um humano faça em 1 segundo, depois qualquer coisa que um humano faça em 10 segundos, etc. Isso também seria uma progressão bastante confusa, o que tornaria prever o progresso algo não-óbvio.

Na verdade, se ainda não soubéssemos como os humanos se desenvolvem, acharíamos que o progresso de uma criança é bastante confuso e difícil de extrapolar. Acompanhar o desenvolvimento de uma pessoa, do seu nascimento até os 8 anos, não daria nenhuma indicação de que essa pessoa estaria, digamos, a 1/3 do caminho para fundar seu próprio negócio, realizar uma importante descoberta científica original, etc. (Mesmo conhecendo o curso normal do desenvolvimento humano, é difícil dizer, observando uma criança de 8 anos, quais habilidades de nível profissional ela desenvolveria ou teria na idade adulta.)

No geral, não está claro como devemos interpretar o espectro de “não surpreendente/capaz” até “muito surpreendente/capaz” para IA. E, de fato, na minha experiência, diferentes pesquisadores de Inteligência Artificial têm intuições radicalmente diferentes sobre quais sistemas são surpreendentes ou capazes e como eles estão progredindo. Muitas vezes tive a experiência de ver um amigo pesquisador de Inteligência Artificial apontar para algum novo resultado e dizer “Isso é enorme, como alguém pode não ver como estamos próximos do desenvolvimento de uma Inteligência Artificial poderosa?” enquanto outro diz “Este é um pequeno avanço, de pouca importância.”⁹³

Seria ótimo se pudéssemos prever o ano em que a Inteligência Artificial transformadora será desenvolvida, usando um gráfico como este (de Bio-âncoras; “TAI” significa “IA transformadora”):

Mas, até onde posso dizer, não há como definir o eixo y sem que antes isso seja debatido ferozmente entre os especialistas.

Consultando os especialistas

Uma maneira de lidar com essa incerteza e confusão seria consultar um grupo grande de especialistas e simplesmente perguntar quando eles esperam que a Inteligência Artificial transformadora seja desenvolvida. Podemos ter a esperança de que cada um dos especialistas consultados (ou pelo menos, muitos deles) estejam fazendo sua própria versão da “extrapolação da imponência da IA” mencionada acima. Se não for esse o caso, que eles estejam fazendo outra coisa que os ajude a chegar a uma estimativa razoável.

Calculando a média de muitas estimativas, podemos obter um agregado que reflita a “sabedoria das multidões”.⁹⁴

Grace et al 2017 apresenta a melhor versão desse exercício. A pesquisa, feita com 352 pesquisadores de IA, incluía uma pergunta sobre “quando máquinas independentes conseguirão realizar todas as tarefas que os trabalhadores humanos realizam, de forma mais barata e melhor” (o que presumivelmente incluiria tarefas que promovem o desenvolvimento científico e tecnológico, e, portanto, qualificaria como PASTA). As duas grandes conclusões desta pesquisa, segundo o Bio-âncoras e eu, são:

• Uma probabilidade de aproximadamente 20% desse tipo de Inteligência Artificial ser desenvolvida até 2036; aproximadamente 50% até 2060 e aproximadamente 70% até 2100. Estes resultados correspondem aos números que cito na introdução.
• Perguntas reformuladas com palavras ligeiramente diferentes das originais (feitas para um subconjunto menor de entrevistados) tiveram estimativas muito posteriores como resposta. Isso seria (para mim), uma indicação de que os participantes simplesmente não estavam pensando muito antes de responder à pesquisa.⁹⁵

Minha conclusão: essa evidência é consistente com minhas probabilidades atuais, embora não tão esclarecedora assim. O próximo artigo nesta série focará completamente no Forecasting Transformative AI with Biological Anchors (Prevendo a Inteligência Artificial Transformadora com âncoras biológicas) de Ajeya Cotra, o método de previsão que considero mais elucidativo mencionado aqui.

Notas

⁸⁴_{Claro, a resposta poderia ser “Daqui a um zilhão de anos” ou “Nunca.”}

⁸⁵_{Equivalentes em centígrados para esta frase: 21 °C, 66}

⁸⁶_{Algumas observações sobre previsões de}

⁸⁷_{Para um argumento um pouco mais elaborado, veja também este artigo. Não concordo totalmente com o que ele apresenta; não acredito que seja um argumento forte no que se refere ao desenvolvimento da Inteligência Artificial transformadora no curto prazo, mas acredito que oferece uma boa aproximação das minhas intuições sobre sua viabilidade. Também veja On the Impossibility of Supersized Machines (Sobre a impossibilidade de máquinas superdimensionadas) para algumas respostas implícitas (brincadeira) para muitos argumentos comuns sobre porque a Inteligência Artificial transformadora pode ser impossível de criar.}

⁸⁸_{Por exemplo, observe o gráfico de temperatura aqui– a linha mais baixa seria uma projeção razoável, se a temperatura fosse a única coisa que você estivesse observando.}

⁸⁹_{Equivalentes em centígrados para esta frase: 21° C, 66° C, 100° C}

_⁹¹1997

⁹² _{O desafio kagle “cães x gatos” foi criado em 2013}

⁹³_{De bio-âncoras: “Ouvimos especialistas em ML com cronologias relativamente curtas argumentarem que os sistemas de Inteligência Artificial atuais podem essencialmente ver tão bem quanto os humanos; entender informações escritas e vencer os humanos em quase todos os jogos de estratégia. E o conjunto de coisas que eles conseguem fazer está se expandindo rapidamente, levando-os a antecipar que o desenvolvimento da Inteligência Artificial transformadora será alcançável nas próximas décadas, treinando modelos maiores em uma distribuição mais ampla de problemas de ML que são mais direcionados à geração de valor econômico. Por outro lado, muito mais dados para aprender do que os humanos, são incapazes de transpor o que aprendem de um contexto para outro ligeiramente diferente e não parecem ser dotados de um raciocínio muito lógico, estruturado e causal; isso os leva a acreditar que precisaríamos de vários avanços importantes para desenvolver a TAI. Pelo menos um consultor técnico da Open Philanthropy avançou cada uma dessas perspectivas.”}

⁹⁴_{Wikipedia: “A descoberta clássica da sabedoria das multidões… Em uma feira rural de 1906 em Plymouth, 800 pessoas participaram de um concurso para estimar o peso de um boi abatido e preparado. O estatístico Francis Galton observou que o palpite médio, 1207 libras (0,55 t), atingiu uma acurácia próxima de 1% do peso real de 1198 libras (0,54 t)}.

⁹⁵_{Bio-âncoras: Alguns pesquisadores foram solicitados a prever o desenvolvimento da “HLMI” conforme definida acima (inteligência artificial de nível humano, a qual eu consideraria incluir algo como o PASTA); enquanto outro subconjunto de pesquisadores foi solicitado a prever o desenvolvimento da “automação total do trabalho”, ou seja, uma época na qual “todas as ocupações serão totalmente automatizáveis”. Apesar do desenvolvimento da HLMI parecer conduzir rapidamente à automação total do trabalho, a estimativa média para o desenvolvimento da automação total do trabalho foi de aproximadamente 2138, enquanto a estimativa média para a HLMI foi de aproximadamente 2061, quase 80 anos mais cedo. Subconjuntos aleatórios de entrevistados foram solicitados a prever quando marcos individuais (por exemplo, dobrar roupas lavadas, StarCraft ao nível humano ou pesquisa matemática ao nível humano) seriam alcançados. O ano médio em que os entrevistados esperavam que as máquinas automatizassem a pesquisa de Inteligência Artificial foi até aproximadamente 2104, enquanto a estimativa média para a HLMI foi até aproximadamente 2061 — outra inconsistência clara, pois a “pesquisa de IA” é uma tarefa realizada por trabalhadores humanos.}