Antrópica Em seus artigos mais recentes, o CEO Dario Amodei e o CEO da OpenAI, Sam Altman, mostram os diferentes focos de suas empresas na direção da IA. Dario Amodei enfatiza a interpretabilidade e a segurança dos modelos de IA como a chave para garantir sistemas de IA confiáveis e controláveis, enquanto Sam Altman se concentra na comercialização e nos avanços tecnológicos da IA, enfatizando a promoção dos recursos de IA por meio da computação em larga escala e dos dados. avanços tecnológicos, enfatizando a promoção dos recursos de IA por meio da computação em larga escala e orientada por dados. Há diferenças entre os dois em termos das metas de longo prazo do desenvolvimento da IA, com Dario Amodei se concentrando mais no impacto de longo prazo da IA na sociedade humana e na segurança e proteção, enquanto Sam Altman está mais inclinado a perceber o valor comercial da IA e a mudança social por meio do progresso tecnológico.
Dario Amodei é PhD em neurociência pela Stanford e, em seu último artigo, Machines of Loving Grace, ele descreve o impacto positivo da futura inteligência artificial forte (ele prefere não chamar isso de AGI) sobre os seres humanos, com processos de raciocínio rigorosos e detalhados em cada área, muito mais racionais, objetivos e relevantes do que Sam Altman!
Vale a pena ler este artigo de 10.000 palavras para todos que se preocupam com IA.
Devido à sua extensão, resumi as partes principais do artigo. Ainda assim, recomendo que você leia o artigo original, que é seguido por uma tradução do texto original.
Argumento principal: Amodei acredita que a IA forte (ele evita usar o termo AGI) tem o potencial de melhorar radicalmente a vida humana, apesar dos riscos. Ele prevê que dentro de 5 a 10 anos após o surgimento da IA forte, testemunharemos grandes avanços nos campos da biologia, neurociência, desenvolvimento econômico, governança pacífica, trabalho e significado.
Componente-chave:
O potencial da IA forte é subestimado: Amodei argumenta que a maioria das pessoas subestima os possíveis benefícios de uma IA forte, assim como subestima seus riscos. Ele argumenta que a IA robusta levará a um futuro fundamentalmente positivo, e que o risco é o único obstáculo para alcançar esse futuro." Acho que a maioria das pessoas subestima os possíveis benefícios de uma IA forte, assim como subestima seus riscos."
Definições e estruturas para IA robusta:Amodei define a IA forte como um sistema de IA semelhante aos modelos de linguagem em larga escala atuais, que é mais inteligente do que os ganhadores do Prêmio Nobel e possui recursos de interface e ação equivalentes aos humanos. Ele prevê que a IA forte surgirá em 2026 ou antes e assumirá a forma de uma "nação de gênios centrados em dados". A IA forte, ou seja, um modelo de IA que provavelmente será formalmente semelhante aos atuais modelos de linguagem em larga escala, embora possa se basear em uma arquitetura diferente, envolver vários modelos de interação e ser treinado de forma diferente, tem as seguintes propriedades:
Em termos de inteligência pura, é mais inteligente do que um ganhador do Prêmio Nobel na maioria dos campos relevantes - biologia, programação, matemática, engenharia, redação etc. Isso significa que ele pode provar teoremas matemáticos não resolvidos, escrever romances muito bons, escrever bases de código difíceis do zero e assim por diante.
Limitações ao progresso da IA: Amodei apresentou o conceito de "Ganhos marginais da inteligência", que sugere que há outros fatores além da própria inteligência que podem limitar a taxa de progresso da IA, como a velocidade do mundo externo, a necessidade de dados, a complexidade intrínseca, as limitações humanas e as leis da física.
"Acho que, na era da IA, deveríamos estar falando sobre os benefícios marginais da inteligência e tentando descobrir quais são os outros fatores que complementam a inteligência e quais são os fatores limitantes quando a inteligência é muito alta."
Cinco áreas principais de mudança:
1 Biologia e saúde: Amodei prevê que a IA forte acelerará todo o processo de pesquisa biológica, comprimindo os próximos 50 a 100 anos de avanços biológicos e médicos em 5 a 10 anos. Isso levará à prevenção e ao tratamento confiáveis de praticamente todas as doenças infecciosas naturais, à eliminação da maioria dos cânceres, à prevenção e ao tratamento eficazes de distúrbios genéticos, à prevenção do mal de Alzheimer e à extensão da vida útil humana.
"Minha previsão básica é que a biologia e a medicina viabilizadas pela IA nos permitirão comprimir em 5 a 10 anos o progresso que os biólogos humanos farão nos próximos 50 a 100 anos. Chamo isso de "século 21 comprimido": ou seja, após o desenvolvimento de uma IA forte, faremos todos os avanços em biologia e medicina que fizemos ao longo do século 21 em poucos anos."
2. neurociência e psicologia:Amodei acredita que a IA forte revolucionará os campos da neurociência e da saúde mental, acelerando a descoberta de ferramentas e técnicas neurocientíficas, bem como aplicando insights da própria IA (por exemplo, interpretabilidade e hipóteses de escalonamento). Isso levará à cura ou à prevenção da maioria das doenças mentais, bem como a uma enorme expansão das capacidades cognitivas e emocionais humanas.
"Meu palpite é que essas quatro linhas de progresso trabalhando juntas, como as doenças físicas, podem curar ou prevenir a maioria das doenças mentais nos próximos 100 anos, mesmo sem o envolvimento da IA - portanto, elas podem ser curadas com 5 a 10 anos de aceleração da IA."
3. desenvolvimento econômico e pobreza: Amodei reconheceu que a capacidade da IA de lidar com a desigualdade e promover o crescimento econômico é menos certa do que sua capacidade de inventar tecnologia. No entanto, ele continua otimista quanto à possibilidade de a IA ajudar os países em desenvolvimento a se equipararem aos países desenvolvidos, otimizando a distribuição de intervenções de saúde, promovendo o crescimento econômico, garantindo a segurança alimentar, mitigando as mudanças climáticas e combatendo as desigualdades dentro dos países.
"De modo geral, estou otimista quanto ao fato de que os avanços biológicos em IA logo beneficiarão as pessoas nos países em desenvolvimento. Estou esperançoso, mas não confiante, de que a IA também levará a taxas de crescimento econômico sem precedentes, permitindo que os países em desenvolvimento pelo menos alcancem os níveis atuais dos países desenvolvidos."
4. paz e governança: Amodei argumenta que a IA por si só não garante o avanço da democracia e da paz porque pode ser explorada tanto por regimes autoritários quanto democráticos. Ele defende que as democracias adotem uma "estratégia concertada" para obter vantagens, assegurando cadeias de suprimentos para IA poderosa, ampliando-a rapidamente e impedindo ou retardando o acesso dos adversários aos principais recursos, como chips e equipamentos semicondutores. Isso permitiria que as democracias dominassem o cenário mundial e, por fim, facilitaria a disseminação da democracia global.
"Acredito que a IA, por si só, não garante o progresso da democracia e da paz porque pode ser usada por regimes autoritários e democráticos."
5 Trabalho e importância: Amodei argumenta que, mesmo em um mundo em que a IA realiza a maioria das tarefas, os seres humanos ainda podem encontrar significado e propósito. Ele argumenta que o significado vem principalmente de relacionamentos e conexões, e não do trabalho econômico. No entanto, ele reconhece que uma economia impulsionada pela IA poderia desafiar nosso sistema econômico atual e que é necessário um diálogo social mais amplo para explorar como a economia do futuro será organizada.
"Acho que os seres humanos ainda podem encontrar significado e propósito mesmo em um mundo em que a IA realiza a maioria das tarefas. Acho que o significado vem principalmente de relacionamentos e conexões, não do trabalho econômico."
Amodei acredita que, se manuseada corretamente, uma IA forte pode levar a um mundo melhor do que o atual, um mundo livre de doenças, pobreza e desigualdade, um mundo caracterizado pela democracia liberal e pelos direitos humanos. Ele reconhece que a concretização dessa visão exigirá enorme esforço e luta, além de um esforço conjunto de indivíduos, empresas de IA e formuladores de políticas.
"Se isso realmente acontecer em 5 a 10 anos - a derrota da maioria das doenças, o crescimento da liberdade biológica e cognitiva, a retirada de bilhões de pessoas da pobreza e o compartilhamento de novas tecnologias, o renascimento da democracia liberal e dos direitos humanos - acho que todos que virem isso terão um impactados por eles".
Conclusão: Em seu artigo, Amodei apresenta uma visão convincente de como a IA robusta poderia remodelar a sociedade humana. Ele destaca o imenso potencial da IA forte, mas também aponta os desafios e riscos que a acompanham. Ele pede uma ação proativa para orientar o desenvolvimento da IA e garantir que ela beneficie toda a humanidade.
É muito difícil organizar e revisar o artigo, portanto, triplique o link antes de ler. Abaixo está o artigo original.
Máquinas de Graça amorosa[01]
Como a IA pode transformar o mundo para melhor
--Dario Amodei
Link original: https://darioamodei.com/machines-of-loving-grace
Eu penso e falo muito sobre os riscos da IA forte. A Anthropic, empresa da qual sou CEO, fez muitas pesquisas sobre como mitigar esses riscos. Por causa disso, às vezes as pessoas concluem que sou pessimista ou um "profeta da desgraça" e que a IA é basicamente ruim ou perigosa. Não penso assim de forma alguma. Na verdade, um dos principais motivos pelos quais me concentro no risco é que ele é a única coisa que nos separa do futuro radicalmente positivo que vejo.Acho que a maioria das pessoas está subestimando os enormes benefícios que a IA pode trazerAssim como acho que a maioria das pessoas subestima a gravidade do risco.
Neste artigo, tentei delinear os benefícios - como seria um mundo com IA forte se tudo corresse bem. É claro que ninguém pode conhecer o futuro com certeza ou precisão, e o impacto da IA robusta provavelmente será ainda mais difícil de prever do que as mudanças tecnológicas do passado, portanto, tudo isso será inevitavelmente uma especulação. Mas meu objetivo é, pelo menos, fazer suposições úteis e bem fundamentadas que capturem o que acontecerá, mesmo que a maioria dos detalhes esteja errada. Incluí muitos detalhes, em grande parte porque acho que uma visão concreta é uma maneira melhor de levar a discussão adiante do que uma que seja altamente ambígua e abstrata.
Antes, porém, quero explicar brevemente por que o Anthropic e eu não falamos muito sobre as vantagens da IA forte e por que provavelmente continuaremos a falar muito sobre os riscos em geral. Especificamente, fiz essa escolha com base no seguinte desejo:
- Maximizar a alavancagem.O desenvolvimento fundamental da tecnologia de IA e muitos (não todos) de seus benefícios parecem inevitáveis (a menos que o risco estrague tudo) e são fundamentalmente impulsionados por poderosas forças de mercado. Por outro lado, os riscos não são predeterminados e nossas ações podem alterar drasticamente a probabilidade de sua ocorrência.
- Evite ser confundido com propaganda.As empresas de inteligência artificial falam sobre todos os incríveis benefícios da IA, o que pode parecer propaganda ou uma tentativa de desviar a atenção das desvantagens. Também acho que, em princípio, passar muito tempo "falando sobre seu livro" é ruim para sua alma.
- Evite exageros.Muitas vezes, fico desanimado com a maneira como muitas figuras públicas de empreendimentos de IA (para não mencionar os líderes de empresas de IA) falam sobre o mundo pós-AGI, como se sua missão fosse alcançá-lo sozinhos, como um profeta que conduz seu povo à salvação. Acho que é perigoso pensar que as empresas estão moldando o mundo unilateralmente, e também é perigoso pensar em objetivos técnicos reais em termos religiosos.
- Evite a bagagem de "ficção científica".Embora eu ache que a maioria das pessoas subestime as vantagens de uma IA forte, as poucas pessoas que discutem os futuros radicais da IA geralmente o fazem em um tom excessivamente "sci-fi" (por exemplo, upload de mentes, exploração espacial ou uma vibração cyberpunk geral). Acho que isso faz com que as pessoas levem essas afirmações menos a sério e lhes dá um senso de irrealidade. Para deixar claro, a questão não é se as tecnologias descritas são possíveis ou prováveis (o artigo principal discute isso detalhadamente) - é mais que a "vibe" implica um monte de bagagem cultural e suposições não declaradas sobre que tipo de futuro é desejável, como os problemas sociais evoluirão, etc. problemas sociais, e assim por diante. O resultado muitas vezes acaba parecendo as fantasias de uma subcultura restrita, ao mesmo tempo em que afasta a maioria das pessoas.
Apesar de todas essas preocupações, acho que é importante discutir como seria um mundo melhor com uma IA forte, tentando evitar as armadilhas mencionadas acima. Na verdade, acho que é fundamental ter uma visão verdadeiramente inspiradora do futuro, não apenas um plano de combate a incêndios. Muitas das implicações de uma IA forte são conflitantes ou perigosas, mas, em última análise, temos que lutar por elas, por resultados positivos em que todos estejam em melhor situação e pela união das pessoas para superar a briga e enfrentar os desafios do futuro. O medo é um fator de motivação, mas não é suficiente: também precisamos de esperança.
Há muitas áreas de aplicação positiva para IA avançada (incluindo robótica, manufatura, energia etc.), mas vou me concentrar em algumas que, em minha opinião, têm o maior potencial para melhorar diretamente a qualidade da vida humana. As cinco categorias que mais me interessam são:
- Biologia e saúde física
- Neurociência e saúde mental
- Desenvolvimento econômico e pobreza
- Paz e governança
- Trabalho e significado
Minhas previsões serão radicais de acordo com a maioria dos padrões (com exceção da visão de ficção científica da "Singularidade" [02]), mas estou falando de boa fé. Tudo o que digo pode facilmente estar errado (repetindo meu argumento acima), mas pelo menos estou tentando basear minhas opiniões em uma avaliação semianalítica de quanto o progresso em vários campos provavelmente se acelerará e o que isso significa na prática. Tenho a sorte de ter experiência profissional em biologia e neurociência, e sou um amador instruído no campo do desenvolvimento econômico, mas tenho certeza de que cometerei muitos erros. Escrever este artigo me fez perceber que seria útil reunir um grupo de especialistas em suas áreas (biologia, economia, relações internacionais e outras) para escrever uma versão melhor e mais perspicaz do que escrevi aqui. É melhor pensar em meus esforços aqui como o ponto de partida para esse grupo.
Premissas e estrutura subjacentes
Para tornar todo o artigo mais preciso e informado, é útil esclarecer o que queremos dizer com IA poderosa (ou seja, quando começa a contagem regressiva de 5 a 10 anos) e fornecer uma estrutura para pensar sobre as implicações dessa IA quando ela existir.
Como será a IA poderosa (não gosto do termo AGI) [03] e quando (ou se) ela chegar é um tópico enorme em si. É um tópico que discuti abertamente e provavelmente escreverei um post totalmente separado sobre ele em algum momento. Obviamente, muitas pessoas são céticas quanto à possibilidade de uma IA poderosa ser criada em breve, e algumas até duvidam que ela seja criada. Acredito que isso possa acontecer já em 2026, embora haja maneiras de demorar mais. Mas, para os fins desta postagem, gostaria de deixar essas questões de lado, presumir que ela chegará em um prazo razoável e me concentrar no que acontecerá nos 5 a 10 anos seguintes. Também quero supor como seria esse sistema, quais seriam seus recursos e como ele interagiria, embora haja espaço para discordância quanto a isso.
Com a IA potente, tenho um modelo de IA - provavelmente formalmente semelhante ao LLM atual, embora possa se basear em uma arquitetura diferente, envolver vários modelos que interagem entre si e ser treinado de uma maneira diferente - com as as seguintes propriedades:
- Em termos de inteligência pura [04], ele é mais inteligente do que a maioria dos ganhadores do Prêmio Nobel em áreas relacionadas - biologia, programação, matemática, engenharia, redação etc. Isso significa que ele pode provar teoremas matemáticos não resolvidos, escrever romances muito bons, escrever bases de código difíceis a partir do zero, etc.
- Além de ser apenas uma "coisa inteligente com a qual você conversa", ele tem todas as "interfaces" disponíveis para um ser humano que trabalha virtualmente, incluindo texto, áudio, vídeo, controle de mouse e teclado e acesso à Internet. Ele pode executar qualquer operação, comunicação ou teleoperação habilitada por essa interface, inclusive realizar ações na Internet, dar ou receber instruções de ou para um humano, solicitar materiais, dirigir experimentos, assistir a vídeos, fazer vídeos e assim por diante. Mais uma vez, ele executa todas essas tarefas com habilidades que excedem as dos seres humanos mais capazes do mundo.
- Não se trata apenas de responder passivamente às perguntas; em vez disso, é possível receber tarefas que levam horas, dias ou semanas para serem concluídas e executá-las como um funcionário inteligente, pedindo esclarecimentos quando necessário.
- Ele não tem uma corporificação física (além de viver em uma tela de computador), mas pode controlar ferramentas físicas, robôs ou equipamentos de laboratório existentes por meio de um computador; teoricamente, ele poderia até mesmo projetar robôs ou equipamentos para si mesmo.
- Os recursos usados para treinar o modelo podem ser reaproveitados para executar milhões de instâncias dele (o que corresponde ao tamanho previsto do cluster por volta de 2027), e o modelo pode absorver informações e gerar operações a uma taxa de cerca de 10 a 100 vezes maior que a dos seres humanos [05]. No entanto, ele pode ser limitado pelo tempo de resposta do mundo físico ou do software com o qual interage.
- Cada uma dessas milhões de cópias poderia trabalhar de forma independente em tarefas não relacionadas ou, se desejado, trabalhar em conjunto como os seres humanos, talvez com diferentes subgrupos ajustados para serem especialmente adequados a tarefas específicas.
Podemos resumir isso como a "Nação Genial dos Data Centers".
Obviamente, essa entidade seria capaz de resolver problemas muito difíceis com muita rapidez, mas não é fácil descobrir com que rapidez. Duas posições "extremas" parecem erradas para mim. Primeiro, você pode pensar que o mundo se transformará instantaneamente ("singularidade") em questão de segundos ou dias, à medida que uma inteligência superior se desenvolver e resolver imediatamente todas as tarefas científicas, de engenharia e operacionais possíveis. O problema com isso é que existem limitações físicas e práticas reais, por exemplo, na construção de hardware ou na realização de experimentos biológicos. Até mesmo uma nova nação de gênios encontrará essas limitações. A inteligência é de fato muito poderosa, mas não é mágica para todos.
Em segundo lugar, e de modo inverso, você pode acreditar que o progresso tecnológico está saturado ou limitado por dados do mundo real ou fatores sociais, de modo que haverá muito pouco aumento na inteligência mais inteligente do que a humana [06]. Para mim, isso é igualmente incrível - posso pensar em centenas de problemas científicos ou mesmo sociais em que um grupo de pessoas realmente inteligentes aceleraria drasticamente o progresso, especialmente se elas não se limitassem a apenas analisar e pudessem fazer as coisas acontecerem no mundo real (o que nossa nação hipotética de gênios poderia fazer, inclusive orientando ou auxiliando equipes humanas).
Acho que a verdade provavelmente é uma espécie de mistura confusa dessas duas imagens extremas, dependendo da tarefa e do campo, além de detalhes muito sutis. Acho que precisamos de novas estruturas para pensar sobre esses detalhes de forma produtiva.
Os economistas geralmente falam sobre "fatores de produção": coisas como mão de obra, terra e capital. A frase "retornos marginais do trabalho/terra/capital" capta a ideia de que um determinado fator pode ou não ser o fator limitante em uma determinada situação - por exemplo, a Força Aérea precisa de aviões e pilotos, e contratar mais pilotos não ajuda muito se você não tiver aviões. mais pilotos não ajuda muito. Acredito que, na era da IA, deveríamos falar sobre o "benefício marginal da inteligência" [07] e tentar descobrir quais outros fatores são complementares à inteligência e fatores limitantes quando a inteligência é muito alta. Não estamos acostumados a pensar dessa forma, perguntando "quanto a inteligência ajuda nessa tarefa e em que escala de tempo?". -- mas essa parece ser a maneira correta de conceituar um mundo com IA muito poderosa.
Uma lista de fatores que eu suspeito que limitam ou complementam a inteligência inclui:
- Velocidade do mundo exterior. Os agentes inteligentes precisam interagir com o mundo para fazer as coisas, e também precisam aprender [08]. Mas o mundo se move muito lentamente. As células e os animais funcionam em uma velocidade fixa, portanto, os experimentos com eles levam um certo tempo, que pode ser irredutível. O mesmo se aplica à comunicação com humanos e à nossa infraestrutura de software existente. Além disso, na ciência, muitos experimentos geralmente precisam ser realizados sequencialmente, com cada experimento aprendendo ou se baseando no anterior. Tudo isso significa que pode haver uma taxa mínima irredutível na qual um projeto importante - como o desenvolvimento de uma cura para o câncer - pode ser concluído e que não pode ser reduzida ainda mais, mesmo que a inteligência continue a aumentar.
- Demanda por dados. Às vezes, faltam dados brutos e, na ausência de dados, mais inteligência não ajuda. Os físicos de partículas atuais são muito inteligentes e desenvolveram uma série de teorias, mas como os dados do acelerador de partículas são muito limitados, eles não têm dados para escolher entre elas. Eles provavelmente não se sairiam muito melhor se tivessem superinteligência - exceto, talvez, acelerando a construção de aceleradores maiores.
- Complexidade intrínseca. Algumas coisas são tão inerentemente imprevisíveis ou caóticas que mesmo a IA mais poderosa não consegue prevê-las ou desvendá-las melhor do que os humanos ou computadores atuais. Por exemplo, mesmo a IA muito poderosa só consegue prever sistemas caóticos (como o problema dos três corpos) em geral em um prazo um pouco mais longo do que os humanos e computadores atuais [09].
- Limitações dos seres humanos. Muitas coisas não podem ser feitas sem infringir a lei, prejudicar os seres humanos ou perturbar a sociedade. Uma IA alinhada não vai querer fazer essas coisas (e se tivermos uma IA não alinhada, voltaremos a falar sobre risco). Muitas estruturas sociais humanas são ineficientes ou até mesmo positivamente prejudiciais, mas difíceis de mudar, respeitando restrições como requisitos legais, a disposição das pessoas de mudar seus hábitos ou o comportamento do governo. Os avanços tecnológicos, incluindo a energia nuclear, o voo supersônico e até mesmo os elevadores, funcionaram bem tecnologicamente, mas seu impacto foi drasticamente reduzido por regulamentações ou medo equivocado.
- lei física. Essa é uma versão mais óbvia do primeiro ponto. Há leis da física que parecem invioláveis. É impossível viajar mais rápido do que a velocidade da luz. O pudim não se mexe sozinho. Os chips só podem ter um determinado número de transistores por centímetro quadrado antes de se tornarem não confiáveis. A computação requer uma quantidade mínima de energia por bit apagado, limitando a densidade da computação no mundo.
Há uma distinção adicional baseada na escala de tempo. Coisas que são difíceis de restringir no curto prazo podem ser mais suscetíveis à inteligência no longo prazo. Por exemplo, a inteligência pode ser usada para desenvolver um novo paradigma experimental que nos permita aprender in vitro o que antes exigia experimentos em animais vivos, ou para construir as ferramentas necessárias para coletar novos dados (por exemplo, aceleradores de partículas maiores), ou (dentro das restrições éticas) para encontrar maneiras de contornar as restrições baseadas em humanos (por exemplo, para ajudar a melhorar o sistema de testes clínicos, para ajudar a criar novas jurisdições onde os testes clínicos sejam menos burocráticos ou aprimorar a própria ciência para tornar os ensaios clínicos em humanos menos necessários ou mais baratos).
Portanto, devemos imaginar um quadro em que a inteligência é inicialmente muito limitada por outros fatores de produção, mas, com o passar do tempo, a própria inteligência ultrapassa cada vez mais os outros fatores, mesmo que eles nunca desapareçam completamente (algumas coisas, como as leis da física, são absolutas) [10]. A principal questão é a velocidade com que tudo acontece e em que ordem.
Com a estrutura acima em mente, tentarei responder a perguntas nas cinco áreas mencionadas na introdução.
1. biologia e saúde
A biologia é provavelmente a área em que o progresso científico tem o maior potencial para melhorar direta e definitivamente a qualidade da vida humana. Algumas das mais antigas aflições humanas (por exemplo, a varíola) foram finalmente vencidas no século passado, mas muitas outras ainda existem, e vencê-las seria uma grande conquista humanitária. Mesmo além da cura de doenças, as ciências biológicas poderiam, em princípio, melhorar a qualidade da linha de base da saúde humana, estendendo a expectativa de vida humana saudável, aumentando o controle e a liberdade sobre nossos próprios processos biológicos e resolvendo os problemas cotidianos que atualmente consideramos parte imutável da condição humana.
Na linguagem das restrições da seção anterior, os principais desafios para aplicar a inteligência diretamente à biologia são os dados, a velocidade do mundo físico e a complexidade inerente (na verdade, todos os três estão inter-relacionados). As limitações humanas também entram em jogo em um estágio posterior, quando se trata de testes clínicos. Vamos abordar essas questões uma a uma.
Os experimentos em células, animais e até mesmo em processos químicos são limitados pela velocidade do mundo físico: muitos protocolos biológicos envolvem a cultura de bactérias ou outras células, ou simplesmente a espera da ocorrência de uma reação química, que às vezes leva dias ou até semanas, sem nenhuma maneira óbvia de acelerá-la. Os experimentos em animais podem levar meses (ou até mais), e os experimentos em humanos geralmente levam anos (ou até décadas para estudos de resultados de longo prazo). Um pouco relacionado a isso está o fato de que muitas vezes faltam dados, não em quantidade, mas em qualidade: sempre faltam dados claros e inequívocos que isolem o efeito biológico de interesse das outras 10.000 coisas que estão acontecendo, ou que intervenham causalmente em um determinado processo, ou que meçam determinados efeitos diretamente (e não de alguma forma indireta ou ruidosa). ou alguma forma indireta ou ruidosa de inferir as consequências). Até mesmo dados moleculares grandes e quantitativos, como os dados proteômicos que coleto ao trabalhar com espectrometria de massa, são ruidosos e deixam passar muita coisa (em que tipos de células essas proteínas estão? Em que parte da célula? Em que estágio do ciclo celular?) .
Essa parte da culpa pelo problema dos dados está na complexidade inerente: se você já olhou para gráficos que mostram a bioquímica do metabolismo humano, sabe que é muito difícil isolar os efeitos de qualquer parte desse sistema complexo, muito menos intervir de forma precisa ou previsível. Por fim, além do tempo inerente necessário para realizar experimentos em seres humanos, os ensaios clínicos reais envolvem muitos requisitos burocráticos e regulatórios que (na opinião de muitos, inclusive eu) são vistos como um acréscimo desnecessário de tempo e atraso.
Diante disso, muitos biólogos têm se mostrado céticos quanto ao valor da IA e do "big data" na biologia. Historicamente, matemáticos, cientistas da computação e físicos aplicaram suas habilidades à biologia nos últimos 30 anos com sucesso considerável, mas sem alcançar o impacto verdadeiramente transformador que se esperava inicialmente. Algum ceticismo foi reduzido por avanços importantes e revolucionários, como o AlphaFold (que acaba de ganhar merecidamente o Prêmio Nobel de Química para seu criador) e o AlphaProteo [11], mas ainda existe a percepção de que a IA era (e continua sendo) útil apenas em um número limitado de situações. Uma formulação comum é "a IA pode fazer um trabalho melhor de análise de dados, mas não pode produzir mais dados nem melhorar a qualidade desses dados. Entra lixo, sai lixo".
Mas acho que é a visão pessimista que pensa sobre a IA da maneira errada. Se nossas suposições básicas sobre o progresso da IA estiverem corretas, a maneira certa de pensar sobre a IA não é como um método de análise de dados, mas como um biólogo virtual que executa "todas" as tarefas que os biólogos fazem, inclusive projetar e executar experimentos no mundo real (controlando robôs de laboratório ou simplesmente dizendo aos humanos quais experimentos executar - assim como os pesquisadores principais fazem com seus alunos de pós-graduação etc.). A velocidade de execução de experimentos é um fator importante para o sucesso da pesquisa (seja controlando robôs de laboratório ou simplesmente dizendo aos humanos quais experimentos executar, assim como os pesquisadores principais fazem com seus alunos de pós-graduação), inventando novos métodos biológicos ou técnicas de medição e assim por diante. É acelerando todo o processo de pesquisa que a IA pode realmente acelerar a biologia.Quero repetir isso porque é o equívoco mais comum que recebo quando falo sobre a capacidade da IA de mudar a biologia: não estou falando de IA como uma ferramenta apenas para analisar dados. Com base na definição de IA poderosa no início do artigo, estou falando sobre o uso da IA para executar, orientar e melhorar quase tudo o que os biólogos fazem.
Para ser mais específico sobre a origem da aceleração, uma parte significativa do progresso da biologia vem de um número realmente pequeno de descobertas, geralmente relacionadas a ferramentas ou técnicas que permitem intervenções precisas, mas genéricas ou programáveis, em sistemas biológicos [12]. Essas descobertas são, provavelmente, cerca de uma por ano e, no geral, podem ser responsáveis por mais de 50% do progresso biológico. O que torna essas descobertas tão poderosas é que elas reduzem a complexidade inerente e as limitações de dados e aumentam diretamente nossa compreensão e controle dos processos biológicos. Algumas das descobertas feitas ao longo das décadas nos permitiram ter uma compreensão científica básica da biologia e impulsionaram muitas das abordagens terapêuticas mais poderosas.
Alguns exemplos incluem:
- CRISPR: uma tecnologia que permite a edição em tempo real de qualquer gene em um organismo vivo (substituindo qualquer sequência genética arbitrária por qualquer outra sequência arbitrária). Desde que a tecnologia original foi desenvolvida, houve aprimoramentos contínuos para atingir tipos específicos de células, aumentar a precisão e reduzir a edição de genes defeituosos - tudo isso é necessário para o uso humano seguro.
- Vários tipos de microscópios para observar o que está acontecendo em um nível preciso: microscópios ópticos avançados (com várias técnicas de fluorescência, óptica especial, etc.), microscópios eletrônicos, microscópios de força atômica, etc.
- Sequenciamento e síntese de genoma, cujo custo caiu em várias ordens de magnitude nas últimas décadas.
- Tecnologia optogenética, na qual os neurônios podem ser ativados por meio da exposição à luz.
- As vacinas de mRNA, em princípio, nos permitem criar uma vacina contra qualquer coisa e depois adaptá-la rapidamente (as vacinas de mRNA certamente ficaram famosas durante a COVID).
- As terapias celulares, como a CAR-T, permitem que as células imunológicas sejam retiradas do corpo e "reprogramadas" para atacar qualquer que seja o princípio.
- Insights conceituais, como a teoria germinal da doença e a ligação entre o sistema imunológico e o câncer [13].
Eu me dei ao trabalho de listar todas essas técnicas porque quero fazer uma afirmação importante sobre elas:Acredito que a taxa dessas descobertas poderia ser aumentada em um fator de 10 ou mais se houvesse mais pesquisadores talentosos e criativos.Ou, em outras palavras.Acho que essas descobertas são muito úteis para a inteligênciae tudo o mais em biologia e medicina basicamente os segue.
Por que penso assim? Porque devemos nos acostumar a fazer algumas perguntas ao tentar determinar os "retornos da inteligência". Em primeiro lugar, essas descobertas geralmente são feitas por um número muito pequeno de pesquisadores, muitas vezes repetidamente pelo mesmo grupo de pessoas, o que sugere habilidade em vez de busca aleatória (a última pode sugerir que experimentos longos são o fator limitante). Em segundo lugar, muitas vezes eles podem ser feitos "anos antes de seu tempo": por exemplo, o CRISPR, um componente natural do sistema imunológico das bactérias, é conhecido desde a década de 1980, mas foram necessários mais 25 anos para que as pessoas percebessem que ele poderia ser reaproveitado para a edição geral de genes. Eles também foram adiados por muitos anos devido à falta de apoio da comunidade científica para direções promissoras (veja o perfil do inventor da vacina de mRNA; há muitas histórias semelhantes). Em terceiro lugar, os projetos bem-sucedidos costumam ser marginais ou reflexões posteriores que não são vistas inicialmente como promissoras, em vez de empreendimentos com financiamento maciço. Isso sugere que não é apenas o agrupamento de recursos em grande escala que impulsiona a descoberta, mas a engenhosidade.
Por fim, embora algumas dessas descobertas sejam "serialmente dependentes" (você precisa fazer a descoberta A primeiro para ter as ferramentas ou o conhecimento para fazer a descoberta B) - o que pode novamente causar atrasos experimentais - muitas, talvez a maioria, são independentes, o que significa que muitas podem ser feitas simultaneamente. -Mas muitas, talvez a maioria, são independentes, o que significa que muitas podem ser feitas ao mesmo tempo. Ambos, e minha experiência geral como biólogo, sugerem fortemente que, se os cientistas fossem mais inteligentes e melhores em fazer conexões entre a vasta quantidade de conhecimento biológico que os humanos têm (novamente, considere o exemplo do CRISPR), haveria centenas de descobertas desse tipo esperando para serem feitas. fornece uma prova de princípio (embora com ferramentas restritas em um campo restrito) que deve indicar o caminho a seguir.
Portanto, suspeito que uma IA poderosa poderia aumentar a taxa dessas descobertas em pelo menos um fator de 10, o que nos daria os próximos 50-100 anos de progresso biológico em 5-10 anos. [14] Por que não 100 vezes? Talvez seja possível, mas aqui está a série
A dependência e o tempo de experimentação tornam-se importantes: para obter 100 anos de progresso em 1 ano, é necessário que muitas coisas sejam feitas corretamente na primeira vez, inclusive coisas como experimentos com animais e o projeto de microscópios ou instalações laboratoriais caras. Estou aberto à ideia (possivelmente absurda) de que podemos obter 1.000 anos de progresso em 5 a 10 anos, mas sou muito cético em relação a 100 anos em 1 ano. Como alternativa, acho que há um atraso constante inevitável: experimentos e hardware são projetados com um certo "atraso" e exigem um certo número de iterações "irredutíveis" para aprender coisas que não podem ser inferidas logicamente. Mas pode haver um paralelismo maciço além disso [15].
E quanto aos testes clínicos? Apesar de toda a burocracia e lentidão associadas a eles, a verdade é que grande parte de sua lentidão decorre, em última análise, da necessidade de avaliar rigorosamente medicamentos que mal funcionam ou funcionam vagamente. Infelizmente, isso é verdade para a maioria das terapias atuais: o medicamento médio contra o câncer aumenta a sobrevida em meses e, ao mesmo tempo, tem efeitos colaterais significativos que precisam ser cuidadosamente medidos (uma história semelhante com os medicamentos para Alzheimer). Isso leva a estudos enormes (para obter poder estatístico) e a compensações difíceis, e os órgãos reguladores geralmente não são bons em tomar decisões, novamente por causa da burocracia e da complexidade dos interesses concorrentes.
Quando algo realmente funciona, a aprovação é muito mais rápida: há vias de aprovação aceleradas e, quando o efeito é grande, a facilidade de aprovação é muito maior. As vacinas de mRNA para a COVID foram aprovadas em 9 meses - muito mais rápido do que o normal. Ainda assim, mesmo nessas condições, os ensaios clínicos foram muito lentos - a vacina de mRNA provavelmente deveria ter sido aprovada em cerca de 2 meses. Mas esses atrasos (cerca de 1 ano no total para medicamentos) são muito compatíveis com o paralelismo massivo e a necessidade de algumas iterações, mas não muitas ("algumas tentativas"), o que poderia levar a uma mudança fundamental em 5 a 10 anos. De forma mais otimista, a ciência biológica orientada por IA pode reduzir a necessidade de iteração em testes clínicos, desenvolvendo modelos melhores (ou até mesmo simulações) de experimentos celulares e com animais que sejam mais precisos para prever o que acontecerá em humanos. Isso será particularmente importante no desenvolvimento de medicamentos que tenham como alvo o processo de envelhecimento, que leva décadas e para o qual precisamos de um ciclo iterativo mais rápido.
Por fim, sobre o tópico de ensaios clínicos e barreiras sociais, vale a pena deixar claro que as inovações biomédicas têm um histórico excepcionalmente forte de implantação bem-sucedida em alguns aspectos, em comparação com outras tecnologias [16]. Conforme observado na introdução, muitas dessas tecnologias, apesar de funcionarem bem tecnicamente, são prejudicadas por fatores sociais. Isso pode indicar uma visão pessimista do que a IA pode realizar. No entanto, a biomedicina é única no sentido de que, apesar do processo excessivamente complicado de desenvolvimento de medicamentos, uma vez desenvolvidos, eles geralmente são implantados e usados com sucesso.
Em resumo, minha previsão básica é que a biologia e a medicina impulsionadas pela IA nos permitirão comprimir em 5 a 10 anos os avanços que os biólogos humanos farão nos próximos 50 a 100 anos. Chamo isso de "século 21 comprimido": a noção de que faremos todos os avanços biológicos e médicos que faremos ao longo do século 21 em poucos anos após o desenvolvimento de uma IA avançada.
Embora prever o que uma IA poderosa poderá fazer nos próximos anos seja inerentemente difícil e especulativo, há uma certa especificidade em perguntar "o que os humanos poderão fazer nos próximos 100 anos sem forças externas". Basta observar o que alcançamos no século XX, extrapolar os primeiros 20 anos do século XXI ou perguntar o que "10 CRISPRs e 50 CAR-Ts" nos trarão, para obter maneiras práticas e informadas de estimar o nível geral de progresso que podemos esperar da IA avançada.
Abaixo, tentei listar o que podemos esperar. Essa lista não se baseia em nenhuma metodologia rigorosa e quase certamente estará errada nos detalhes, mas tenta transmitir o nível geral de radicalismo que devemos esperar:
- Prevenção e tratamento confiáveis de quase todas as doenças infecciosas naturais[17].Considerando os enormes avanços na luta contra as doenças infecciosas no século XX, não é radical imaginar que podemos "fazer o trabalho" no século XXI comprimido. Se as doenças infecciosas dependem ou não da pobreza e da desigualdade na Erradicação TOTAL (e não apenas em alguns lugares) é discutido na seção 3.
- Eliminação da maioria dos cânceres.As taxas de mortalidade por câncer diminuíram em cerca de 2% por ano nas últimas décadas; portanto, estamos no caminho certo para eliminar a maioria dos cânceres no século XXI no ritmo atual da ciência humana. Alguns subtipos já foram curados em grande número (por exemplo, certos tipos de leucemia por meio da terapia CAR-T), e estou ainda mais animado com medicamentos muito seletivos que têm como alvo os estágios iniciais do câncer e impedem seu crescimento. possível, mas muito caro em termos de tempo e conhecimento humano, e a IA deve nos permitir aumentar a escala.
- Prevenção muito eficaz e tratamento eficaz de doenças genéticas.A triagem aprimorada de embriões pode nos permitir prevenir a maioria das doenças genéticas, e alguns descendentes de CRISPR mais seguros e confiáveis podem curar a maioria das doenças genéticas nas populações existentes. As doenças sistêmicas, que afetam a maioria das células, podem ser as últimas moléculas recalcitrantes.
- Prevenção do mal de Alzheimer.Temos tido dificuldade em descobrir o que causa o mal de Alzheimer (está relacionado à beta amiloide, mas os detalhes reais parecem ser muito complexos). Parece ser algo que pode ser resolvido com melhores ferramentas de medição que isolam os efeitos biológicos; portanto, estou otimista de que a IA resolverá o problema. Quando realmente entendermos o que está acontecendo, há uma boa chance de que isso possa ser evitado com intervenções relativamente simples. No entanto, pode ser difícil reverter os danos causados pelo mal de Alzheimer que já existem.
- Melhoria no tratamento da maioria das outras doenças.Essa é uma categoria que engloba outras doenças, incluindo diabetes, obesidade, doenças cardíacas, doenças autoimunes etc. A maioria dessas doenças parece ser "mais fácil" de tratar do que o câncer e o mal de Alzheimer. A maioria dessas doenças parece ser "mais fácil" de tratar do que o câncer e o mal de Alzheimer e, em muitos casos, elas já estão em declínio acentuado. Por exemplo, as taxas de mortalidade por doenças cardíacas diminuíram em mais de 501 TP3T, e intervenções simples, como os agonistas de GLP-1, fizeram grandes avanços contra a obesidade e o diabetes.
- Liberdade biológica.Nos últimos 70 anos, fizemos progressos na contracepção, no controle da fertilidade, no controle de peso e assim por diante, mas acho que a biologia acelerada pela IA vai expandir drasticamente a gama do que é possível: peso, aparência, reprodução e outros processos biológicos estarão completamente sob o controle das pessoas. Vamos nos referir a isso sob o título de "liberdade biológica", o que significa que todos devem ter o direito de escolher quem querem ser e de viver suas vidas da maneira que mais lhes agrada. É claro que há questões sobre a igualdade de acesso global; elas serão discutidas na seção 3.
- Duplicação da longevidade humana[18].Isso pode parecer radical, mas a expectativa de vida quase triplicou no século XX (de cerca de 40 anos para cerca de 75 anos), portanto, uma "compressão do século XXI" dobrando novamente para 150 anos é a "tendência". Obviamente, as intervenções necessárias para retardar o processo de envelhecimento real são diferentes daquelas necessárias para evitar mortes prematuras por doenças (principalmente em crianças) no século passado, mas a magnitude da mudança não é sem precedentes [19]. Especificamente, já existem vários medicamentos que aumentam o tempo máximo de vida de ratos em 25-501 TP3T com efeitos colaterais limitados. Alguns animais (por exemplo, certos tipos de tartarugas) viveram 200 anos, portanto, os seres humanos claramente não atingiram o limite superior teórico. No mínimo, o que é mais necessário pode ser biomarcadores confiáveis e menos suscetíveis à manipulação do envelhecimento humano, pois isso permitiria a rápida iteração em estudos experimentais e clínicos. Quando a expectativa de vida humana atingir 150 anos, talvez consigamos atingir a "velocidade de escape" e ganhar tempo suficiente para permitir que a maioria das pessoas vivas hoje viva o tempo que quiser, embora não haja garantia de que isso seja biologicamente possível.
Vale a pena dar uma olhada nessa lista e refletir sobre como o mundo seria diferente se tudo isso fosse realizado dentro de 7 a 12 anos (o que se encaixaria em uma versão positiva da linha do tempo da IA). Não há dúvida de que isso seria um triunfo humanista inimaginável, eliminando de uma só vez a maioria das catástrofes que têm atormentado a humanidade por milhares de anos. Muitos de meus amigos e colegas estão criando filhos e, quando essas crianças crescerem, espero que qualquer menção a doenças soe para elas como quando ouvimos falar de escorbuto, varíola ou peste bubônica. Essa geração também se beneficiará da maior liberdade biológica e da autoexpressão e, com sorte, da capacidade de viver o tempo que quiser.
É difícil superestimar o quanto essas mudanças serão surpreendentes para todos (exceto para as pequenas comunidades que preveem uma IA poderosa). Nos Estados Unidos, por exemplo, milhares de economistas e especialistas em políticas estão atualmente debatendo como manter a Previdência Social e o Medicare solventes e, de forma mais ampla, como reduzir os custos de assistência médica (que são em grande parte gerados por pessoas com mais de 70 anos e, em particular, por pessoas com doenças terminais, como o câncer). Se tudo isso acontecer, a situação desses programas poderá melhorar radicalmente [20], pois a proporção entre a população em idade ativa e a população aposentada mudará drasticamente. Sem dúvida, esses desafios serão substituídos por outros, como, por exemplo, como garantir o acesso generalizado a novas tecnologias, mas vale a pena refletir sobre o quanto o mundo mudará, mesmo que a biologia seja a única área que consiga se acelerar.
2. neurociência e a mente
Na seção anterior, concentrei-me nas doenças do corpo e na biologia em geral, e não abordei a neurociência ou a saúde mental. Mas a neurociência é uma subdisciplina da biologia, e a saúde mental é tão importante quanto a saúde física. De fato, a saúde mental tem um impacto mais direto sobre o bem-estar humano do que a saúde física. Centenas de milhões de pessoas têm uma qualidade de vida muito baixa devido a problemas como vício, depressão, esquizofrenia, autismo de baixo funcionamento, TEPT, psicopatia[21] ou deficiência intelectual. Outros bilhões lutam com problemas cotidianos que muitas vezes podem ser interpretados como versões mais brandas desses transtornos clínicos graves. E, assim como a biologia em geral, talvez seja possível ir além da solução de problemas para melhorar a qualidade básica da experiência humana.
A estrutura básica que descrevi para a biologia se aplica igualmente bem à neurociência. O campo é impulsionado por um punhado de descobertas relacionadas a ferramentas de medição ou intervenção precisa - na lista acima, a optogenética é uma descoberta da neurociência, e os recentes avanços em CLARITY e microscopia de expansão são avanços na mesma direção, além de vários métodos comuns de biologia celular diretamente aplicáveis à neurociência. Acredito que a taxa desses avanços será acelerada de forma semelhante pela IA, de modo que a estrutura de "100 anos de progresso em 5 a 10 anos" se aplica à neurociência da mesma forma que à biologia, e pelos mesmos motivos. Assim como na biologia, os avanços na neurociência no século XX foram enormes - por exemplo, até a década de 1950, nem sequer entendíamos como ou por que os neurônios disparavam. Parece razoável, portanto, que a neurociência acelerada pela IA produzirá um rápido progresso dentro de alguns anos.
Uma coisa que devemos acrescentar a esse quadro básico é que parte do que aprendemos (ou estamos aprendendo) sobre IA nos últimos anos pode ajudar a avançar a neurociência, mesmo que ela continue a ser feita apenas por humanos. A interpretabilidade é o exemplo óbvio: embora os neurônios biológicos operem ostensivamente de forma bastante diferente dos neurônios artificiais (eles se comunicam por meio de picos e taxas de picos, portanto, há um elemento temporal que não existe nos neurônios artificiais e muitos detalhes relacionados à fisiologia celular e aos neurotransmissores que modificam bastante sua operação), a questão de "como uma rede celular simples, distribuída e treinada treinadas e distribuídas realizam operações combinatórias lineares/não lineares para realizar conjuntamente cálculos importantes" é a mesma, e suspeito fortemente que os detalhes da comunicação de neurônios individuais serão abstraídos na maioria das questões interessantes sobre computação e circuitos [22]. Como exemplo disso, os pesquisadores de interpretabilidade de sistemas de IA redescobriram recentemente mecanismos computacionais no cérebro de ratos.
É muito mais fácil realizar experimentos em redes neurais artificiais do que em redes reais (o último geralmente requer o corte de cérebros de animais), portanto, a interpretabilidade pode se tornar uma ferramenta para melhorar nossa compreensão da neurociência. Além disso, a própria IA poderosa pode ser capaz de desenvolver e aplicar essa ferramenta melhor do que os humanos.
É claro que, além da interpretabilidade, o que aprendemos com a IA sobre como os sistemas inteligentes estão sendo treinados deveria (embora eu não tenha certeza disso) causar uma revolução na neurociência.
Quando trabalhei em neurociência, muitas pessoas se concentraram no que hoje considero as perguntas erradas sobre aprendizado porque a noção de suposições de escala/lições dolorosas ainda não havia surgido. A ideia de que funções objetivas simples combinadas com grandes quantidades de dados poderiam gerar comportamentos incrivelmente complexos tornou mais interessante entender as funções objetivas e os vieses arquitetônicos do que os detalhes da computação urgente. Não tenho acompanhado o campo de perto nos últimos anos, mas tenho uma vaga sensação de que os neurocientistas computacionais ainda não absorveram totalmente essa lição. Minha atitude em relação à hipótese da escala sempre foi "aha - é uma explicação de alto nível de como a inteligência funciona e como ela evolui tão facilmente", mas não acho que essa seja a visão do neurocientista médio e, no campo da IA, a hipótese da escala serve como o "segredo da inteligência" nem sequer é totalmente aceita.
Acredito que os neurocientistas deveriam combinar essa percepção fundamental com as particularidades do cérebro humano (restrições biofísicas, história evolutiva, topologia, detalhes de entradas/saídas motoras e sensoriais) em uma tentativa de resolver os principais quebra-cabeças da neurociência. Pode ser que isso aconteça, mas não acho que seja suficiente, e os neurocientistas de IA poderão usar essa perspectiva de forma mais eficaz para acelerar o progresso.
Prevejo que a IA acelerará o progresso da neurociência por meio de quatro rotas diferentes, as quais podem trabalhar juntas para curar a maioria das doenças mentais e melhorar o funcionamento:
- Biologia molecular, química e genética tradicionais.Essa é essencialmente a mesma biologia geral da Seção 1, e a IA pode acelerá-la por meio dos mesmos mecanismos.
Existem muitos medicamentos que modulam os neurotransmissores para alterar a função cerebral, afetar o estado de alerta ou a percepção, alterar o humor, etc., e a IA pode nos ajudar a inventar mais.
- Medições e intervenções neurológicas refinadas.Essa é a capacidade de medir o que muitos neurônios ou circuitos neurais individuais estão fazendo e intervir para mudar seu comportamento. A optogenética e as sondas neurais tecnológicas são técnicas capazes de fazer medições e intervir simultaneamente em organismos vivos, e alguns métodos muito avançados (por exemplo, fitas moleculares para ler os padrões de disparo de um grande número de neurônios individuais) também foram propostos e parecem ser possíveis em princípio.
- Neurociência Computacional Avançada.Conforme observado acima, os insights específicos da IA moderna e do The Whole podem ser aplicados com sucesso a problemas na neurociência de sistemas, incluindo a possibilidade de revelar as verdadeiras causas e a dinâmica de distúrbios complexos, como psicose ou transtornos de humor.
- Intervenções comportamentais.Dado o foco nos aspectos biológicos da neurociência, não mencionei muito isso, mas a psiquiatria e a psicologia certamente desenvolveram uma ampla gama de intervenções comportamentais no século XX; a IA também pode acelerar essas intervenções, tanto em termos de desenvolvimento de novas abordagens quanto de ajudar os pacientes a aderir às existentes. De forma mais ampla, a noção de um "coach de IA" que está sempre ajudando você a dar o melhor de si, estudando suas interações e ajudando-o a aprender a ser mais eficaz, parece muito promissora.
Acredito que essas quatro avenidas de progresso, trabalhando juntas, irão, assim como a luta contra doenças físicas, curar ou prevenir a maioria das doenças mentais nos próximos 100 anos e, portanto, provavelmente dentro de 5 a 10 anos após a aceleração da IA. Especificamente, meu palpite é:
- A maioria das doenças mentais pode ser curada.Não sou especialista em distúrbios psiquiátricos (passo meu tempo na neurociência construindo sondas para estudar pequenos grupos de neurônios), mas suspeito que distúrbios como TEPT, depressão, esquizofrenia, dependência etc. poderiam ser descobertos e tratados de forma muito eficaz por meio de alguma combinação das quatro direções acima. A resposta pode ser "algo está errado bioquimicamente" (embora possa ser muito complexo) e "algo está errado com a rede neural, em um nível elevado". Ou seja, é um problema de neurociência sistêmica, embora isso não anule o impacto das intervenções comportamentais discutidas acima. As ferramentas para medição e intervenção humana in vivo parecem levar a uma rápida iteração e progresso.
- Uma situação muito "estrutural" pode ser mais difícil, mas não impossível.Há algumas evidências de que a psicopatia está associada a diferenças neuroanatômicas marcantes - certas áreas do cérebro são simplesmente menores ou menos desenvolvidas nos psicopatas. Acredita-se também que os psicopatas não têm empatia desde a mais tenra idade; esse pode ter sido sempre o caso, independentemente das diferenças em seus cérebros. O mesmo pode se aplicar a certas deficiências intelectuais e talvez a outras condições. Reconectar o cérebro parece difícil, mas parece ser uma tarefa com alto retorno para a inteligência. Pode haver maneiras de induzir o cérebro adulto a um estado anterior ou mais plástico para que ele possa ser remodelado. Não tenho muita certeza sobre isso, mas meu instinto é ser otimista em relação ao que a IA pode inventar nessa área.
- A prevenção genética eficaz da psicose parece ser possível.A maioria dos transtornos psiquiátricos é parcialmente herdada, e os estudos de associação do genoma estão começando a progredir na identificação dos fatores associados, que geralmente são numerosos. A prevenção da maioria desses transtornos por meio de triagem embrionária pode ser possível, semelhante à história das doenças físicas. Uma diferença é que as doenças mentais têm maior probabilidade de serem poligênicas (muitos genes contribuem), portanto, há o risco de selecionar, sem saber, características positivas associadas à doença devido à complexidade. Curiosamente, os estudos de GWAS realizados nos últimos anos parecem sugerir que essas correlações podem ser superestimadas. De qualquer forma, a neurociência acelerada por IA pode nos ajudar a resolver essas questões. É claro que a triagem embrionária de características complexas levanta algumas questões sociais e será controversa, embora eu acredite que a maioria das pessoas seria a favor da triagem de distúrbios psiquiátricos graves ou incapacitantes.
- Não acreditamos que os problemas cotidianos das doenças clínicas também serão abordados.A maioria de nós tem problemas psicológicos cotidianos que, em geral, não são considerados como doença clínica. Algumas pessoas são propensas à raiva, outras têm dificuldade de concentração ou costumam ter sono, algumas são medrosas ou ansiosas ou reagem mal a mudanças. Atualmente, existem medicamentos para ajudar, por exemplo, com o estado de alerta ou a concentração (cafeína, modafinil, ritalina), mas, como em muitas áreas anteriores, pode haver mais possibilidades. Pode haver muitos outros medicamentos desse tipo que ainda não foram descobertos, e pode haver maneiras totalmente novas de intervir, como a estimulação de luz direcionada (veja optogenética acima) ou campos magnéticos. Considerando a quantidade de medicamentos que desenvolvemos no século XX para modular a função cognitiva e os estados emocionais, estou muito otimista em relação a um "século XXI comprimido", no qual todos podem melhorar o desempenho de seus cérebros e ter experiências diárias mais gratificantes.
- A experiência da linha de base humana pode melhorar.Indo um pouco além, muitas pessoas vivenciam momentos extraordinários de revelação, inspiração criativa, compaixão, realização, transcendência, amor, beleza ou paz meditativa. O caráter e a frequência dessas experiências variam de pessoa para pessoa, em momentos diferentes, e às vezes podem ser desencadeadas por vários medicamentos (embora muitas vezes com efeitos colaterais). Tudo isso sugere que o "espaço de experiências possíveis" é muito amplo e que a vida de mais pessoas pode consistir nesses momentos extraordinários. Também pode melhorar várias funções cognitivas. Essa poderia ser a versão neurocientífica da "liberdade biológica" ou da "extensão da vida".
Um tópico que aparece com frequência na ficção científica, mas que deliberadamente não discuti aqui, é a ideia de "upload de consciência", capturando os padrões e a dinâmica do cérebro humano e instanciando-os em um software. Esse tópico poderia ser objeto de um artigo por si só, mas a resposta curta é que, embora eu ache que o upload seja possível em princípio, na prática ele enfrenta desafios técnicos e sociais significativos que, mesmo com uma IA poderosa, podem colocá-lo fora do período de 5 a 10 anos de que estamos falando.
Em resumo, a neurociência acelerada pela IA poderia melhorar drasticamente o tratamento, possivelmente até curar a maioria das doenças mentais, e expandir drasticamente a "liberdade cognitiva e espiritual" e as capacidades cognitivas e emocionais humanas. Isso será tão radical quanto as melhorias na saúde física descritas na Seção 1. Talvez o mundo não pareça significativamente diferente do lado de fora, mas o mundo da experiência humana seria um lugar melhor, mais humano e que ofereceria mais oportunidades de autorrealização. Também suspeito que a melhoria da saúde mental melhoraria muitos outros problemas sociais, inclusive aqueles que parecem ser políticos ou econômicos.
3. desenvolvimento econômico e pobreza
As duas primeiras seções tratam das novas tecnologias da UNDG para curar doenças e melhorar a qualidade de vida humana. Entretanto, do ponto de vista humanitário, uma pergunta óbvia é: "Todos terão acesso a essas tecnologias?"
Desenvolver a cura para uma doença é uma coisa; erradicá-la do mundo é outra. Em termos mais amplos, muitas intervenções de saúde existentes ainda não foram aplicadas em outras partes do mundo, e o mesmo ocorre com as melhorias tecnológicas (não relacionadas à saúde). Em outras palavras, os padrões de vida em muitas partes do mundo ainda são extremamente pobres: a África Subsaariana tem um PIB per capita de cerca de US$ 2.000, em comparação com cerca de US$ 75.000 nos EUA. Se a IA aumentar ainda mais o crescimento econômico e a qualidade de vida no mundo desenvolvido e fizer pouco para ajudar o mundo em desenvolvimento, devemos ver isso como um terrível fracasso moral e uma mancha nas verdadeiras vitórias humanitárias das duas seções anteriores. O ideal é que uma IA poderosa ajude o mundo em desenvolvimento a "alcançar" o mundo desenvolvido, mesmo que revolucione este último.
Não estou tão confiante de que a IA será capaz de inventar a tecnologia subjacente que resolverá os problemas da desigualdade e do crescimento econômico quanto eu estou de que ela o fará, já que a tecnologia tem um retorno significativamente maior sobre a inteligência (incluindo a capacidade de contornar a complexidade e a falta de dados), enquanto a economia envolve muitas restrições dos seres humanos e muita complexidade inerente. Sou um pouco cético quanto à possibilidade de a IA resolver o famoso "problema de computação socialista" [23] e, mesmo que pudesse, não acho que os governos confiariam (ou deveriam confiar) suas políticas econômicas a essa entidade. Há também questões sobre como convencer as pessoas a aceitar tratamentos que são eficazes, mas sobre os quais elas podem ser céticas.
Os desafios que o mundo em desenvolvimento enfrenta são agravados pela corrupção generalizada nos setores público e privado. A corrupção cria um círculo vicioso: ela exacerba a pobreza, que, por sua vez, gera mais corrupção. Os programas de desenvolvimento econômico orientados por IA precisam levar em conta a corrupção, as instituições fracas e outros desafios muito humanos.
No entanto, vejo motivos claros para otimismo. Doenças foram erradicadas, muitos países passaram da pobreza para a riqueza, e está claro que as decisões envolvidas nessas tarefas apresentam altos retornos de inteligência (apesar das restrições e da complexidade humanas), portanto, a IA pode ser capaz de fazer melhor do que faz atualmente. Também é possível que haja intervenções direcionadas que possam contornar as restrições humanas, e a IA pode se concentrar nelas. O mais importante é que temos de tentar. Tanto as empresas de IA quanto os formuladores de políticas do mundo desenvolvido precisam fazer sua parte para garantir que o mundo em desenvolvimento não seja deixado para trás; o imperativo moral é grande demais. Portanto, nesta seção, continuarei a defender o otimismo, mas lembre-se de que o sucesso não é garantido e depende de nossos esforços coletivos.
A seguir, especulo sobre como acho que o mundo em desenvolvimento poderá ser daqui a 5 a 10 anos, após o desenvolvimento de uma IA poderosa:
- Distribuição de intervenções de saúde.A área em que provavelmente sou mais otimista é a distribuição de intervenções de saúde em todo o mundo. As doenças foram praticamente erradicadas por campanhas de cima para baixo: a varíola foi completamente erradicada na década de 1970, e a poliomielite e a doença do verme da Guiné foram praticamente erradicadas com menos de 100 casos por ano. A modelagem epidemiológica matematicamente sofisticada tem desempenhado um papel ativo nas campanhas de erradicação de doenças, e parece muito provável que sistemas de IA mais inteligentes do que os humanos possam fazer o trabalho melhor do que os humanos. A logística de distribuição também pode ser bastante otimizada. Uma coisa que aprendi por ter sido um dos primeiros doadores da GiveWell é que algumas instituições beneficentes de saúde são mais eficazes do que outras; esperamos que os esforços acelerados pela IA sejam mais eficazes. Além disso, alguns avanços biológicos facilitaram a logística da distribuição: a malária, por exemplo, é difícil de erradicar porque exige tratamento toda vez que a doença é contraída; as vacinas que exigem apenas uma vacinação simplificam a logística (na verdade, essa vacina contra a malária está sendo desenvolvida atualmente). Mecanismos de distribuição mais simples são possíveis: por exemplo, a erradicação de algumas doenças tendo como alvo seus vetores animais, como a liberação de mosquitos infectados com uma bactéria que os impede de transmitir a doença (e depois infectar todos os outros mosquitos) ou simplesmente usar uma unidade genética para eliminar os mosquitos. Isso exigiria uma ou poucas ações focadas, em vez de uma campanha coordenada que teria de tratar milhões de pessoas individualmente. De modo geral, acredito que de 5 a 10 anos é um prazo razoável para que uma parte significativa dos benefícios de saúde impulsionados pela IA (talvez 50%) tenha se espalhado pelos países mais pobres do mundo. Uma boa meta seria que o mundo em desenvolvimento fosse, no mínimo, tão saudável quanto o mundo desenvolvido é hoje dentro de 5 a 10 anos de IA poderosa, mesmo que continue a ficar atrás do mundo desenvolvido. É claro que para atingir essa meta será necessário um grande esforço em saúde global, filantropia, defesa política e muitas outras áreas, e tanto os desenvolvedores de IA quanto os formuladores de políticas devem ajudar.
- Crescimento econômico.O mundo em desenvolvimento pode alcançar rapidamente o mundo desenvolvido, não apenas em termos de saúde, mas também em todos os aspectos da economia? Há um precedente: nas últimas décadas do século XX, várias economias do Leste Asiático alcançaram taxas de crescimento anual sustentado do PIB real de cerca de 10%, o que lhes permitiu alcançar o mundo desenvolvido. Os planejadores econômicos humanos tomaram as decisões que levaram a esse sucesso, acionando algumas alavancas importantes (por exemplo, política industrial para o crescimento liderado pelas exportações e resistindo à tentação de depender da riqueza dos recursos naturais) em vez de assumir o controle direto da economia como um todo; é possível que "ministros das finanças e banqueiros centrais artificialmente inteligentes" possam replicar ou até mesmo superar essa conquista de 10%. Realização do 10%. Uma questão importante é como fazer com que os governos do mundo em desenvolvimento adotem os princípios de autodeterminação e, ao mesmo tempo, os respeitem - alguns podem ser entusiastas, mas outros podem ser céticos. Do lado otimista, muitas das intervenções de saúde mencionadas no ponto anterior podem aumentar naturalmente o crescimento econômico: a erradicação da AIDS/malária/vermes parasitas teria um impacto transformador sobre a produtividade, sem mencionar que algumas intervenções neurocientíficas (por exemplo, melhorar o humor e a concentração) trariam benefícios econômicos tanto no mundo desenvolvido quanto no mundo em desenvolvimento. Por fim, tecnologias que não sejam de saúde e que acelerem a IA (por exemplo, tecnologias de energia, drones de transporte, materiais de construção aprimorados, melhor logística e distribuição etc.) podem permear naturalmente o mundo; por exemplo, mesmo na África Subsaariana, os telefones celulares estão se tornando rapidamente comuns por meio de mecanismos de mercado sem esforços filantrópicos. Do ponto de vista mais negativo, apesar dos muitos benefícios potenciais da IA e da automação, elas também representam um desafio para o desenvolvimento econômico, especialmente para os países que ainda não são industrializados. Encontrar maneiras de garantir que esses países ainda possam se desenvolver e melhorar suas economias na era da automação é um desafio importante a ser enfrentado por economistas e formuladores de políticas. De modo geral, um cenário ideal - e talvez uma meta - seria uma taxa de crescimento anual do PIB de 201 TP3T no mundo em desenvolvimento, com 101 TP3T provenientes da tomada de decisões econômicas viabilizadas pela IA e outros 101 TP3T provenientes da aceleração da IA. a disseminação natural da tecnologia, incluindo, entre outros, a saúde. Se concretizado, isso permitiria que a África Subsaariana alcançasse o atual PIB per capita da China dentro de 5 a 10 anos, ao mesmo tempo em que permitiria que muitos outros mundos em desenvolvimento alcançassem níveis acima do atual PIB dos EUA. Mais uma vez, esse é um cenário de sonho, não algo que acontecerá por padrão: é algo que todos nós devemos trabalhar juntos para tornar mais possível.
- Segurança alimentar[24].Os avanços tecnológicos nas culturas, como melhores fertilizantes e pesticidas, mais automação e uso mais eficiente da terra, aumentaram drasticamente a produtividade das culturas e salvaram milhões de pessoas da fome no século XX. Atualmente, a engenharia genética está aprimorando ainda mais muitas culturas. Encontrar mais maneiras de fazer isso - e tornar as cadeias de suprimentos agrícolas mais eficientes - poderia nos proporcionar uma segunda revolução verde impulsionada pela IA que ajudaria a diminuir a distância entre os mundos em desenvolvimento e desenvolvido.
- Mitigação das mudanças climáticas.As mudanças climáticas serão sentidas com mais intensidade no mundo em desenvolvimento, prejudicando seu desenvolvimento. Podemos esperar que a IA leve a tecnologias aprimoradas para mitigar ou interromper a mudança climática, desde a remoção de carbono atmosférico e tecnologias de energia limpa até a carne cultivada em laboratório que reduz nossa dependência da agricultura industrial com uso intensivo de carbono. É claro que, conforme discutido acima, a tecnologia não é a única coisa que limita o progresso das mudanças climáticas - como todas as outras questões discutidas no artigo, os fatores sociais humanos são importantes. Mas há boas razões para pensar que a pesquisa aprimorada por IA nos dará os meios para tornar a mitigação da mudança climática menos dispendiosa e menos prejudicial, tornando muitas das objeções irrelevantes e liberando o potencial para um maior desenvolvimento econômico nos países em desenvolvimento.
- Desigualdade dentro do Estado.Discuti principalmente a desigualdade como um fenômeno global (que acredito ser sua manifestação mais importante), mas é claro que a desigualdade também existe dentro dos países. Com o aumento drástico das intervenções avançadas na área da saúde, especialmente a longevidade ou os medicamentos para aprimoramento cognitivo, há certamente uma preocupação válida de que essas tecnologias sejam "apenas para os ricos". Sou particularmente otimista com relação à desigualdade nos países desenvolvidos por dois motivos. Primeiro, os mercados funcionam melhor no mundo desenvolvido e, em geral, são bons em reduzir o custo de tecnologias de alto valor ao longo do tempo [25]. Em segundo lugar, as instituições políticas dos países desenvolvidos são mais sensíveis aos seus cidadãos e têm maior capacidade nacional para implementar programas de EA - espero que os cidadãos exijam acesso a tecnologias que melhorem fundamentalmente sua qualidade de vida. Obviamente, isso não quer dizer que essas demandas serão bem-sucedidas, e é aqui que precisamos fazer tudo o que pudermos para garantir uma sociedade justa. Há uma questão separada de desigualdade de riqueza (em oposição à desigualdade no acesso a tecnologias que salvam e melhoram a vida) que parece mais difícil de abordar, a qual discuto na Seção 5.
- Problemas de opt-out.. Há um problema, tanto nos países desenvolvidos quanto nos países em desenvolvimento, de pessoas que "optam por não participar" dos benefícios da IA (semelhante ao movimento antivacina ou ao movimento ludita em geral). Pode haver ciclos de feedback ruins, por exemplo, pessoas menos capazes de tomar boas decisões optam por não participar do desenvolvimento da tecnologia que melhora sua capacidade de tomada de decisão, o que aumenta as lacunas e até mesmo cria uma subclasse antiutópica (que alguns pesquisadores acreditam que prejudicará a democracia, um tópico que discutirei mais detalhadamente na próxima seção). Isso mais uma vez colocaria uma mancha moral no progresso positivo da IA. Esse é um problema difícil de resolver, pois não acho que seja eticamente possível forçar as pessoas, mas podemos pelo menos tentar melhorar a compreensão científica das pessoas - talvez a própria IA possa nos ajudar com isso. Um sinal encorajador é que, historicamente, as campanhas contra a tecnologia tendem a ser mais barulhentas do que a ação real: a oposição à tecnologia moderna é popular, mas a maioria das pessoas acaba adotando-a, pelo menos quando se trata de uma questão de escolha pessoal. Os indivíduos tendem a adotar a maioria das tecnologias de saúde e de consumo, enquanto as tecnologias que são realmente prejudicadas, como a energia nuclear, tendem a ser decisões políticas coletivas.
De modo geral, estou otimista quanto a levar os avanços biológicos da IA rapidamente às pessoas do mundo em desenvolvimento. Tenho esperança, embora não esteja confiante, de que a IA possa atingir taxas de crescimento econômico sem precedentes que colocarão o mundo em desenvolvimento pelo menos acima dos níveis atuais do mundo desenvolvido. Preocupo-me com o problema da "exclusão" tanto nos países desenvolvidos quanto nos países em desenvolvimento, mas suspeito que ele desaparecerá com o tempo e que a IA pode ajudar a acelerar o processo. O mundo não será perfeito, e aqueles que estão atrasados não conseguirão alcançá-lo, pelo menos não nos primeiros anos. Mas, por meio de nossos esforços, podemos progredir rapidamente na direção certa. E, se o fizermos, poderemos contribuir, pelo menos de alguma forma, para as promessas de dignidade e igualdade que fazemos a todos os seres humanos do planeta.
4. paz e governança
Suponha que tudo corra bem nos três primeiros componentes: as doenças, a pobreza e a desigualdade são significativamente reduzidas, e a linha de base da experiência humana é muito melhorada. Isso não significa que todas as principais causas do sofrimento humano tenham sido resolvidas. Os seres humanos ainda são uma ameaça uns para os outros.
Embora exista uma tendência ao progresso tecnológico e ao desenvolvimento econômico que leva à democracia e à paz, essa é uma tendência muito vaga que muitas vezes (e recentemente) retrocedeu. No início do século XX, as pessoas achavam que tinham deixado a guerra para trás; depois vieram as duas guerras mundiais. Trinta anos atrás, Francis Fukuyama escreveu sobre o "fim da história" e o triunfo final da democracia liberal; isso ainda não aconteceu. Vinte anos atrás, os formuladores de políticas dos EUA acreditavam que o livre comércio com a China levaria à sua liberalização à medida que ela se tornasse mais rica; isso simplesmente não aconteceu, e agora parece que estamos caminhando para uma segunda Guerra Fria com um bloco autoritário revivido. Teorias confiáveis sugerem que a tecnologia da Internet pode de fato favorecer o autoritarismo em detrimento da democracia, como se pensava originalmente (por exemplo, durante a Primavera Árabe). Parece importante tentar entender como a poderosa IA se cruzará com questões de paz, democracia e liberdade.
Infelizmente, não tenho mais motivos para acreditar que a IA promoverá preferencialmente ou estruturalmente a democracia e a paz do que acredito que ela promoverá estruturalmente a saúde humana e aliviará a pobreza. O conflito humano é contraditório, e a IA pode, em princípio, ajudar tanto os "mocinhos" quanto os "bandidos". No mínimo, alguns fatores estruturais parecem preocupantes: a IA pode facilitar a propaganda e a vigilância, que são as principais ferramentas do kit de ferramentas dos governantes autoritários. Portanto, nós, como atores individuais, devemos tentar empurrar as coisas na direção certa: se quisermos que a IA favoreça a democracia e os direitos individuais, teremos que lutar por esse resultado. Tenho uma opinião mais forte sobre isso do que sobre a desigualdade internacional: o triunfo da democracia liberal e da estabilidade política não é garantido, talvez nem mesmo possível, e exigirá grande sacrifício e comprometimento de todos nós, como sempre aconteceu no passado.
Acredito que o problema tem duas vertentes: o conflito internacional e a estrutura interna do Estado. No âmbito internacional, parece importante que as democracias prevaleçam no cenário mundial quando forem criadas IAs poderosas. O autoritarismo impulsionado pelas IAs parece assustador demais para ser contemplado, portanto, as democracias precisam ser capazes de definir as condições sob as quais as IAs poderosas podem entrar no mundo, tanto para evitar que sejam dominadas por autoritários quanto para impedir que ocorram violações dos direitos humanos em Estados autoritários.
Meu palpite atual é que a melhor maneira de conseguir isso é por meio de uma "estratégia de concordância" [26], na qual uma coalizão de democracias busca obter uma vantagem clara (mesmo que temporária) sobre uma IA poderosa, protegendo sua cadeia de suprimentos, expandindo-se rapidamente e impedindo ou atrasando o acesso de um adversário aos principais recursos (por exemplo, chips e equipamentos semicondutores). ). A coalizão usaria a IA para obter uma vantagem militar robusta (o bastão) e, ao mesmo tempo, ofereceria a distribuição dos benefícios da IA poderosa para um número cada vez maior de países (a cenoura) em troca do apoio à estratégia da coalizão para promover a democracia (que seria algo semelhante ao "átomo da paz"). O objetivo da Coalizão é obter o apoio de um número cada vez maior de pessoas em todo o mundo, isolar nossos piores adversários e, por fim, colocá-los em uma posição melhor para desistir de competir com as democracias por todos os benefícios e não lutar contra adversários superiores: desistir de competir com as democracias por todos os benefícios e não lutar contra adversários superiores.
Se conseguirmos fazer tudo isso, teremos um mundo no qual as democracias dominam o cenário mundial e têm o poder econômico e militar para evitar serem minadas, subjugadas ou destruídas por Estados autoritários, e talvez consigam transformar suas vantagens de IA em vantagens duradouras. Isso poderia levar, de forma otimista, a um "eterno 1991" - um mundo onde as democracias prevalecem e o sonho de Fukuyama é realizado. Mais uma vez, isso será muito difícil de ser realizado, especialmente porque exigirá uma estreita cooperação entre as empresas privadas de IA e os governos democráticos, bem como uma tomada de decisão extremamente sábia sobre o equilíbrio entre incentivos e punições.
Mesmo que tudo isso corra bem, fica em aberto a questão da luta entre democracia e autoritarismo em cada país. Obviamente, é difícil prever o que acontecerá nesse caso, mas tenho certo otimismo de que, em um ambiente global no qual as democracias controlam as IAs mais poderosas, as IAs poderão ser estruturadas para apoiar a democracia em qualquer lugar. Em particular, nesse ambiente, os governos democráticos poderiam usar sua super IA para vencer a guerra da informação: eles poderiam combater as operações de influência e propaganda dos Estados autoritários e talvez até criar um ambiente global de informações livres, fornecendo acesso a informações e serviços de IA que os Estados autoritários não têm capacidade tecnológica para bloquear ou monitorar. Talvez não seja necessário fazer propaganda, mas simplesmente combater ataques maliciosos e remover o fluxo livre de informações. Embora não seja imediato, esse campo de jogo nivelado tem uma boa chance de mudar gradualmente a governança global para a democracia por vários motivos.
Em primeiro lugar, os avanços na melhoria da qualidade de vida nas seções 1 a 3 devem, em igualdade de condições, promover a democracia: historicamente, eles têm feito isso pelo menos até certo ponto. Em particular, espero que a melhoria da saúde mental, a felicidade e a educação aumentem a democracia, uma vez que todos os três estão negativamente correlacionados com o apoio a líderes autoritários. Em geral, as pessoas querem mais autoexpressão quando outras necessidades são atendidas, e a democracia é uma forma de autoexpressão. Em contrapartida, o autoritarismo prospera com o medo e o ressentimento.
Em segundo lugar, há uma boa chance de que a informação livre realmente enfraqueça o autoritarismo, desde que os autoritários não possam censurá-la. A IA sem censura também pode fornecer aos indivíduos ferramentas poderosas para minar governos opressores. Governos opressores sobrevivem negando às pessoas algum tipo de conhecimento comum, impedindo-as de perceber que "o imperador não tem roupas". Por exemplo, Srdja Popovic, que ajudou a derrubar o governo de Milosevic, escreveu extensivamente sobre técnicas para desempoderar psicologicamente os autoritários, quebrar feitiços e reunir a oposição aos ditadores. Uma versão sobre-humanamente eficaz da IA no bolso de todos (cujas habilidades parecem ter um alto retorno para a inteligência) poderia criar apoio para dissidentes e reformadores em todo o mundo. Novamente, será uma luta longa e árdua, e a vitória não é garantida, mas se projetarmos e construirmos a IA da maneira correta, pelo menos poderá ser uma luta na qual os defensores da liberdade terão uma vantagem em todos os lugares.
Assim como a neurociência e a biologia, podemos nos perguntar como as coisas podem se tornar "melhores do que o normal" - não apenas como evitar o autoritarismo, mas como tornar a democracia melhor do que é hoje. Mesmo nas democracias, ocorrem injustiças com frequência. As sociedades regidas pelo Estado de Direito prometem a seus cidadãos que todos serão iguais perante a lei e que todos desfrutarão dos direitos humanos básicos, mas é evidente que as pessoas nem sempre recebem esses direitos na prática. Essa promessa é algo de que devemos nos orgulhar, mesmo que parcialmente cumprida, mas será que a IA pode nos ajudar a fazer melhor?
Por exemplo, a IA pode aprimorar nossos sistemas jurídicos e judiciais, tornando as decisões e os processos mais justos? Atualmente, há grandes preocupações de que os sistemas de IA sejam uma Causa de Discriminação em contextos legais ou judiciais, e essas preocupações são importantes e precisam ser defendidas. Ao mesmo tempo, a viabilidade da democracia depende do uso de novas tecnologias para aprimorar as instituições democráticas, não apenas para reagir aos riscos. Uma implementação de IA realmente madura e bem-sucedida tem o potencial de reduzir o preconceito e ser mais justa para todos.
Durante séculos, o sistema jurídico enfrentou o dilema de que a lei, que tem a intenção de ser justa, é inerentemente subjetiva e, portanto, deve ser interpretada por seres humanos tendenciosos. As tentativas de mecanizar totalmente a lei não funcionaram porque o mundo real é caótico e nem sempre pode ser descrito por fórmulas matemáticas. Em vez disso, o sistema jurídico se baseia em critérios notoriamente imprecisos, como "punição cruel e incomum" ou "total falta de valor social redentor", que são então interpretados por seres humanos - e muitas vezes de maneiras que demonstram parcialidade, preconceito e falta de valor social. Os "contratos inteligentes" em criptomoedas são uma forma de "punição cruel e incomum" ou "total falta de valor social redentor", que são então interpretados por humanos - e muitas vezes de maneiras que demonstram parcialidade, preconceito e falta de valor social. Os "contratos inteligentes" em criptomoedas não revolucionaram a lei, porque o código comum não é inteligente o suficiente para decidir sobre todas as coisas interessantes. Mas a IA pode ser inteligente o suficiente: é a primeira tecnologia capaz de fazer julgamentos amplos e ambíguos de forma repetitiva e mecânica.
Não estou sugerindo que substituamos literalmente os juízes por sistemas de IA, mas a combinação de imparcialidade e capacidade de entender e lidar com situações complicadas do mundo real deve ter algumas aplicações positivas sérias para o direito e a justiça. No mínimo, esse sistema poderia servir como um auxílio para a tomada de decisões humanas. A transparência é importante em qualquer sistema desse tipo, e a ciência sofisticada da IA pode proporcionar isso: o processo de treinamento desses sistemas poderia ser estudado extensivamente, e técnicas avançadas de interpretação poderiam ser usadas para examinar o modelo final e avaliá-lo em busca de vieses ocultos que seriam impossíveis com seres humanos. Essas ferramentas de IA também poderiam ser usadas para monitorar violações de direitos fundamentais em contextos judiciais ou policiais, tornando as constituições mais autoaplicáveis.
Da mesma forma, a IA pode ser usada para agregar opiniões e gerar consenso entre os cidadãos, resolver conflitos, encontrar pontos em comum e buscar compromissos. Algumas ideias iniciais nesse sentido foram adotadas pelo Projeto de Democracia Computacional, incluindo uma colaboração com a Anthropic. Uma cidadania mais informada e ponderada certamente fortalece as instituições democráticas.
Há também uma clara oportunidade de usar a IA para ajudar a fornecer serviços governamentais - como benefícios de saúde ou serviços sociais - que, em princípio, estão disponíveis para todos, mas que, na prática, costumam ser muito escassos e piores em alguns lugares do que em outros. Isso inclui serviços de saúde, registros de veículos, impostos, previdência social, aplicação de códigos de construção e muito mais. Ter uma IA muito atenciosa e bem informada, cuja função é dar a você acesso a tudo o que o governo deve fornecer de forma compreensível - e também ajudá-lo a cumprir as regras do governo, muitas vezes confusas - seria um grande negócio. Aumentar a capacidade do Estado ajuda a cumprir a promessa de igualdade perante a lei e fortalece o respeito pela governança democrática. Os serviços mal executados são um dos principais impulsionadores do atual cinismo em relação ao governo [27].
Todas essas são ideias vagas e, como disse no início desta seção, tenho muito menos confiança em sua viabilidade do que no meu progresso em biologia, neurociência e redução da pobreza. Podem ser ideias utópicas impraticáveis. Mas é importante ter uma visão ambiciosa e estar disposto a sonhar com ousadia e tentar coisas novas. A visão da IA como garantidora da liberdade, dos direitos individuais e da igualdade perante a lei é poderosa demais para ser ignorada. Uma política do século XXI orientada pela IA pode ser tanto um protetor mais forte das liberdades individuais quanto um farol de esperança, ajudando a tornar a democracia liberal a forma de governo que o mundo deseja adotar.
5. trabalho e significado
Mesmo que tudo dê certo nas quatro primeiras partes - não apenas aliviemos as doenças, a pobreza e a desigualdade, mas a democracia liberal se torne a forma dominante de governo e as democracias liberais existentes se tornem versões melhores de si mesmas - pelo menos uma questão importante permanece. "É ótimo que vivamos em um mundo tão avançado tecnologicamente, além de justo e decente", alguém pode objetar, "mas com a IA fazendo tudo, como os humanos terão sentido? A propósito, como eles sobreviverão economicamente?"
Acho que esse problema é mais difícil do que outros. O que quero dizer é que essa questão é mais imprevisível do que as outras porque envolve questões macro sobre como as sociedades são organizadas, questões que geralmente só podem ser resolvidas com o tempo e de forma descentralizada. Por exemplo, as sociedades históricas de caçadores-coletores podem ter imaginado que a vida não teria sentido sem a caça e os vários rituais religiosos associados a ela, e podem ter imaginado que nossa sociedade tecnológica saciada não tinha propósito. Eles também podem não entender como nossa economia atende a todos ou quais funções as pessoas podem desempenhar com eficiência em uma sociedade mecanizada.
No entanto, vale a pena dizer pelo menos algumas palavras, tendo em mente que a brevidade desta seção não sugere de forma alguma que eu não esteja levando essas questões a sério - pelo contrário, é um sinal de falta de respostas claras.
Com relação ao significado, acho que é provável que uma visão equivocada seja a de que, se você estiver envolvido em uma tarefa que não faz sentido, é apenas porque a IA pode fazê-la melhor. A maioria das pessoas não é a melhor do mundo em nada, e isso não parece incomodá-las particularmente. É claro que hoje elas ainda podem contribuir por meio da vantagem comparativa e podem extrair significado do valor econômico que produzem, mas as pessoas também gostam muito de atividades que não produzem valor econômico. Eu passo muito tempo jogando videogame, nadando, caminhando ao ar livre e conversando com amigos, e tudo isso não produz valor econômico. Talvez eu passe um dia tentando melhorar em um videogame ou andar de bicicleta mais rápido nas montanhas, e realmente não me importo se alguém em algum lugar for melhor do que eu nessas coisas. De qualquer forma, acho que o significado vem principalmente de relacionamentos e conexões, não do trabalho econômico. As pessoas querem ter um senso de realização, mesmo que seja um senso de competição e, em um mundo pós-IA, é perfeitamente possível passar anos tentando realizar algumas tarefas muito difíceis com estratégias complexas, semelhante ao que as pessoas fazem hoje quando iniciam um projeto de pesquisa, tentam se tornar um ator de Hollywood ou abrir uma empresa [28]. O fato de que (a) uma IA em algum lugar poderia, em princípio, fazer essa tarefa melhor e (b) que essa tarefa não é mais um elemento de retorno econômico na economia global, não me parece importante.
Na verdade, parece-me que a parte econômica é mais difícil do que a parte significativa. Por "econômica", nesta seção, refiro-me ao possível problema de que a maioria ou todos os seres humanos podem não ser capazes de contribuir de forma significativa em uma economia suficientemente avançada impulsionada por IA. Esse é um problema muito mais macro do que a questão separada da desigualdade, especialmente o acesso desigual a novas tecnologias, que discuto na seção 3.
Em primeiro lugar, no curto prazo, concordo que o argumento da vantagem comparativa continuará a tornar os seres humanos relevantes e, de fato, aumentará sua produtividade, até mesmo nivelando o campo de jogo em alguns aspectos. Enquanto a IA for apenas 90% melhor em um determinado trabalho, os outros 10% farão com que os seres humanos se tornem altamente alavancados, aumentem a remuneração e, na verdade, criem muitos novos trabalhos humanos que complementem e ampliem aquilo em que a IA é boa, permitindo que os "10%" se expandam e continuem a empregar quase todo mundo. De fato, mesmo que a IA possa fazer 100% coisas melhor do que os humanos, a lógica da vantagem comparativa continua a se aplicar se ela continuar ineficiente ou cara em determinadas tarefas, ou se os insumos de recursos para os humanos e para a IA forem significativamente diferentes. Uma área em que os seres humanos podem manter uma vantagem relativa (ou mesmo absoluta) ao longo do tempo é o mundo físico. Portanto, acho que a economia humana pode continuar a ser relevante mesmo depois de atingirmos o "estado de gênio centrado em dados".
Entretanto, acho que, a longo prazo, a IA se tornará tão amplamente eficaz e barata que isso não se aplicará mais. Nesse momento, nossa configuração econômica atual não fará mais sentido, e haverá a necessidade de um diálogo social mais amplo sobre como a economia deve ser organizada.
Embora isso possa parecer loucura, o fato é que a civilização lidou com sucesso com grandes mudanças econômicas no passado: da caça-coleta para a agricultura, da agricultura para o feudalismo e do feudalismo para o industrialismo. Suspeito que será necessário algo novo e mais estranho, uma visão que ninguém faz muito bem atualmente. Poderia ser algo como uma grande renda básica universal para todos, embora eu suspeite que isso seja apenas uma pequena parte da solução. Poderia ser uma economia capitalista administrada por um sistema de IA, que alocaria recursos para os seres humanos (devido ao que o sistema de IA acha que faz sentido recompensar entre os seres humanos) com base no julgamento do sistema de IA (que, em última análise, deriva de valores humanos) com base em algum tipo de economia secundária. Talvez a economia funcione com pontos Whuffie. Ou talvez os seres humanos ainda sejam economicamente valiosos, de alguma forma não prevista pelos modelos econômicos usuais. Todas essas soluções têm um grande número de possíveis problemas, e não está claro se elas fazem sentido, a menos que muita iteração e experimentação sejam feitas. Como alguns outros desafios, talvez tenhamos que lutar por eles para obter bons resultados: direções exploradoras ou antiutópicas também são possíveis e precisam ser desencorajadas. Poderíamos escrever mais sobre essas questões, e espero fazê-lo no futuro.
resumos
Por meio dos diferentes temas mencionados acima, tentei apresentar uma visão de um mundo que, se tudo der certo com a IA, será muito melhor do que o atual. Não sei se esse mundo é realista e, mesmo que seja, ele não se concretizará sem muito trabalho árduo e luta de muitas pessoas corajosas e dedicadas. Todos (inclusive as empresas de IA!) ) precisam fazer sua parte, tanto para evitar riscos quanto para obter todos os benefícios.
Mas é um mundo pelo qual vale a pena lutar. Se isso acontecer daqui a cinco ou dez anos - a derrota da maioria das doenças, o crescimento da liberdade biológica e cognitiva, a retirada de bilhões de pessoas da pobreza, o compartilhamento de novas tecnologias, o renascimento da democracia liberal e dos direitos humanos - duvido que todos que testemunharem isso terão um efeito sobre eles . Quero dizer, testemunhar os benefícios pessoais de todas as novas tecnologias, certamente seria incrível. Quero dizer, testemunhar a experiência de um conjunto de ideais que defendemos por tanto tempo sendo concretizados simultaneamente para todos. Acho que muitos se emocionarão até as lágrimas com isso.
Durante a redação deste artigo, notei uma tensão interessante. Há um sentido em que a visão apresentada aqui é extremamente radical: não é algo que quase todo mundo espera que aconteça na próxima década, e pode parecer para muitos uma fantasia absurda. Alguns podem até considerá-la indesejável; ela incorpora valores e escolhas políticas com os quais nem todos concordarão. Mas, ao mesmo tempo, há algo muito óbvio - algo excessivamente determinado - nele, como se muitas tentativas diferentes de imaginar um mundo bom inevitavelmente levassem a isso.
Em The Game Player [29], de Iain M. Banks, o protagonista, apesar de tudo isso, continua sendo uma coisa de beleza transcendente. Temos a oportunidade de contribuir de uma pequena forma para sua realização. No entanto, continua sendo algo de beleza transcendente. Temos a oportunidade de fazer uma pequena contribuição para sua realização. -Os membros de uma sociedade chamada Cultura, cujos fundamentos coincidem com o que estou propondo aqui, viajam para um império repressivo e militarista, no qual a liderança é determinada por uma complexa competição de jogos de luta. O jogo é suficientemente complexo, no entanto, para que as estratégias dos jogadores dentro dele tendam a refletir suas próprias visões políticas e filosóficas. O fato de o protagonista conseguir derrotar o imperador no jogo sugere que seus valores (os valores da cultura) representam uma estratégia vencedora mesmo dentro das regras de um jogo criado por uma sociedade de competição implacável e sobrevivência do mais apto. e tende a levar a uma sociedade baseada na compaixão e na cooperação. O "arco do universo moral" é outro conceito semelhante.
Acho que os valores da cultura são uma estratégia vencedora porque são a soma de um milhão de pequenas decisões que têm força moral clara e tendem a puxar todos para o mesmo lado. Intuições humanas básicas como justiça, cooperação, curiosidade e autonomia são difíceis de contestar, e de uma forma cumulativa que nossos impulsos mais destrutivos tendem a não ser. É fácil pensar que as crianças não devem morrer de doenças que podemos prevenir e, a partir daí, é fácil pensar que o filho de todo homem merece esse direito. A partir daí, é fácil argumentar que devemos nos unir e aplicar nossa engenhosidade para alcançar esse resultado. Poucas pessoas discordam que as pessoas que atacam ou prejudicam outras desnecessariamente devem ser punidas e, a partir daí, não é difícil pensar que a punição deve ser consistente e sistemática. Da mesma forma, a ideia de que as pessoas devem ter autonomia e responsabilidade por suas próprias vidas e escolhas é semelhante. Essas intuições simples, quando levadas a suas conclusões lógicas, acabam levando ao Estado de Direito, à democracia e aos valores do Iluminismo. Se não for necessariamente inevitável, pelo menos como uma tendência estatística, é para onde a humanidade já está se dirigindo. A IA simplesmente oferece uma oportunidade de nos levar até lá mais rapidamente, tornando a lógica mais nítida e o destino mais claro.
No entanto, continua sendo uma coisa de beleza transcendente. Temos a oportunidade de contribuir de uma pequena forma para sua realização.
Agradecemos a Kevin Esvelt, Parag Mallick, Stuart Ritchie, Matt Yglesias, Erik Brynjolfsson, Jim McClave, Allan Dafoe e a muitas pessoas da Anthropic pela revisão das versões preliminares deste artigo.
Obrigado ao ganhador do Prêmio Nobel de Química de 2024 por nos mostrar o caminho.
Nota de rodapé do #
01.https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace
02. Espero que a reação de algumas pessoas seja "isso é muito sem graça". Acho que essas pessoas precisam, na linguagem do Twitter, "tocar a grama". Porém, o mais importante é que a suavidade é boa do ponto de vista social. Acho que há um limite para a quantidade de mudanças que as pessoas conseguem suportar de uma só vez, e o ritmo que estou descrevendo provavelmente está próximo do limite do que a sociedade pode absorver sem uma agitação extrema.
03. Acho que AGI é um termo impreciso que acumula muita bagagem de ficção científica
e propaganda. Prefiro "IA potente" ou "ciência e engenharia especializadas", que alcançam o que quero dizer sem o exagero.
04 Neste artigo, uso o termo "inteligência" para me referir a uma capacidade genérica de solução de problemas que pode ser aplicada em diferentes domínios. Isso inclui habilidades como raciocínio, aprendizado, planejamento e criatividade. Embora eu use "inteligência" como uma abreviação ao longo deste artigo, reconheço que a natureza da inteligência é um tópico complexo e controverso na ciência cognitiva e na pesquisa de IA. Alguns pesquisadores argumentam que a inteligência não é um conceito único e unificado, mas sim um conjunto de habilidades cognitivas independentes. Outros acreditam que há um fator geral de inteligência (o fator g) subjacente às várias habilidades cognitivas. Esse é um debate para outra ocasião.
05. Essa é aproximadamente a velocidade dos sistemas de IA atuais - por exemplo, eles podem ler uma página de texto em alguns segundos e talvez escrever uma página de texto em 20 segundos, o que é 10 a 100 vezes mais rápido do que um ser humano pode fazer essas coisas. Com o passar do tempo, modelos maiores tendem a tornar esse processo mais lento, mas chips mais potentes tendem a torná-lo mais rápido; até o momento, os dois efeitos foram praticamente anulados.
06. Essa pode parecer uma posição de homem de palha, mas pensadores cuidadosos como Tyler Cowen e Matt Yglesias levantaram essa questão como um problema sério (embora eu não ache que eles a defendam totalmente) e não acho que seja uma loucura.
07. O trabalho econômico mais próximo que conheço que aborda essa questão é o trabalho sobre "tecnologias de uso geral" e "investimentos intangíveis", que complementam as tecnologias de uso geral.
08. esse aprendizado pode incluir o aprendizado ad hoc, no contexto, ou o treinamento tradicional; ambos seriam limitados pelo mundo físico.
09. Em sistemas caóticos, pequenos erros se acumulam exponencialmente com o tempo, portanto, embora um grande aumento na capacidade de computação resulte em apenas um pequeno aumento na capacidade de previsão, os erros de medição podem, na verdade, reduzir ainda mais essa capacidade.
10. o outro fator é, obviamente, que a própria IA poderosa pode ser usada para criar uma IA ainda mais poderosa. minha hipótese é que isso pode acontecer (na verdade, provavelmente acontecerá), mas seu impacto será menor do que você pensa, justamente por causa dos "retornos marginais decrescentes da inteligência" discutidos aqui. Em outras palavras, a IA continuará a ficar mais inteligente muito rapidamente, mas seu impacto será limitado por fatores não inteligentes, e a análise desses fatores é fundamental para a velocidade do progresso científico além da IA.
11 Essas conquistas são uma inspiração para mim e talvez o exemplo mais poderoso existente de IA sendo usada para transformar a biologia.
12. "O progresso científico depende de novas tecnologias, novas descobertas e novas ideias, provavelmente nessa ordem." - Sydney Brenner
13 Agradecemos a Parag Mallick por levantar essa questão.
14 Não quero encher o texto com especulações sobre quais descobertas futuras específicas a ciência habilitada por IA poderá fazer, mas aqui está um brainstorm de algumas das possibilidades: - Projetar ferramentas computacionais melhores, como AlphaFold e AlphaProteo - ou seja, um sistema de IA de uso geral que acelera nossa capacidade de criar ferramentas especializadas de biologia computacional com IA. - CRISPR mais eficiente e seletivo. - Terapias celulares mais avançadas. - Ciência dos materiais e avanços na miniaturização que levam a melhores dispositivos implantáveis. - Melhor controle das células-tronco, diferenciação e desdiferenciação celular e a consequente capacidade de regenerar ou remodelar tecidos. - Melhor controle do sistema imunológico: ativando-o seletivamente para combater o câncer e doenças infecciosas e desativando-o seletivamente para combater doenças autoimunes.
15 É claro que a IA também pode ajudar a fazer escolhas mais inteligentes sobre quais experimentos devem ser executados: melhorar o design dos experimentos, aprender mais com a primeira rodada de experimentos para que a segunda rodada possa restringir as principais perguntas e assim por diante.
16 Agradecemos a Matthew Yglesias por levantar essa questão.
17. As doenças que evoluem rapidamente, como as cepas resistentes a múltiplos medicamentos, que essencialmente usam os hospitais como laboratórios evolutivos para melhorar continuamente sua resistência ao tratamento, podem ser particularmente difíceis de lidar e podem ser o tipo de coisa que nos impede de chegar ao 100%.
18 Observe que pode ser difícil saber se dobramos a longevidade humana em 5 a 10 anos. Embora possamos ter alcançado esse objetivo, talvez não o saibamos dentro do período de tempo do estudo.
19 É isso que eu gostaria de dizer, não obstante as diferenças biológicas óbvias no tratamento de doenças e na desaceleração do processo de envelhecimento em si, mas sim, observando as tendências estatísticas a uma distância maior: "Mesmo que os detalhes sejam diferentes, acho que as ciências humanas provavelmente continuarão essa tendência; afinal, tendências suaves em coisas complexas são inevitavelmente formadas por componentes muito heterogêneos".
20 Disseram-me, por exemplo, que um aumento no crescimento da produtividade de 11 TP3T ou mesmo 0,51 TP3T por ano teria um efeito transformador nas projeções associadas a esses programas. Se as ideias consideradas neste documento fossem concretizadas, o crescimento da produtividade poderia ser muito maior do que isso.
21 A mídia gosta de retratar psicopatas de alto status, mas o psicopata comum pode ser uma pessoa com poucas perspectivas financeiras e pouco controle de impulsos que acaba passando muito tempo na prisão.
22 Acho que isso é um pouco análogo ao fato de que muitos dos resultados que aprendemos com a interpretabilidade continuarão a ser relevantes mesmo que alguns dos detalhes arquitetônicos de nossas redes neurais artificiais atuais, como o mecanismo de atenção, sejam alterados ou substituídos.
23 Suspeito que isso se assemelhe um pouco a um sistema caótico clássico - atormentado por uma complexidade irredutível que precisa ser gerenciada de forma descentralizada. Embora, como argumentarei em uma seção posterior, intervenções mais modestas possam ser possíveis. Um contra-argumento que o economista Erik Brynjolfsson me apresentou é que as grandes empresas (por exemplo, Wal-Mart ou YouTuber) estão começando a ter conhecimento centralizado suficiente para entender os consumidores melhor do que qualquer processo descentralizado, talvez nos forçando a revisar os insights de Hayek sobre quem tem o melhor conhecimento local.
24 Agradecemos a Kevin Esvelt por levantar essa questão.
25 Por exemplo, os telefones celulares começaram como uma tecnologia para os ricos, mas logo se tornaram muito baratos, e as melhorias de ano para ano ocorreram tão rapidamente que a vantagem de comprar um telefone celular de "luxo" deixou de existir, e hoje a maioria das pessoas possui telefones celulares de qualidade semelhante.
26 Esse é o título do próximo artigo da RAND, e ele descreve em linhas gerais a estratégia que descrevo.
27 Quando as pessoas comuns pensam em instituições públicas, elas podem pensar em suas experiências com o DMV, IRS, Medicare ou funções semelhantes. Tornar essas experiências mais positivas do que são agora parece ser uma maneira poderosa de combater o cinismo excessivo.
28 De fato, em um mundo impulsionado pela IA, o escopo desses possíveis desafios e projetos será muito maior do que hoje.
29 Quebrei minha própria regra de não fazer ficção científica, mas acho difícil pelo menos mencionar isso. A verdade é que a ficção científica é uma das únicas fontes que temos para experimentos de pensamento expansivos sobre o futuro; acho que é ruim que ela esteja tão entrelaçada com uma subcultura muito restrita.
Português do Brasil 
简体中文 
English 
日本語 
Deutsch (Sie)