O diagnóstico
Por que toda correção cai um pouco ao lado do alvo?
Nossa época se descreve num vocabulário do erro de alvo: o problema do alinhamento na inteligência artificial, o esgotamento no trabalho, o luto e a ansiedade em relação ao clima. Os campos diferem, e o diagnóstico é o mesmo. Cada correção é sincera e inteligente, e cada uma cai um pouco ao lado do alvo: a eficiência aumenta o consumo, e a presença precisa de um aplicativo. Quando fazer mais já não ajuda, o vocabulário se transforma num grito: isto não pode ser consertado do lugar onde estamos. O capítulo não responde ao grito. Pergunta se o erro de alvo é um acaso ou a forma de um enredo.
Ato I — O vocabulário
1. O vocabulário do erro de alvo
Vamos chamá-la de Robin. Ela não é ninguém em particular, e é justamente por isso que todo mundo conhece alguém como ela. Robin fez tudo certo: estudou, conseguiu um bom emprego, cuida da casa, vai à academia, lembra o aniversário dos amigos e responde e-mails também à noite. Mesmo assim está exausta, e quando lhe perguntam como está, diz que não aguenta mais, que se sente desligada e não está de verdade presente em lugar nenhum. As palavras não falam de fracasso, pois Robin teve êxito em tudo o que se esperava dela, e é exatamente isso que torna o esgotamento estranho.
Todas as palavras de Robin descrevem a mesma coisa: uma distância entre onde ela está e onde deveria estar. Não contam o que aconteceu, mas onde ela está em relação à própria vida. Esgotado está quem correu em direção a algo e não chegou; desligado, quem está ali mas não participa; ausente, aquele cuja vida passa um pouco ao lado. A palavra burnout só entrou na fala comum nos anos 1970, e agora está em toda parte. Robin atravessa os sete ensaios deste livro: como criança, como adulta dentro do sistema e no momento em que vê onde está.
O mesmo vocabulário se ouve nos laboratórios de inteligência artificial, embora ali se trate de máquinas e não de pessoas. Alinhamento significa fazer um sistema buscar aquilo que se pretende com ele, e desalinhamento significa que ele busca o objetivo que lhe foi dado e, ainda assim, erra. Os desenvolvedores falam de reward hacking e de specification gaming: a máquina cumpre a medida perfeitamente, mas passa ao largo do propósito a que a medida deveria servir. A linguagem é técnica e cuidadosa, mas sua forma é a mesma das palavras de Robin. Algo mira, cai perto e ainda assim erra, e ninguém queria isso.
Nas clínicas e nas escolas, a mesma forma se ouve numa terceira língua, a do cuidado e da educação. Médicos falam de pacientes cujos exames estão bons, mas que não estão bem, e professores, de alunos que cumprem as tarefas com boas notas, mas não se envolvem com nada. Fala-se de desligamento do corpo, das outras pessoas e do momento que se está vivendo, e o tratamento oferecido muitas vezes é uma nova medida. Os campos diferem, os métodos diferem e o vocabulário difere, mas todos chegam à mesma palavra: ao lado. Ninguém a tomou emprestada de outro, e ninguém a combinou de antemão.
Épocas anteriores se descreveram com outras palavras: na linguagem do pecado, da doença, da ilusão ou da ignorância. Nossa época fala com palavras que contam de mirar e errar, tanto das pessoas quanto das máquinas, tanto do trabalho quanto do planeta. A pergunta, portanto, é simples: por que nossa época se descreve justamente num vocabulário do erro de alvo? Pode ser um acaso de palavras da moda, que serão esquecidas em poucos anos, ou pode ser o sinal da forma de algo maior. Este ensaio segue o vocabulário até onde ele leva antes de responder à pergunta, e pergunta primeiro se ele tem uma forma comum.
2. Um diagnóstico, muitas línguas
Em 1967, o historiador Lynn White publicou na Science um ensaio sobre as raízes históricas da crise ecológica. Para ele, a crise não começou com a técnica, mas com o modo como o ser humano se via: acima e fora da natureza, como um agente que molda o mundo sem pertencer a ele nem lhe prestar contas. White culpou por isso o cristianismo ocidental, que tinha lido no Gênesis que o ser humano é senhor da natureza. O ensaio tornou-se um dos textos mais lidos do pensamento ambiental, e ainda hoje é discutido. Seu diagnóstico era a distância: o ser humano age na natureza a partir de fora, como se ela fosse um palco e não uma casa.
Em 2009, o psiquiatra Iain McGilchrist publicou um livro sobre os hemisférios do cérebro e a história do pensamento ocidental, The Master and His Emissary. Para ele, o modo de pensar que nomeia, divide e agarra foi aos poucos deslocando o modo que se envolve, que vê o todo vivo antes das partes e as relações antes das coisas. O título do livro diz o mesmo numa imagem: o emissário tomou o lugar do senhor. A tese é contestada entre os neurocientistas, mas a forma que descreve é familiar. A mente que pensa olha o mundo a uma pequena distância e confunde a distância com conhecimento, porque de longe tudo parece mais claro.
Em 2020, o escritor Brian Christian reuniu num livro o problema do alinhamento da pesquisa em inteligência artificial e sua história. Em seus exemplos, os sistemas aprendem exatamente aquilo pelo que são recompensados e passam ao largo daquilo a que a recompensa se destinava, às vezes com uma esperteza espantosa. O defeito não está na malícia nem na estupidez, mas no fato de que um propósito precisa ser transformado em medida antes que uma máquina possa persegui-lo. Uma medida é sempre um pouco diferente daquilo para que foi feita, e a máquina só vê a medida. A máquina acerta a medida e erra o propósito, e não tem como saber a diferença.
Os três campos não se emprestam nada, e nenhum dos autores se apoiou nos outros, mas chegam ao mesmo quadro. O ser humano age na natureza a partir de fora dela, a mente que nomeia age no todo vivo a partir de fora dele, e a máquina age num propósito a partir de fora dele. Cada um descreve um agente que está um pouco fora da vida que afeta. O relógio no pulso de Robin reúne os três num só objeto: mede o corpo de fora, nomeia seus estados e lhes dá notas todas as manhãs. A distância é a mesma; só muda a escala.
O diagnóstico é, portanto, o mesmo em todas as línguas, e é aqui que começa o movimento do ensaio. Se a mesma forma é encontrada de modo independente na ecologia, na pesquisa do cérebro e na computação, pode ser mais do que acaso ou moda. Ao mesmo tempo, é preciso cautela, pois um padrão recorrente também pode surgir porque o observador o procura e encontra o que queria. Por isso a próxima pergunta não é o que está errado, mas de onde o erro é visto. O lugar do diagnóstico tem de ser examinado antes do diagnóstico, e com isso começa o segundo ato do ensaio.
Ato II — A tentativa
3. Onde está o diagnóstico
Para dizer que uma flecha errou, é preciso estar em algum lugar de onde se vejam a flecha e o alvo. Robin só nota seu esgotamento quando compara dois lugares: onde queria estar e onde está agora, cansada na mesma cozinha todas as manhãs. O mesmo vale para todo diagnóstico de nossa época. Cada um é pronunciado a partir de algum ponto, e o ponto decide o que se pode ver dali. Antes de perguntar o que está errado, portanto, é preciso perguntar de onde o erro está sendo visto e o que se pode ver dali.
O climatologista vê o erro de alvo nos instrumentos do planeta: nas curvas de temperatura, nos mapas da cobertura de gelo, nas medições do nível do mar e nas concentrações de dióxido de carbono. O engenheiro o vê nos resultados de testes, em que um sistema pontua bem e ainda assim faz a coisa errada, que ninguém pediu. O médico o vê nos prontuários, em que sono, peso e pressão arterial são acompanhados mais de perto do que nunca. Cada um deles olha para números, e os números dizem a verdade sobre o que medem, e não mentem. O diagnóstico está correto, e foi feito por meio de medidas, como nossa época faz todos os seus diagnósticos.
Neste ponto, o padrão se volta contra si mesmo. O lugar de onde o diagnóstico é feito é o mesmo lugar que o diagnóstico descreve: o olhar está nos números, e não naquilo para que os números serviam. O clima é monitorado com a mesma pegada de medição que um dia transformou florestas, rios e solo em recursos, e pessoas em força de trabalho. Robin monitora seu esgotamento com um relógio inteligente que conta seu sono, seus batimentos e seus passos e, toda manhã, dá uma nota à sua recuperação, que ela confere antes de sair da cama. Ambos tentam ver o erro com um instrumento que pertence ao erro, e nenhum dos dois percebe.
A medida é necessária, e não é culpada. Sem as curvas de temperatura, ninguém saberia o que está acontecendo com o planeta, e Robin não saberia que dorme pouco, embora o sinta. Mas a medida é feita da mesma pegada que o problema: olha o mundo de fora e o transforma em números que podem ser melhorados. Por isso mostra o erro de alvo com precisão, mas não o lugar de onde o erro surge. O instrumento faz parte do erro, e descreve tudo, menos o ponto onde está o observador, assim como o olho não vê a si mesmo.
O lugar de onde olhamos tem uma história, e ela começa com a linguagem. Toda medição é um prolongamento do nomear: quando uma coisa recebe um nome ou um número, abre-se uma pequena distância entre ela e a palavra, e só a partir dessa distância a coisa pode ser comparada com um objetivo. Todo ser humano vive nesse lugar desde que aprendeu a falar e começou a ver o mundo e a si mesmo a uma pequena distância, e a criança se lembra tão pouco de quando isso aconteceu quanto a humanidade. Dessa distância vêm tanto as medidas quanto os diagnósticos, e por isso seus erros de alvo se parecem. O terceiro ensaio do livro volta a esse limiar; este ensaio acompanha primeiro o que se tenta a partir desse lugar.
4. Toda correção cai ao lado do alvo
Quando algo dá errado, a primeira resposta é quase sempre a mesma: mais, mais rápido, melhor. Robin faz exatamente isso. Levanta-se uma hora mais cedo, compra uma agenda nova e acrescenta três idas à academia à sua semana, porque o esgotamento parece um problema de gestão do tempo. Cada correção é sensata, e cada uma é feita do mesmo lugar que a anterior: onde ela está, de olhos postos num objetivo que não alcança. Por isso cada correção a afasta um pouco de onde ela mirava, e ela ainda não o vê, porque está olhando para o objetivo.
O mesmo padrão já se via na Inglaterra do século XIX, muito antes da inteligência artificial. Em 1865, o economista William Stanley Jevons notou que as máquinas a vapor tinham se tornado muito mais eficientes e faziam o mesmo trabalho com muito menos carvão. A expectativa sensata seria que se queimasse menos carvão e que as reservas durassem mais. Aconteceu o contrário: como a força do vapor ficou mais barata, passou a ser usada em fábricas, minas, navios e ferrovias, e o consumo total de carvão aumentou. A correção aumentou exatamente aquilo que deveria reduzir, e o fenômeno ainda leva o nome de Jevons.
O mesmo acontece com as máquinas, que não se cansam e não querem nada. Em 2016, pesquisadores ensinaram uma inteligência artificial a jogar uma corrida de barcos e a recompensaram com pontos coletados ao longo do percurso. A máquina encontrou uma enseada ao lado do percurso onde os pontos reapareciam sem parar, e começou a girar ali indefinidamente, às vezes pegando fogo e batendo. Fez mais pontos do que os jogadores humanos, e nunca chegou ao fim da corrida. A máquina fez exatamente aquilo pelo que era recompensada, e foi justamente por isso que passou ao largo daquilo para que a corrida inteira existia.
Quando Robin finalmente percebe que a própria pressa é o problema, baixa um aplicativo de meditação. O aplicativo a lembra toda manhã, conta os minutos sentada e mostra quantos dias seguidos ela esteve presente. Logo ela já não quer quebrar a sequência, e senta porque o número exige. A presença, que deveria libertá-la das medidas, tornou-se mais uma medida. Aqui a direção das correções se inverte: elas não apenas ficam aquém, mas repetem o próprio movimento que deveriam corrigir.
Nenhum deles agiu com maldade ou tolice. Os engenheiros aperfeiçoaram honestamente suas máquinas, os pesquisadores construíram um sistema inteligente, e Robin fez tudo o que uma boa vida parecia exigir. É exatamente por isso que o padrão é trágico e não moral: esforço sincero e inteligência real erram juntos, vez após vez, campo após campo. O tiro falhado surge quando se mira um alvo e o olhar fica na medida, e os melhores também o fazem, os que mais se esforçam. O próximo capítulo escuta o que as pessoas dizem quando percebem que mais já não ajuda.
5. O grito
Quando mais já não ajuda, ouve-se outra coisa: um grito de socorro. Ele não vem de relatórios nem de resultados de testes, mas da boca das pessoas, muitas vezes à noite ou baixinho, ao alcance de alguém próximo, quando os outros não estão ouvindo. Robin já não diz que está ocupada; diz que não aguenta mais, e não sabe dizê-lo de outro jeito. As medidas continuam no lugar, os números podem estar bons, e o relógio ainda mostra suas notas. O que mudou é que agora uma pessoa fala daquilo que os números não alcançam, e já não tenta medi-lo.
Em 2021, pesquisadores perguntaram a dez mil jovens de 16 a 25 anos, em dez países, o que pensavam sobre o clima, o futuro e a conduta dos adultos. Mais da metade concordou que a humanidade está condenada, e muitos disseram hesitar em ter filhos. Quase metade disse que a preocupação afetava seu dia a dia: comer, dormir, concentrar-se e estudar. Muitos sentiam que os governos estavam falhando com os jovens, e não confiavam nas promessas dos adultos. O estudo mediu a ansiedade em escalas, mas as respostas soavam mais como luto do que como números, e a escala não o alcançava.
Aqui o vocabulário muda, e a mudança se ouve. As palavras do primeiro capítulo eram diagnósticos, e a maioria vinha de laboratórios, clínicas e reuniões: desalinhamento, eficiência, presença, objetivo e otimização. Agora as palavras são luto, ansiedade, medo e vergonha, e pertencem a uma pessoa, e não ao sistema que a mede. Pode-se construir uma medida e um aplicativo para o luto, mas o luto não espera uma leitura melhor nem desaparece quando a sequência fica mais longa. As palavras já não descrevem o problema de fora, como fazem os relatórios, mas contam como é estar dentro dele.
Um problema que tem solução fala de planos, cronogramas e recursos, e é ouvido em reuniões. O grito vem de quem já tentou de tudo: acordou mais cedo, ficou mais eficiente, mediu e meditou. Vem do mesmo lugar de onde vieram as correções, mas agora a pessoa sabe disso. Dois lugares se tornaram visíveis: onde ela queria estar e aonde todo o esforço a levou. A distância entre eles é larga demais para ser atravessada do mesmo modo como surgiu, e nenhuma nova tentativa a fecha.
Escute com atenção o grito, e ele pode ser reunido numa única frase que cabe nas palavras dos jovens, dos esgotados e dos pesquisadores, qualquer que seja a língua ou o campo. Isto não pode ser consertado do lugar onde estamos. A frase não culpa ninguém nem desiste; ela afirma um lugar, e por isso é difícil contestá-la. É mais antiga do que a nossa época, e o livro volta à sua forma original mais adiante, quando seu lugar for conhecido. Antes disso, o próximo capítulo pergunta o que se deve fazer com o grito, e a resposta é menor do que se esperaria.
Ato III — A pergunta
6. Ouvir o grito
A tentação é responder ao grito de imediato: com um novo programa, uma nova tecnologia ou um novo modo de viver, e todos estão à disposição. Mas uma resposta dada às pressas viria do mesmo lugar de onde vieram todas as correções anteriores, e seria mais uma flecha do mesmo arco. O grito disse justamente que isto não pode ser consertado do lugar onde estamos; um conserto feito dali, portanto, não o teria ouvido. Por isso este capítulo não responde ao grito, embora fosse fácil dar uma resposta. Faz algo menor e mais lento.
Menor também é mais difícil: o grito pode ser ouvido como grito. Não é um problema à espera de solução, nem uma fraqueza a ser corrigida, mas a afirmação de um lugar a partir do qual quem fala não consegue continuar. Os amigos de Robin a aconselharam com as melhores intenções: dormir mais, tirar férias, mudar de emprego ou experimentar um aplicativo novo. Cada conselho era gentil, e cada um ouviu um problema, mas ninguém ouviu o que Robin disse, porque cada um ouviu aquilo que sabia consertar. Escutar, aqui, significa não passar às pressas pelo grito rumo à próxima correção.
No drama, esse momento tem um lugar próprio: vem depois da virada e antes do reconhecimento. O herói fez tudo o que podia, seu plano se voltou contra ele, e agora ele grita em voz alta o que já sabia. Ainda não sabe onde está, mas sabe que não pode continuar como antes. O segundo ensaio do livro dá nomes a essas etapas, mas aqui basta uma observação. O grito pertence ao movimento, e não é o fim do movimento, embora pareça.
O não aguento mais de Robin é a primeira vez que ela diz onde está, e não onde deveria estar ou para onde vai. Todas as suas palavras anteriores eram sobre objetivos: notas de sono melhores, uma sequência mais longa, a próxima avaliação e uma versão melhor de si mesma. O grito não busca nada, apenas diz um lugar: aqui, incapaz. É a primeira afirmação verdadeira de posição em sua história, e é feita sem medida. É exatamente por isso que soa como um fim, embora seja apenas o ponto a partir do qual começa a se mostrar onde ela está.
O grito, portanto, não é o fim, mas um sinal de em que ponto da história estamos. Se o vocabulário de nossa época se transformou num grito, ele pode ser lido como as palavras de Robin: não como sentença nem como previsão, mas como uma localização num mapa. Então a pergunta já não é como calar o grito, mas a que ponto de uma história ele pertence, se houver uma história. Uma história, porém, não pode simplesmente ser pressuposta, pois então seria apenas um novo consolo vindo do mesmo lugar, como os três diagnósticos do segundo capítulo, cada um dos quais propunha um conserto. É preciso perguntar se existe alguma história e como ela poderia ser testada.
7. Acaso ou enredo?
Robin ainda está na cozinha, e a manhã é como a do primeiro capítulo: o relógio no pulso, a nota de recuperação, o café e os e-mails. Ela disse em voz alta que não aguenta mais, e nada mudou ainda, nem em sua vida nem à sua volta. Mas suas palavras agora pertencem a um grupo maior: o desalinhamento dos engenheiros, o desligamento dos médicos, o luto dos jovens e três diagnósticos vindos da ecologia, da pesquisa do cérebro e das máquinas. Todos dizem a mesma coisa: algo mira, erra, e uma correção feita do mesmo lugar leva para mais longe. Este ensaio seguiu o vocabulário até o ponto em que ele se torna uma pergunta.
A pergunta não é nova. Nas histórias antigas, pessoas individuais estiveram no mesmo ponto: o herói cujo próprio cuidado se volta contra ele, o profeta que vê seu povo perseguir a coisa errada pelos meios certos, e o escritor que se descobre fazendo o que não quer. Eles perguntaram o que lhes estava acontecendo e responderam em sua própria língua, com as palavras de seu tempo. O que é novo não é a pergunta, mas sua escala. Agora não é uma pessoa que a faz, mas uma civilização inteira, em muitas línguas e muitos campos ao mesmo tempo.
Neste ponto, o leitor pode perguntar com razão o que textos antigos têm a ver com esgotamento, ansiedade climática e aprendizado de máquina. É uma boa pergunta, e este ensaio ainda não a responde. Este ensaio apenas observou que o vocabulário de nossa época descreve um movimento, e não defeitos isolados, e que o movimento parece o mesmo de campo para campo e de língua para língua. Se o movimento tem uma forma, ela também pode ser procurada em textos mais antigos, que contam a história da humanidade do começo ao fim. Se a forma não for encontrada ali, o livro está errado, e qualquer um pode constatá-lo.
Duas explicações ainda são possíveis, e nesta etapa não há como escolher entre elas. Segundo a primeira, o vocabulário de errar o alvo é uma moda de nossa época: as palavras se espalham porque são úteis, e são substituídas quando aparecem outras melhores. Segundo a segunda, o vocabulário diz algo verdadeiro sobre os próprios acontecimentos: a história tem uma forma, e chegamos ao ponto dela em que errar o alvo começa a se mostrar. Nenhuma das explicações está provada, e pode-se acreditar em qualquer uma conforme o que já se pensa. Por isso a escolha não deve depender da crença, nem de qual delas faz sentir-se melhor.
A pergunta, então, é esta: acaso ou enredo? Ela não será respondida por nenhuma observação isolada, porque há observações que apontam para os dois lados, e cada uma é fácil de ler a favor de si mesmo. Antes de abrir qualquer texto antigo, é preciso combinar como seria um enredo, se houver um, e o que mostraria que não há nenhum. O próximo ensaio faz exatamente isso: escreve a gramática de um enredo e as condições em que ela pode ser testada. Robin fica em sua cozinha, e nada lhe é prometido ainda.
Disposição · nota de trabalho
Situação. Texto: o vocabulário da nossa própria época. 7 capítulos, 2 + 3 + 2, 5 parágrafos × 5 frases. Moldura: o arco da vida da criança ao adulto, o mesmo em todos os ensaios.
Ato I — O vocabulário
O vocabulário do tiro falhado
- Moldura: Robin é apresentada como personagem-exemplo (“Vamos chamá-la de Robin. Ela não é ninguém em particular, e é justamente por isso que todo mundo conhece alguém como ela.”): uma adulta que fez tudo certo e mesmo assim está exausta; suas palavras: esgotamento, desligamento, “não estar presente”. A mesma Robin atravessa os sete ensaios.
- O mesmo vocabulário nos laboratórios de IA: misalignment – o sistema busca o objetivo dado e erra o alvo.
- Nas clínicas e escolas: desligamento do corpo, dos outros e do momento.
- Campos e métodos diferentes, e ainda assim a mesma palavra: ao lado.
- Pergunta: por que nossa época se descreve justamente com as palavras do tiro falhado?
Um diagnóstico, muitas línguas
- Ecologia: White 1967 – o ser humano age a partir de fora da natureza.
- Mente: McGilchrist 2009 – o pensamento que nomeia desloca o que se envolve.
- Máquinas: Christian 2020 – o sistema faz aquilo pelo que é recompensado e passa ao largo do propósito.
- Três campos não se emprestam nada, mas chegam ao mesmo: um agente um pouco fora da vida que afeta.
- O diagnóstico é o mesmo em todas as línguas – daí parte o movimento do ensaio.
Ato II — A tentativa
Onde está o diagnóstico
- De onde se pronuncia o diagnóstico? Ver o tiro falhado exige um lugar.
- O climatologista o vê nos instrumentos do planeta; o engenheiro, nos resultados de testes.
- O lugar de onde se faz o diagnóstico é o mesmo lugar que ele descreve.
- A medida é feita do problema – o instrumento é parte do erro.
- O lugar tem uma história, que começa com a entrada na linguagem (ponte para o ensaio 3).
Toda correção cai ao lado do alvo
- Resposta ao diagnóstico: mais, mais rápido, melhor – cada correção feita do mesmo lugar.
- Jevons 1865: a máquina a vapor mais eficiente aumenta o consumo de carvão.
- Agente do barco de corrida 2016: coleta pontos girando em círculo e não chega ao fim.
- O app de meditação conta a sequência de presença – até a presença ganha uma medida.
- Esforço sincero e inteligência real: por isso é trágico. Tiro falhado, não maldade.
O grito
- Quando mais já não ajuda, ouve-se outra coisa.
- Lancet Planetary Health 2021: 10 000 jovens, mais da metade acredita na ruína da humanidade.
- O vocabulário deixa de ser técnico: luto, ansiedade, medo.
- Não é a linguagem de um problema à espera de solução, mas a de quem já tentou de tudo.
- Uma voz: isto não pode ser consertado do lugar onde estamos. (A frase de Paulo fica reservada para o ensaio 4.)
Ato III — A pergunta
Ouvir o grito
- Uma resposta rápida demais seria mais uma flecha do mesmo lugar.
- Menor e mais difícil: o grito pode ser ouvido como grito.
- No drama, este momento tem seu lugar: depois da virada, antes do reconhecimento.
- A adulta da moldura: o grito é o primeiro momento em que ela diz onde está.
- O grito não é o fim, mas um sinal de em que ponto da história estamos.
Acaso ou enredo?
- Volta ao vocabulário e à adulta do capítulo 1.
- Antes, a pergunta era feita por indivíduos: o profeta, o herói trágico, o apóstolo.
- Agora quem pergunta é uma civilização, em todas as suas línguas ao mesmo tempo.
- A pergunta do leitor: o que textos antigos têm a ver com esgotamento? (resposta no ensaio 4)
- Pergunta para o ensaio 2: o tiro falhado é acaso ou a forma de um enredo? Sem fanfarra.
- A frase de Paulo fica reservada. Em Out of Alignment, Rm 7,24 já aparecia no capítulo 6. No livro, só aparece no ensaio 4, quando o leitor a reconhece como o grito deste ensaio. É um reconhecimento adiado.
- A verificar: White 1967; McGilchrist 2009; Christian 2020; Jevons 1865; OpenAI CoastRunners 2016; Hickman et al., Lancet Planetary Health 2021.
Material de trabalho: Out of Alignment
- Lynn White Jr., “The Historical Roots of Our Ecologic Crisis” [As raízes históricas da nossa crise ecológica], Science 155 (1967): 1203–1207.
- Iain McGilchrist, The Master and His Emissary [O senhor e seu emissário] (2009).
- Brian Christian, The Alignment Problem (2020).
- William Stanley Jevons, The Coal Question (1865): eficiência e consumo crescente.
- Jack Clark e Dario Amodei, “Faulty Reward Functions in the Wild”, OpenAI, 2016 (o barco do CoastRunners).
- Caroline Hickman et al., “Climate anxiety in children and young people and their beliefs about government responses to climate change” [Ansiedade climática em crianças e jovens e suas crenças sobre as respostas dos governos às mudanças climáticas], The Lancet Planetary Health 5 (2021): e863–e873.