Máquinas de IA não são “alucinantes”. Mas seus criadores são. Artigo de Naomi Klein

Instituto Humanitas Unisinos - IHU

Os CEOs de tecnologia querem que acreditemos que a IA generativa beneficiará a humanidade. Eles estão se enganando.

O artigo é de Naomi Klein, jornalista e ativista social, em artigo publicado por The Guardian, 08-05-2023.

Eis o artigo.

Dentro dos muitos debates que giram em torno do rápido lançamento da chamada inteligência artificial, há uma escaramuça relativamente obscura focada na escolha da palavra “alucinar”.

Este é o termo que os arquitetos e impulsionadores da IA generativa escolheram para caracterizar as respostas fornecidas por chatbots que são totalmente fabricados ou totalmente errados. Como, por exemplo, quando você pede a um bot uma definição de algo que não existe e ele, de forma bastante convincente, lhe dá um , completo com notas de rodapé inventadas. “Ninguém no campo ainda resolveu os problemas de alucinação”, disse Sundar Pichai, CEO do Google e da Alphabet, a um entrevistador recentemente.

Isso é verdade – mas por que chamar os erros de “alucinações”? Por que não lixo algorítmico? Ou falhas? Bem, alucinação refere-se à misteriosa capacidade do cérebro humano de perceber fenômenos que não estão presentes, pelo menos não em termos convencionais e materialistas. Ao se apropriar de uma palavra comumente usada em psicologia, psicodélicos e várias formas de misticismo, os impulsionadores da IA, embora reconheçam a falibilidade de suas máquinas, estão simultaneamente alimentando a mitologia mais querida do setor: a de construir esses grandes modelos de linguagem e treiná-los em tudo o que nós, humanos, escrevemos, dissemos e representamos visualmente, eles estão no processo de gerar uma inteligência animada prestes a desencadear um salto evolutivo para nossa espécie. De que outra forma bots como Bing e Bard poderiam estar viajando no éter?

Alucinações distorcidas estão de fato acontecendo no mundo da IA, no entanto – mas não são os bots que as estão tendo; são os CEOs de tecnologia que os desencadearam, junto com uma falange de seus fãs, que estão nas garras de alucinações selvagens, tanto individual quanto coletivamente. Aqui estou definindo alucinação não no sentido místico ou psicodélico, estados alterados da mente que podem de fato ajudar no acesso a verdades profundas e anteriormente não percebidas. Não. Essas pessoas estão apenas viajando: vendo, ou pelo menos alegando ver, evidências que não existem, mesmo conjurando mundos inteiros que colocarão seus produtos em uso para nossa elevação e educação universais.

A IA generativa acabará com a pobreza, dizem eles. Ele vai curar todas as doenças. Vai resolver a mudança climática. Isso tornará nosso trabalho mais significativo e emocionante. Irá desencadear vidas de lazer e contemplação, ajudando-nos a recuperar a humanidade que perdemos para a mecanização do capitalismo tardio. Vai acabar com a solidão. Isso tornará nossos governos racionais e responsivos. Essas, eu temo, são as verdadeiras alucinações da IA e todos nós as ouvimos em um loop desde que o ChatGPT foi lançado no final do ano passado.

Existe um mundo em que a IA generativa, como uma poderosa ferramenta de pesquisa preditiva e executora de tarefas tediosas, poderia de fato ser organizada para beneficiar a humanidade, outras espécies e nosso lar compartilhado. Mas para que isso aconteça, essas tecnologias precisariam ser implantadas dentro de uma ordem econômica e social muito diferente da nossa, que tivesse como propósito atender às necessidades humanas e proteger os sistemas planetários que sustentam toda a vida.

E como aqueles de nós que não estão viajando bem entendem, nosso sistema atual não é nada disso. Em vez disso, é construído para maximizar a extração de riqueza e lucro – tanto dos humanos quanto do mundo natural – uma realidade que nos trouxe ao que poderíamos pensar como o estágio tecno-necro do capitalismo. Nessa realidade de poder e riqueza hiperconcentrados, a IA – longe de corresponder a todas essas alucinações utópicas – tem muito mais probabilidade de se tornar uma ferramenta temível de mais desapropriação e espoliação.

Vou investigar por que isso acontece. Mas primeiro, é útil pensar sobre o propósito que as alucinações utópicas sobre IA estão servindo. Que trabalho essas histórias benevolentes estão fazendo na cultura quando encontramos essas estranhas novas ferramentas? Aqui está uma hipótese: eles são as histórias de capa poderosas e atraentes para o que pode vir a ser o maior e mais importante roubo da história da humanidade. Porque o que estamos testemunhando são as empresas mais ricas da história (Microsoft, Apple, Google, Meta, Amazon …) apoderando-se unilateralmente da soma total do conhecimento humano que existe em formato digital, raspável e emparedando-o dentro de produtos proprietários, muitos dos quais serão mirar diretamente nos humanos cuja vida inteira de trabalho treinou as máquinas sem dar permissão ou consentimento.

Isso não deveria ser legal. No caso de material protegido por direitos autorais que agora sabemos que treinou os modelos (incluindo este jornal), vários processos foram movidos argumentando que isso era claramente ilegal. Por que, por exemplo, uma empresa com fins lucrativos deveria ser autorizada a alimentar as pinturas, desenhos e fotografias de artistas vivos em um programa como Stable Diffusion ou Dall-E 2 para que possa ser usado para gerar versões doppelganger desses mesmos artistas? trabalho, com os benefícios fluindo para todos, menos para os próprios artistas?

A pintora e ilustradora Molly Crabapple está ajudando a liderar um movimento de artistas que desafiam esse roubo. “Os geradores de arte de IA são treinados em enormes conjuntos de dados, contendo milhões e milhões de imagens protegidas por direitos autorais, colhidas sem o conhecimento de seus criadores, muito menos compensação ou consentimento. Este efetivamente o maior roubo de arte da história. Perpetrado por entidades corporativas aparentemente respeitáveis apoiadas pelo capital de risco do Vale do Silício. É assalto à luz do dia”, afirma uma nova carta aberta que ela escreveu em parceria com outros.

O truque, é claro, é que o Vale do Silício costuma chamar o roubo de “interrupção” – e muitas vezes sai impune. Conhecemos este movimento: atacar em território sem lei; afirme que as regras antigas não se aplicam à sua nova tecnologia; grite que a regulamentação só ajudará a China – tudo isso enquanto você obtém seus fatos solidamente no terreno. No momento em que todos superamos a novidade desses novos brinquedos e começamos a fazer um balanço dos destroços sociais, políticos e econômicos, a tecnologia já é tão onipresente que os tribunais e os formuladores de políticas levantam as mãos.

É hora de questionar essas alucinações utópicas sobre a IA e olhar para as realidades que estão sendo construídas. Devemos avaliar cuidadosamente como essas tecnologias estão sendo implementadas e como elas podem afetar a sociedade, a economia e os direitos individuais. Precisamos garantir que o desenvolvimento da IA seja guiado por princípios éticos e responsáveis, com uma consideração cuidadosa das consequências a longo prazo.

Além disso, devemos estar atentos ao poder concentrado nas mãos de algumas empresas e buscar mecanismos regulatórios adequados para proteger os direitos dos artistas, a privacidade dos indivíduos e o bem-estar da sociedade como um todo.

Não devemos permitir que essas alucinações nos distraiam da necessidade de um debate sério e informado sobre o futuro da IA e seu impacto em nosso mundo. É hora de questionar as narrativas dominantes e buscar soluções que coloquem os interesses humanos e a sustentabilidade planetária no centro.

A IA tem potencial para trazer benefícios significativos, mas precisamos garantir que seja usada de maneira responsável, transparente e justa. Somente assim poderemos moldar um futuro onde a IA seja verdadeiramente capacitadora e benéfica para toda a humanidade.

Vimos isso com o livro do Google e a digitalização de arte. Com a colonização espacial de Musk. Com o ataque do Uber à indústria de táxis. Com o ataque do Airbnb ao mercado de aluguel. Com a promiscuidade do Facebook com nossos dados. Não peça permissão, gostam de dizer os disruptores, peça perdão. (E lubrifique os pedidos com generosas contribuições de campanha.)

Em The Age of Surveillance Capitalism, Shoshana Zuboff detalha meticulosamente como os mapas do Street View do Google ultrapassaram as normas de privacidade ao enviar seus carros com câmeras para fotografar nossas vias públicas e o exterior de nossas casas. No momento em que os processos defendendo os direitos de privacidade começaram, o Street View já era tão onipresente em nossos dispositivos (e tão legal e tão conveniente …) que poucos tribunais fora da Alemanha estavam dispostos a intervir.

Agora, a mesma coisa que aconteceu com o exterior de nossas casas está acontecendo com nossas palavras, nossas imagens, nossas músicas, toda a nossa vida digital. Todos estão sendo apreendidos e usados para treinar as máquinas para simular o pensamento e a criatividade. Essas empresas devem saber que estão envolvidas em roubo ou, pelo menos, que podem ser feitas fortes evidências de que estão. Eles estão apenas esperando que o velho manual funcione mais uma vez – que a escala do roubo já é tão grande e se desenrola com tanta velocidade que os tribunais e os formuladores de políticas vão mais uma vez levantar as mãos diante da suposta inevitabilidade de tudo isso.

É também por isso que suas alucinações sobre todas as coisas maravilhosas que a IA fará pela humanidade são tão importantes. Porque essas reivindicações grandiosas disfarçam esse roubo em massa como um presente – ao mesmo tempo em que ajudam a racionalizar os perigos inegáveis da IA.

Até agora, a maioria de nós já ouviu falar sobre a pesquisa que pediu a pesquisadores e desenvolvedores de IA para estimar a probabilidade de que sistemas avançados de IA causem “extinção humana ou desempoderamento igualmente permanente e severo da espécie humana”. Surpreendentemente, a resposta média foi que havia 10% de chance.

Como alguém racionaliza ir trabalhar e empurrar ferramentas que carregam tais riscos existenciais? Muitas vezes, a razão dada é que esses sistemas também carregam enormes vantagens potenciais – exceto que essas vantagens são, em sua maior parte, alucinatórias. Vamos nos aprofundar em alguns dos mais selvagens.

Alucinação n. 1: IA resolverá a crise climática

Quase invariavelmente, no topo das listas de vantagens da IA está a afirmação de que esses sistemas resolverão de alguma forma a crise climática. Ouvimos isso de todos, do Fórum Econômico Mundial ao Conselho de Relações Exteriores e ao Boston Consulting Group, que explica que a IA “pode ser usada para apoiar todas as partes interessadas a adotar uma abordagem mais informada e orientada por dados para combater as emissões de carbono e construir uma sociedade mais verde. Também pode ser empregado para reponderar os esforços climáticos globais para as regiões de maior risco”. O ex-CEO do Google, Eric Schmidt, resumiu o caso quando disse ao Atlântico que valeu a pena correr os riscos da IA, porque “Se você pensar sobre os maiores problemas do mundo, eles são todos muito difíceis – mudança climática, organizações humanas e assim por diante. E assim, eu sempre quero que as pessoas sejam mais inteligentes.”

De acordo com essa lógica, o fracasso em “resolver” grandes problemas como a mudança climática se deve a um déficit de inteligência. Não importa que pessoas inteligentes, cheias de PhDs e prêmios Nobel, digam aos nossos governos há décadas o que precisa acontecer para sair dessa bagunça: reduzir nossas emissões, deixar o carbono no solo, combater o consumo excessivo dos ricos e o subconsumo dos pobres porque nenhuma fonte de energia é isenta de custos ecológicos.

A razão pela qual esse conselho muito inteligente foi ignorado não é devido a um problema de compreensão de leitura ou porque, de alguma forma, precisamos de máquinas para pensar por nós. É porque fazer o que a crise climática exige de nós encalharia trilhões de dólares em ativos de combustíveis fósseis, ao mesmo tempo em que desafiaria o modelo de crescimento baseado no consumo no coração de nossas economias interconectadas. A crise climática não é, de fato, um mistério ou um enigma que ainda não resolvemos devido a conjuntos de dados insuficientemente robustos. Sabemos o que seria necessário, mas não é uma solução rápida – é uma mudança de paradigma. Esperar que as máquinas cuspam uma resposta mais palatável e/ou rentável não é uma cura para esta crise, é mais um sintoma dela.

Elimine as alucinações e parece muito mais provável que a IA seja trazida ao mercado de maneira a aprofundar ativamente a crise climática. Primeiro, os servidores gigantes que possibilitam ensaios instantâneos e obras de arte de chatbots são uma fonte enorme e crescente de emissões de carbono. Em segundo lugar, à medida que empresas como a Coca-Cola começam a fazer grandes investimentos para usar IA generativa para vender mais produtos, fica muito claro que essa nova tecnologia será usada da mesma forma que a última geração de ferramentas digitais: o que começa com as promessas de espalhar a liberdade e a democracia acaba se transformando em microanúncios direcionados a nós, para que compremos mais coisas inúteis que vomitam carbono.

E há um terceiro fator, este um pouco mais difícil de definir. Quanto mais nossos canais de mídia são inundados com deep fakes e clones de vários tipos, mais temos a sensação de estar afundando em areia movediça informacional. Geoffrey Hinton, muitas vezes referido como “o padrinho da IA” porque a rede neural que ele desenvolveu há mais de uma década forma os blocos de construção dos grandes modelos de linguagem de hoje, entende isso muito bem. Ele acabou de deixar um cargo sênior no Google para poder falar livremente sobre os riscos da tecnologia que ajudou a criar, incluindo, como disse ao New York Times, o risco de que as pessoas “não sejam mais capazes de saber o que é verdade”.

Isso é altamente relevante para a afirmação de que a IA ajudará a combater a crise climática. Porque quando desconfiamos de tudo o que lemos e vemos em nosso ambiente de mídia cada vez mais misterioso, ficamos ainda menos preparados para resolver problemas coletivos urgentes. A crise de confiança é anterior ao ChatGPT, é claro, mas não há dúvida de que uma proliferação de deep fakes será acompanhada por um aumento exponencial de culturas de conspiração já prósperas. Então, que diferença fará se a IA apresentar avanços tecnológicos e científicos? Se o tecido da realidade compartilhada estiver se desfazendo em nossas mãos, nos encontraremos incapazes de responder com qualquer coerência.

A IA não é uma panaceia para os problemas do mundo. Não podemos depositar todas as nossas esperanças nela para resolver as questões complexas que enfrentamos. Precisamos abordar os desafios climáticos e sociais de forma holística, considerando fatores políticos, econômicos e éticos. Além disso, devemos ter cuidado com a forma como a IA é implementada e regulamentada, garantindo que não se torne uma ferramenta de aprofundamento das desigualdades e da degradação ambiental.

A tecnologia não é neutra. Ela reflete os valores e interesses daqueles que a desenvolvem e a utilizam. Portanto, é crucial que questionemos as narrativas e as promessas em torno da IA, avaliando cuidadosamente seus impactos potenciais e buscando soluções que promovam o bem-estar humano e a sustentabilidade ambiental.

Em vez de nos perdermos em alucinações utópicas sobre o poder da IA, devemos nos envolver em debates informados e críticos sobre seu papel em nossa sociedade. Somente assim poderemos aproveitar verdadeiramente o potencial da IA para criar um futuro melhor e mais sustentável.

Alucinação n. 2: a IA proporcionará uma governança sábia

Essa alucinação evoca um futuro próximo em que políticos e burocratas, aproveitando a vasta inteligência agregada de sistemas de IA, são capazes de “ver padrões de necessidade e desenvolver programas baseados em evidências” que trazem maiores benefícios para seus constituintes. Essa afirmação vem de um artigo publicado pela fundação do Boston Consulting Group, mas está sendo repetida em muitos grupos de reflexão e consultorias de gestão. E é revelador que essas empresas em particular – as firmas contratadas por governos e outras corporações para identificar economias de custos, muitas vezes demitindo um grande número de trabalhadores – foram as mais rápidas a aderir ao movimento da IA. A PwC (anteriormente PricewaterhouseCoopers) acaba de anunciar um investimento de US$ 1 bilhão, e a Bain & Company, assim como a Deloitte, estão entusiasmadas com o uso dessas ferramentas para tornar seus clientes mais “eficientes”.

Tal como acontece com as reivindicações climáticas, é necessário perguntar: a razão pela qual os políticos impõem políticas cruéis e ineficazes que sofrem é a falta de evidências? Uma incapacidade de “ver padrões”, como sugere o artigo do BCG? Eles não entendem os custos humanos de privar a saúde pública em meio a pandemias, ou de deixar de investir em moradias fora do mercado quando as barracas lotam nossos parques urbanos, ou de aprovar novas infraestruturas de combustíveis fósseis enquanto as temperaturas sobem? Eles precisam de IA para torná-los “mais inteligentes”, para usar o termo de Schmidt – ou são inteligentes o suficiente para saber quem vai subscrever sua próxima campanha ou, se se desviarem, financiar seus rivais?

Seria muito bom se a IA realmente pudesse cortar o vínculo entre o dinheiro corporativo e a formulação de políticas imprudentes – mas esse vínculo tem tudo a ver com o motivo pelo qual empresas como Google e Microsoft foram autorizadas a liberar seus chatbots ao público, apesar da avalanche de avisos e riscos conhecidos. Schmidt e outros estão em uma campanha de lobby de anos, dizendo a ambas as partes em Washington que, se não forem livres para avançar com IA generativa, sem o peso de uma regulamentação séria, as potências ocidentais serão deixadas para trás pela China. No ano passado, as principais empresas de tecnologia gastaram um recorde de US$ 70 milhões para fazer lobby em Washington – mais do que o setor de petróleo e gás – e essa quantia, observa a Bloomberg News, está além dos milhões gastos “em sua ampla gama de grupos comerciais, não lucros e thinktanks”.

E, no entanto, apesar de seu conhecimento íntimo de como o dinheiro molda a política em nossas capitais nacionais, quando você ouve Sam Altman, o CEO da OpenAI – criador do ChatGPT – falar sobre os melhores cenários para seus produtos, tudo isso parece ser esquecido. Em vez disso, ele parece estar alucinando um mundo totalmente diferente do nosso, no qual os políticos e a indústria tomam decisões com base nos melhores dados e nunca colocariam inúmeras vidas em risco por lucro e vantagem geopolítica. O que nos leva a outra alucinação.

Essa outra alucinação é a ideia de que a IA trará automaticamente igualdade e justiça para nossa sociedade. Alguns argumentam que a automação e a inteligência artificial substituirão empregos precários e criarão uma sociedade onde todos podem desfrutar de tempo livre e oportunidades iguais. No entanto, essa visão ignora as realidades econômicas e políticas em que vivemos.

A implementação da IA não ocorre em um vácuo. Ela é moldada por sistemas e estruturas existentes, que são permeados por desigualdades profundas. A concentração de poder e riqueza nas mãos de poucos não será automaticamente revertida pela adoção da IA. Pelo contrário, sem uma ação intencional para mitigar as desigualdades, a IA pode agravar ainda mais a divisão entre os privilegiados e os desfavorecidos.

Além disso, a própria tecnologia não é neutra. Ela é projetada e desenvolvida por seres humanos com suas próprias perspectivas e preconceitos. A IA pode reproduzir e amplificar esses preconceitos, resultando em sistemas discriminatórios e injustos. Vemos isso acontecer em vários domínios, desde sistemas de reconhecimento facial que têm viés racial até algoritmos de recrutamento que perpetuam desigualdades de gênero.

Portanto, é importante abordar essas alucinações sobre a IA com um senso de responsabilidade crítica. Devemos questionar as narrativas utópicas e buscar um entendimento mais profundo das implicações sociais, econômicas e éticas da IA. É necessário um diálogo amplo e inclusivo, envolvendo diferentes setores da sociedade, para garantir que a IA seja implementada de forma justa e equitativa, levando em consideração os impactos sobre os direitos humanos, a privacidade, o trabalho e a dignidade das pessoas.

Em vez de nos deixarmos levar por alucinações que prometem um futuro perfeito, devemos adotar uma abordagem crítica e comprometida para moldar o papel da IA em nossa sociedade. Somente dessa forma poderemos aproveitar verdadeiramente o potencial da IA para o benefício de todos, em vez de perpetuar desigualdades e injustiças existentes.

Alucinação nº 3: os gigantes da tecnologia podem ser confiáveis para não quebrar o mundo

Questionado se está preocupado com a frenética corrida do ouro que o ChatGPT já desencadeou, Altman disse que sim, mas acrescentou com entusiasmo: “Espero que tudo dê certo”. Sobre seus colegas CEOs de tecnologia – os que competem para apressar seus chatbots rivais – ele disse: “Acho que os melhores anjos vão vencer”.

Melhores anjos? No Google? Tenho certeza de que a empresa demitiu a maioria deles porque estava publicando artigos críticos sobre IA ou chamando a empresa de racismo e assédio sexual no local de trabalho. Mais “anjos melhores” desistiram em alarme, mais recentemente Hinton. Isso porque, ao contrário das alucinações das pessoas que mais lucram com a IA, o Google não toma decisões com base no que é melhor para o mundo – ele toma decisões com base no que é melhor para os acionistas da Alphabet, que não querem perder a última bolha, não quando a Microsoft, a Meta e a Apple já estão todas dentro.

Essa observação aponta para uma questão crítica. As empresas de tecnologia, incluindo gigantes como o Google, estão impulsionando o desenvolvimento acelerado da IA não apenas por motivos altruístas, mas principalmente em busca de lucro e domínio no mercado. A competição acirrada entre essas empresas para lançar os chatbots mais avançados reflete a busca por vantagem competitiva e participação de mercado, em vez de um genuíno compromisso com o bem-estar humano ou o avanço da sociedade.

Essa mentalidade de lucro e dominação pode levar a decisões questionáveis e preocupantes no desenvolvimento e uso da IA. A ética e as considerações de longo prazo podem ser negligenciadas em prol do sucesso comercial imediato. E, como mencionado anteriormente, as implicações da IA vão além do mero desenvolvimento tecnológico – elas têm impacto nas relações de trabalho, nas desigualdades sociais, nas liberdades individuais e na própria noção de verdade e confiança.

Portanto, é importante estarmos cientes dos interesses em jogo e não nos deixarmos levar pelas alucinações promovidas por aqueles que estão no topo da corrida tecnológica. Devemos ser críticos e exigir transparência, responsabilidade e regulamentação adequada para garantir que a IA seja desenvolvida e utilizada de uma forma que beneficie a sociedade como um todo, em vez de apenas alimentar a busca implacável pelo lucro e poder.

Alucinação nº 4 : A IA nos libertará do trabalho penoso

Se as alucinações benevolentes do Vale do Silício parecem plausíveis para muitos, há uma razão simples para isso. A IA generativa está atualmente no que poderíamos chamar de estágio de falso socialismo. Isso faz parte de um já conhecido manual do Vale do Silício. Primeiro, crie um produto atrativo (um motor de busca, uma ferramenta de mapeamento, uma rede social, uma plataforma de vídeo, uma partilha de viagens…); distribuí-lo de graça ou quase de graça por alguns anos, sem nenhum modelo de negócios viável discernível (“Brinque com os bots”, eles nos dizem, “veja que coisas divertidas você pode criar!”); faça muitas afirmações grandiosas sobre como você só está fazendo isso porque deseja criar uma “praça da cidade” ou um “comum de informação” ou “conectar as pessoas”, enquanto espalha liberdade e democracia (e não ser “mal”). Então observe como as pessoas ficam viciadas usando essas ferramentas gratuitas e seus concorrentes declaram falência. Uma vez que o campo esteja limpo, introduza os anúncios direcionados, a vigilância constante, os contratos policiais e militares, as vendas de dados de caixa preta e as crescentes taxas de assinatura.

Muitas vidas e setores foram dizimados por iterações anteriores deste manual, de motoristas de táxi a mercados de aluguel e jornais locais. Com a revolução da IA, esses tipos de perdas podem parecer erros de arredondamento, com professores, programadores, artistas visuais, jornalistas, tradutores, músicos, cuidadores e tantos outros enfrentando a perspectiva de ter suas rendas substituídas por códigos problemáticos.

Não se preocupe, os entusiastas da IA alucinam – será maravilhoso. Quem gosta de trabalhar afinal? Dizem-nos que a IA generativa não será o fim do emprego, apenas um “trabalho chato” – com os chatbots fazendo todas as tarefas repetitivas e destruidoras de almas prestativamente e os humanos meramente supervisionando-os. Altman, por sua vez, vê um futuro onde o trabalho “pode ser um conceito mais amplo, não algo que você tenha que fazer para poder comer, mas algo que você faça como uma expressão criativa e uma forma de encontrar realização e felicidade”.

Essa é uma visão empolgante de uma vida mais bonita e tranquila, compartilhada por muitos esquerdistas (incluindo o genro de Karl Marx, Paul Lafargue, que escreveu um manifesto intitulado O direito de ser preguiçoso). Mas nós, esquerdistas, também sabemos que, se ganhar dinheiro não é mais o imperativo da vida, deve haver outras maneiras de atender às nossas necessidades de abrigo e sustento. Um mundo sem empregos de baixa qualidade significa que o aluguel deve ser gratuito, a assistência médica gratuita e todas as pessoas devem ter direitos econômicos inalienáveis. E então, de repente, não estamos mais falando sobre IA – estamos falando sobre socialismo.

Porque não vivemos no mundo racional e humanista inspirado em Star Trek que Altman parece estar alucinando. Vivemos sob o capitalismo e, sob esse sistema, os efeitos de inundar o mercado com tecnologias que podem executar de forma plausível as tarefas econômicas de inúmeros trabalhadores não é que essas pessoas estejam repentinamente livres para se tornarem filósofos e artistas. Isso significa que essas pessoas se encontrarão olhando para o abismo – com artistas de verdade entre os primeiros a cair.

Essa é a mensagem da carta aberta de Crabapple, que convida “artistas, editores, jornalistas, editores e líderes sindicais de jornalismo a se comprometerem com os valores humanos contra o uso de imagens generativas de IA” e “comprometam-se a apoiar a arte editorial feita por pessoas, não fazendas de servidores”. A carta, agora assinada por centenas de artistas, jornalistas e outros, afirma que todos, exceto os artistas mais elitistas, encontram seu trabalho “em risco de extinção”. E de acordo com Hinton, o “padrinho da IA”, não há razão para acreditar que a ameaça não se espalhe. Os chatbots “tiram o trabalho árduo”, mas “podem tirar mais do que isso”.

Crabapple e seus coautores escrevem: “A arte generativa da IA é vampírica, banqueteando-se com as gerações passadas de obras de arte, mesmo sugando a força vital de artistas vivos”. Mas há formas de resistir: podemos nos recusar a usar esses produtos e nos organizar para exigir que nossos empregadores e governos também os rejeitem. uma carta de proeminentes estudiosos da ética da IA, incluindo Timnit Gebru, que foi demitido pelo Google em 2020 por desafiar a discriminação no local de trabalho, apresenta algumas das ferramentas regulatórias que os governos podem introduzir imediatamente – incluindo total transparência sobre quais conjuntos de dados estão sendo usados para treinar os modelos. Os autores escrevem: “Não só deve estar sempre claro quando estamos encontrando mídia sintética, mas as organizações que constroem esses sistemas também devem ser obrigadas a documentar e divulgar os dados de treinamento e as arquiteturas de modelo… Devemos construir máquinas que funcionem para nós, em vez de 'adaptar' a sociedade para ser legível e gravável por máquina.”

Embora as empresas de tecnologia gostem que acreditemos que já é tarde demais para reverter esse produto de imitação em massa e substituto humano, existem precedentes legais e regulatórios altamente relevantes que podem ser aplicados. Por exemplo, a Comissão Federal de Comércio dos EUA (FTC) forçou a Cambridge Analytica, bem como a Everalbum, proprietária de um aplicativo de fotos, a destruir algoritmos inteiros que foram treinados com dados apropriados ilegitimamente e fotos raspadas. Em seus primeiros dias, o governo Biden fez muitas afirmações ousadas sobre a regulamentação das grandes tecnologias, incluindo reprimir o roubo de dados pessoais para construir algoritmos proprietários. Com uma eleição presidencial se aproximando rapidamente, agora seria um bom momento para cumprir essas promessas – e evitar o próximo conjunto de demissões em massa antes que elas aconteçam.

Porque treinamos as máquinas. Todos nós. Mas nunca demos o nosso consentimento. Eles se alimentaram da engenhosidade, inspiração e revelações coletivas da humanidade (juntamente com nossos traços mais venais). Esses modelos são máquinas de enclausuramento e apropriação, devorando e privatizando nossas vidas individuais, bem como nossas heranças intelectuais e artísticas coletivas. E o objetivo deles nunca foi resolver a mudança climática ou tornar nossos governos mais responsáveis ou nossa vida diária mais tranquila. Sempre foi para lucrar com a miséria em massa, que, sob o capitalismo, é a consequência flagrante e lógica da substituição de funções humanas por bots.

Tudo isso é excessivamente dramático? Uma resistência abafada e reflexiva à inovação excitante? Por que esperar o pior? Altman nos tranquiliza: “Ninguém quer destruir o mundo”. Talvez não. Mas, como o clima cada vez pior e as crises de extinção nos mostram todos os dias, muitas pessoas e instituições poderosas parecem estar bem sabendo que estão ajudando a destruir a estabilidade dos sistemas de suporte à vida do mundo, desde que possam continuar fazendo registrar lucros que eles acreditam que irão protegê-los e suas famílias dos piores efeitos. Altman, como muitas criaturas do Vale do Silício, é um preparador: em 2016, ele se gabava: “Tenho armas, ouro, iodeto de potássio, antibióticos, baterias, água, máscaras de gás da Força de Defesa de Israel e um grande pedaço de terra em Big Sur para onde posso voar.”

Tenho certeza de que esses fatos dizem muito mais sobre o que Altman realmente acredita sobre o futuro que ele está ajudando a desencadear do que quaisquer alucinações floreadas que ele está escolhendo compartilhar em entrevistas à imprensa.