Manifesto: Artistas vs. Inteligência Artificial

Há aproximadamente um ano venho combatendo como posso a ascensão indiscriminada e acelerada das plataformas de Inteligência Artificial Generativa. O próprio nome é enganoso: não são inteligentes, muito menos artificiais. Um número imensurável de seres humanos trabalha em tempo real nos bastidores para garantir a “qualidade” do que é vomitado por essas aplicações. Um exemplo notável são os moderadores quenianos, responsáveis por filtrar conteúdos e impedir que resultados nocivos, enviesados ou dotados de estereótipos preconceituosos sejam gerados. Eles recebem menos de 2 dólares por hora para fazer o trabalho sujo que o ChatGPT é incapaz de aprender sozinho e acabam com danos irreparáveis à sua saúde mental em decorrência da exposição continuada ao que há de mais tóxico internet afora.

Não são inteligentes porque são incapazes de abstrair, aprender, conceber ou criar. Quando falamos em aplicações generativas de imagens, como Dall-E e Midjourney, por mais que sejam capazes de enganar a alguns com imagens reluzentes, a máscara cai quando olhamos para as mãos das figuras: algumas com seis, oito, três dedos em cada membro. Graças à ação manual (vejam vocês!) dos seres humanos que operam e moderam os resultados, algumas das plataformas se tornaram mais hábeis em resultar mãos menos aterradoras e um pouco mais convincentes. Mesmo assim, longe do que se pretende ser perfeito.

Isso porque os sistemas são obscuros até para os seus criadores. Não se sabe ao certo como funcionam ou quais são as ligações que eles fazem. Open AI, por exemplo, é extremamente obscura sobre a forma como desenvolve suas plataformas, sem revelar documentação alguma a respeito de como os modelos são treinados ou como de fato funcionam. É sabido, contudo, que se trata de um jogo estatístico. Os bancos de dados que nutrem os servidores dessas aberrações tem um volume tão alto que a máquina é capaz de gerar resultados muito convincentes – mesmo que não saiba o que cuspiu (pesquise o “argumento do Quarto Chinês” e entenderá o que quero dizer). A aplicação coleta fragmentos e, de acordo com o que “aprendeu”, recombina os pedaços numa escala obscena e monta o que apresenta como resultado após o prompt. Por isso, por diversas vezes as aplicações alucinam e cospem resultados falsos, errôneos ou prejudiciais. Lembre-se disso antes de pedir conselhos médicos ou matrimoniais ao ChatGPT.

Tudo não passa de um eufemismo para plágio high-tech: cópia em larguíssima escala de textos e imagens alheios escavados da internet. Stability AI e Midjourney são declaradamente plagiadores, inclusive tendo sofrido processos judiciais em decorrência disso. E, mesmo que OpenAI e Dall-E não tenham sido processados (ainda), provavelmente cometem os mesmos delitos. Esse é o primeiro e primordial ponto do qual não há como fugir: não há uso ético dessas aplicações, uma vez que a) exploram trabalhadores em condições subumanas e b) literalmente roubam a propriedade intelectual alheia para alimentar seus bancos. Qualquer um que tenha feito ou regularmente faça uso de plataformas de I.A., mesmo que seja apenas para satisfazer sua curiosidade, precisa saber que contribui ativamente para um ecossistema que deixa muito pior a vida de muitas pessoas. Não há mais como alegar inocência.

Além disso, as plataformas geradoras de imagens sintéticas afetam diretamente os artistas. Em primeiro lugar porque, como disse, elas se valem de imagens roubadas para alimentar seus bancos de dados. Imagens geradas por IA são derivativas por definição. Sem meu consentimento, minhas artes foram usadas por aplicações que lucram milhões para as empresas que as controlam. E se você divulgou qualquer trabalho seu ou colocou portfólio na internet ou nas redes sociais, é provável que tenham usado suas artes também.

Segundo, porque roubam oportunidades de trabalho de artistas. A um custo próximo de zero, podem gerar artificialmente ilustrações em estilos diversos, ou que emulem o traço de uma artista consagrada e que cobraria (de maneira justa!) um alto preço para produzir a mesma imagem que a máquina plagiadora cuspiu de graça para quem redigiu o prompt. De fato, I.A. reduz custos de empresas que teriam que recorrer a artistas humanos. E estes artistas, em muitos casos, ficam sem trabalho.

“Aceitar a nova tecnologia” não é uma opção. O artista que acreditar que seu futuro reside em dominar estas plataformas (o que, cá pra nós, não é nem um pouco difícil. Aprende-se a escrever esses comandos em menos de uma tarde) está fadado a um entre dois destinos possíveis: primeiro, será o único sobrevivente em um departamento ou empresa, condenado a fazer o trabalho de 10 ou mais profissionais utilizando plataformas de I.A. Segundo, será substituído assim que a aplicação começar a redigir os próprios prompts de comando (o que já acontece em algumas versões pagas do ChatGPT). Por isso, não se iluda: “prompt master” ou “redator de prompt” não será profissão ou futuro para nenhum artista ou trabalhador.

Em resumo, plataformas de I.A. generativa (jamais chamarei tais monstruosidades de “ferramentas”) não foram desenvolvidas para te ajudar, mas para te substituir. E se você as usa com frequência, está ajudando a treiná-las e acelerando a sua própria derrota. Nas palavras de Steven Zapata, um formidável ilustrador, “estou perplexo com meus amigos e colegas que estão olhando para a boca do leão e dizendo que, afinal, pode ser hospitaleiro lá dentro, porque vislumbraram alguns pedaços de comida presos em seus dentes”.

Os argumentos deles e as nossas respostas

1 – I.A.s apenas coletam referências, da mesma forma que os artistas fazem.

Ou, também, “não há mais nada original no mundo, tudo é cópia de alguma outra coisa”. A falsa simetria chega a doer. Esse argumento falacioso normalmente vem de não-artistas, mas também já o vi entre os nossos. Os dados que alimentam os bancos por trás de Stable Diffusion, Imagen e Midjourney ultrapassam a casa dos bilhões de imagens acompanhadas de textos descritivos. Artes minhas, suas, de artistas consagrados, iniciantes, vivos e mortos compõem esses bancos, mas não só. Imagens privadas, de álbuns de fotos fechados, registros médicos e muitas mais que eu nem saberia dizer. E que, se eu quisesse usar, jamais seria permitido – elas sequer estariam disponíveis. E sob o pretexto de fazer essa busca com objetivos acadêmicos de pesquisa e sem fins lucrativos, essas companhias treinam suas aplicações em bases gratuitas e depois as revendem para o usuário final, que só tem acesso à versão “premium” do Midjourney ou mais avançada do ChatGPT pagando. Se soa hipócrita, é porque é.

Além disso, mesmo que artistas humanos coletem, combinem e transformem referências, o fazem numa escala infinitamente menor e sem a precisão mecânica que uma máquina possui. Mesmo o artista mais habilidoso é incapaz de reproduzir exatamente o que vê. Novamente citando Zapata, “você não poderia traçar um (desenho do) Michelangelo bem o suficiente para criar confusão sobre qual é o original e, se pudesse, é quase certo que você já seja um desenhista talentoso por mérito próprio, pelo suor de sua testa”.

2 – Se as artes estão na internet, todos podem usar.

Isso é simplesmente uma falta de conhecimento sobre como funcionam direitos autorais. Na maioria dos países, a legislação protege a autoria e o direito de uso e exploração de qualquer produção artística ao seu criador desde o momento da concepção. A legislação brasileira inclusive.

3 – Eu posso usar I.A. para fazer as partes mais operacionais do meu trabalho, ou para gerar a imagem inicial sobre a qual eu trabalho em seguida.

Pode, mas não convém. A legislação mais recente nos EUA determina que imagens e textos provenientes de aplicações de I.A. generativa são de domínio público (o que provavelmente será ecoado na UE e no Canadá). Isso significa que não podem ser licenciadas ou exploradas comercialmente, a menos que sejam editadas e modificadas depois por um artista humano. Mas aí, vejam só: você só tem direito de autoria pela parte da imagem que você editou, não pela imagem toda. A parte que veio da I.A. continua sendo de domínio público. Você pode até dizer que será muito difícil fiscalizar isso, mas grandes estúdios de jogos e de animação já se anteciparam e passaram a demandar que seus artistas, seja internos ou freelancers, não utilizem I.A. em nenhuma etapa do seu processo criativo para não correr nenhum risco judicial depois.

4 – É só mais uma tecnologia, uma ferramenta. Com a câmera fotográfica foi a mesma coisa! Adapte-se e aceite!

É, de fato, uma nova tecnologia que muda drasticamente a nossa relação com a arte e o consumo. Mas, como disse há pouco, está longe de ser uma ferramenta para artistas: é um substituto, algo criado para eliminar a necessidade de artistas humanos. A fotografia não substituiu os pintores: os libertou para explorar outras formas de arte que não se restringissem a representar o “real”. Você ficaria surpreso em saber quantos pintores fazem uso da fotografia e quantos fotógrafos usam colagens, desenhos e outras formas de interferência. Sem falar que, mesmo que pareça algo mais “fácil” do que desenhar ou pintar, o fotógrafo não se resume a um apertar de botão. Ele ainda precisa estar lá, in loco, para capturar seu objeto. E ele decide todas as etapas entre sua visão e o clique: qual será a iluminação? que objetos devem ser mostrados em segundo plano? o que deve ter foco, o que não deve? qual deve ser a orientação? a abertura de campo? o ângulo? Só parece fácil para quem não sabe o que diz. E, por ser de fato uma ferramenta, nunca foi ameaça ao trabalho de outros artistas, mas sim uma valiosa adição ao nosso arsenal de recursos.

5 – Com I.A. qualquer um pode ser artista, não só você, seu elitista! Pare de desmerecer os artistas de I.A.!

Não há forma gentil de dizer isso, mas essa é a verdade: não existe artista de I.A. Isso porque artista é quem produz, não quem delega. E, após redigir o prompt, o sujeito tem zero poder de interferência no resultado. Ele pode reescrever e editar o prompt, mas não os elementos individuais que constituem a imagem final. Em outras palavras, o “prompt master” está, nessa relação, muito mais para o cliente do que para o artista. Ele pode até saber o que quer, mas o máximo que faz é encomendar. O nível de sofisticação do prompt, em si, é indiferente e o resultado que ele vomita foi gerado pela máquina, não por quem escreve o comando. Portanto, não peça aos outros (ou às máquinas) para fazer por você e depois queira colocar seu nome no trabalho final. Se você quiser ser artista, faça como todos nós: sente a bunda na cadeira e faça arte.

Pelo que lutamos

Regulação: consentimento, compensação justa e crédito

Lutamos por uma regulação que seja capaz de proteger não apenas artistas, mas a todas as pessoas. Sistemas de Inteligência Artificial generativa podem ser imensamente nocivos por seu potencial de plágio, calúnia e fraude (alô, deep fakes), além de fornecer, de uma maneira extremamente convincente, informações falsas ou enganosas que as pessoas levam a sério. Para começar, as corporações devem ser responsabilizadas pelo conteúdo gerado por essas máquinas: elas dão informações médicas erradas? geram danos legais para alguém (difamação ou outro tipo)? se um jovem decidir tirar a própria vida após ser aconselhado pelo ChatGPT, quem deve ser responsabilizado?

Lutamos, também, por uma regulação que determine que os bancos de dados sejam alimentados de maneira ética, utilizando exclusivamente imagens cedidas de maneira voluntária por artistas que se ofereçam. Além disso, uma vez que tais plataformas são muitas vezes usadas visando lucro, é primordial que os artistas tenham compensação financeira, além de crédito quando suas imagens compõem algum resultado sintético gerado por I.A. E não, o Firefly da Adobe não é santo. Já há casos documentados de artistas vivos sendo usados como prompt no Firefly sem autorização, do tipo “faça uma ilustração no estilo do artista Dan Aroeira”. Como o Firefly teria aprendido o estilo desse artista sem usar suas imagens em seu banco? Embora tenha sido vendido como um sistema mais justo, que usa apenas imagens de bancos livres ou cedidos, parece bem claro que o buraco é muito mais embaixo. Em resumo: queremos que nossas artes sejam usadas apenas mediante nosso consentimento; que, quando o dermos, sejamos devidamente compensados e creditados. “Ah, mas é impossível, seriam muitos artistas, bla bla blá”. Aí, irmão, o problema não é meu. Te vira.

Por fim, lutamos por um sistema de “rótulo”. Todos nós, usuários de internet do mundo, temos o direito de saber se estamos olhando para uma imagem produzida por um ser humano ou por um sistema sintético de I.A. O mesmo vale para recursos de texto como o ChatGPT.  Algum tipo de identificação se faz necessária para evitar que sejamos pegos de surpresa ou enganados por imagens e conteúdos que podem ser mais (ou menos, bem menos) do que aparentam: fraudes, plágio ou pior.

Pode ser até que a vitória nos seja negada por completo. Mas, se não lutarmos, já aceitamos a derrota. Oferecemos nossas cabeças e nossos corações de mão beijada para essas plataformas? Isso eu me recuso a fazer.

Acredite ou não, lutar é infinitamente mais importante do que vencer. Junte-se a mim nas trincheiras, junte-se aos humanos. Aos artistas.

E o futuro?

I.A.s chegaram para ficar, não há como fugir disso. É provável que um futuro em que a maioria das imagens disponíveis seja fruto de sistemas de I.A. geradores de mídia sintética esteja próximo. Por mais contraditório que pareça, o melhor a se fazer nesse cenário é continuar desenhando e produzindo, evoluindo nossas habilidades e nossa sensibilidade, sem sequer tocar em uma plataforma como essas (só de pensar em usar uma dessas aberrações, sinto calafrios).

Se você é iniciante, pode ficar seduzido pelas pretensas facilidades que essas aplicações oferecem. No entanto, você irá acabar deixando de treinar o seu olhar, suas habilidades e sua sensibilidade. Seria como um corpo com pernas saudáveis usando cadeira de rodas: você acaba por atrofiar seus músculos. Da mesma forma, se usar ChatGPT para ter ideias ou Midjourney para desenvolver conceitos ou renderizar seus desenhos, você estará atrofiando sua criatividade e suas habilidades.

Se você é artista experiente, por outro lado, você não precisa usar nenhuma dessas porcarias. Nada do que essas aberrações vomitarem será comparável ao que você faz. Falo por experiência própria: meus quadrinhos nunca foram tão lidos, minhas ilustrações tão valorizadas e meus clientes tão presentes. Em um ano de popularização das I.A.s, não deveria ser o contrário? Acontece que quem leva arte a sério não abre mão de artistas humanos. E, num futuro em que a maior parte das imagens disponíveis for de inteligência artificial, a sensibilidade humana terá peso de ouro. Marque minhas palavras.

Por isso, preserve e desenvolva a sua sensibilidade artística como vem fazendo desde sempre.

E lembre-se: essas plataformas inferiores não produzem um desenho sequer. Elas só roubam, picotam e recombinam imagens pré-existentes. Portanto, camarada artista, cada dia que você pega no lápis, na caneta digital ou no pincel para desenhar, é um dia que você exerce a sua supremacia diante dessas geladas máquinas. Enquanto você fizer arte, a vitória já é sua. Já é nossa.

– Dan Aroeira

Referências

Steven Zapata – O fim da arte: um argumento contra as IAs de imagens: https://youtu.be/tjSxFAGP9Ss?si

Um site para investigar se sua arte foi usada nos bancos de dados: https://haveibeentrained.com/

Release do Stable Diffusion sem qualquer menção a “artistas”: https://stability.ai/news/stable-diffusion-announcement

Release do Imagen que explica como o conjunto de dados no qual ela é treinada não tem curadoria e contém “uma ampla variedade de conteúdo impróprio”: https://imagen.research.google/

Entrevista com David Holz, fundador do Midjourney: https://bit.ly/davidholtz

Um ótimo artigo que resume as técnicas de lavagem de dados de empresas de IA: https://bit.ly/corruptdata

Pedro Loos – O Argumento do Quarto Chinês: https://bit.ly/quartochines

Congressista da Califórnia Anna G. Eshoo escreve ao OSTP pedindo investigação sobre modelos inseguros de liberação de IA: https://bit.ly/eshoonsa

Jovem belga morre por suicídio após diálogo com ChatGPT: https://bit.ly/killergpt

Escritório de Direitos Autorais dos EUA sobre arte gerada por IA: https://bit.ly/copywriteoffice

“On the Dangers of Stochastic Parrots” (Sobre os perigos dos papagaios estocásticos) by Bender, Gebru, et al: https://bit.ly/3G7O6iC

Timnit Gebru é demitida do Google: https://nyti.ms/3M71vv0

A OpenAI pagou aos trabalhadores quenianos US$ 2 por dia para rotular conteúdo perturbador: https://bit.ly/40xX94s

Stable Diffusion é processada por artistas: https://cbsn.ws/40vkdka