Revista Orion

May 16, 2023

VIVEMOS EM UMA ERA de tecnologia indistinguível da magia, especialmente no reino das máquinas pensantes. Entre outras tarefas, você pode pedir ao ChatGPT, um dos modelos de linguagem generativa de aprendizagem profunda mais avançados do mundo, para defender uma posição como "A ficção científica é apenas outro tipo de conto de fadas", para explicar o algoritmo quicksort usando um episódio de My Little Pony, para ensiná-lo a se tornar um mestre de xadrez usando uma série de haicais, a redigir versos no estilo da Bíblia King James sobre vários tópicos e, é claro, se você deseja ser chato, a escrever redações para a faculdade.

Agora existem empresas dedicadas a ajudar os consultores a obter a aparência de experiência, publicando "fantasmas de máquinas" - livros de instruções escritos - em grande parte alimentando a saída da inteligência artificial (IA) de volta a si mesma. (Esse padrão recursivo é necessário porque a IA atualmente sofre de uma incapacidade de lembrar o contexto de uma longa conversa, como o lendário peixinho dourado com uma memória de três segundos.)

Diante do advento de cérebros mecânicos tão poderosos, previsões terríveis proliferam como os ratos de Hamelin. Cassandras choram sobre a obsolescência do trabalho de colarinho branco, conjuram visões de robôs substituindo escritores, alertam que os computadores vão nos enganar com sua produtividade infinita e sem esforço. Vamos desaparecer como Merlin afundando no espinheiro enquanto Nimue lê seu livro de feitiços. O Autor está prestes a morrer.

Não estou qualificado nem interessado em discutir o futuro do trabalho de escritório, a contribuição da IA ​​para o PIB ou a desvalorização da "Arte", seja como for definida. Como contador de histórias, estou interessado em apenas uma coisa: que tipo de histórias as máquinas podem contar?

Os escritores há muito se relacionam com a tecnologia usando a lógica dos contos de fadas. Mas, por pura relação com o momento presente, nada se compara à máquina de escrever livros encontrada em As Viagens de Gulliver, de Jonathan Swift.

Gulliver encontra esta maravilhosa máquina de desenho em Lagado, a capital de Balnibarbi. O motor consiste em uma grande estrutura quadrada com uma fina grade de dados que pode ser girada livremente por manivelas presas às laterais. Os dados são cobertos com as palavras da língua balnibarbiana, distribuídas sem nenhuma ordem aparente. O digno professor que inventou esta máquina dá a Gulliver uma demonstração:

Os alunos, ao seu comando, seguraram cada um deles uma alça de ferro, da qual havia quarenta fixadas nas bordas da moldura; e dando-lhes uma virada repentina, toda a disposição das palavras foi totalmente alterada. Ele então ordenou que trinta e seis dos rapazes lessem as várias linhas suavemente, conforme elas apareciam na moldura; e onde encontraram três ou quatro palavras juntas que poderiam fazer parte de uma frase, ditaram aos quatro meninos restantes, que eram escribas.

Por este meio, de acordo com o professor (e antecipando Jasper.ai por séculos), "a pessoa mais ignorante, a um custo razoável e com um pouco de trabalho corporal, pode escrever livros de filosofia, poesia, política, leis, matemática, e teologia, sem a menor ajuda de gênio ou estudo."

Quando você se aprofunda, há pouco para separar o mecanismo de escrita do Lagado das redes neurais de aprendizado profundo de hoje. Claro, a matemática é um pouco mais avançada e o equipamento mais sofisticado, mas fundamentalmente, modelos de IA como GPT-3 ou LaMDA são apenas engrenagens e manivelas girando um monte de dados - dados cuidadosamente ponderados, com certeza - para gerar som dadaísta e fúria que passa a se sentir como sentido através do nosso pensamento mágico.

Os pesos desses dados modernos são ajustados, em um processo matemático rigoroso e autocorretivo baseado em muitos (e eu quero dizer muitos) exemplos de origem humana ("treinamento"), para produzir resultados que copiam o mais próximo possível o tipo de texto que o modelo pretende produzir (artigos de jornais locais, histórias de romance, postagens em fóruns da Internet, etc., ou apenas "humanos escrevendo na Internet"). Assim como ninguém "acredita" que um autopen que copia fielmente a assinatura de Bob Dylan é realmente Bob Dylan, ninguém pensa que as redes neurais postando no 4chan ou enviando spam à Amazon com panfletos de não-ficção ou compondo versos bíblicos inspirados em Monty Python "sabem" ou "entendem" o que eles estão fazendo. O aprendizado de máquina de big data é essencialmente uma implementação literal do jogo de imitação de Turing: copiar os sinais de inteligência sem nenhum interesse no significado.