Entrevista com Pierre Lévy, criador de uma linguagem artificial para melhorar a comunicação entre homem e máquina

Francês, radicado no Canadá, professor universitário aposentado, o filósofo Pierre Lévy, 67 anos, foi um dos pioneiros nos estudos da internet, da cibercultura e das tecnologias que chegaram com ela. Popularizou termos como “inteligência coletiva”. Publicou livros de referência como “As tecnologias da inteligência” e “O que é o virtual?” Desde o começo da sua obra precisou que o virtual não se opõe ao real. Nesta entrevista para o Matinal, ele fala do imenso trabalho que se deu por missão realizar, a IEML, uma linguagem capaz de melhor a comunicação entre homem e máquina. E também de inteligência artificial, redes sociais, Big Tech e Elon Musk.

Como você vê a entrada em cena da GPT, Bard e outras inteligências artificiais?

Pierre Lévy – Parafraseando Immanuel Kant, que disse que a leitura de Hume (o grande filósofo empirista do século 18) o despertou de seu sono dogmático, “grandes modelos de linguagem”, mas também IAs generativas, que produzem imagens, música ou código, despertaram os observadores de IA de seus sonos dogmáticos. De fato, muito poucas pessoas pensaram que métodos estatísticos simples (portanto, puramente empíricos) de enormes massas de dados poderiam gerar objetos simbólicos complexos sob demanda e simular o diálogo humano quase perfeitamente. No entanto, as técnicas de “aprendizagem profunda” (aprendizado de máquina por meio da simulação de redes neurais) por trás dessas IAs generativas estavam disponíveis nos laboratórios de grandes empresas da web há quase uma década e já estavam trabalhando em tradução automática, bem como em inúmeras outras aplicações específicas. O ano de 2022 marcou a passagem dessas técnicas do obscuro back-end dos aplicativos para o grande dia da interação direta com um grande público de não especialistas. Tenha em mente que esses sistemas cometem erros e não são realmente capazes de originalidade. É sempre necessário demonstrar espírito crítico, mas é um movimento irreversível que prolonga um processo de reificação formal e exteriorização das funções cognitivas iniciado em meados do século XX e que é amplificado pelo aumento do poder e pela redução dos custos materiais. É seguro dizer que a maioria dos softwares incorporará módulos de aprendizado de máquina e que a IA generativa formará uma interface cada vez mais intuitiva e contextual com o mundo digital.

Há quem fale do fim do trabalho ou mesmo do fim da humanidade com a chegada em vigor da inteligência artificial. Mais do mesmo? Sempre o medo da tecnologia?

Lévy – Pelo próprio nome, a inteligência artificial evoca naturalmente a ideia de uma inteligência autônoma da máquina, que surge diante da inteligência humana para simulá-la ou superá-la. Mas se observarmos os usos reais dos dispositivos de inteligência artificial, fica claro que, na maioria das vezes, eles aumentam, auxiliam ou acompanham as operações da inteligência humana. Já na época dos sistemas especialistas – nas décadas de 80 e 90 do século XX – observei que o conhecimento crítico dos especialistas dentro de uma organização, uma vez codificado na forma de regras que animam as bases de conhecimento, poderia ser disponibilizado aos membros que precisassem ao máximo, respondendo com precisão às situações atuais e sempre disponíveis. Mais do que inteligências artificiais supostamente autônomas, eram meios de disseminação de know-how prático, cujo principal efeito era aumentar a inteligência coletiva das comunidades de usuários.

Na atual fase de desenvolvimento da IA, o papel do especialista é desempenhado pelas multidões que produzem os dados e o papel do engenheiro cognitivo que codifica o conhecimento é desempenhado pelas redes neurais. Em vez de perguntar aos linguistas como traduzir ou a autores reconhecidos como produzir um texto, os modelos estatísticos interrogam inconscientemente as multidões de escritores anônimos na web e extraem automaticamente padrões de padrões que nenhum programador humano poderia elucidar. Condicionados por seu treinamento, os algoritmos podem então reconhecer e reproduzir os dados correspondentes às formas aprendidas. Mas porque abstraíram estruturas em vez de registrar tudo, agora são capazes de conceituar corretamente formas (de imagens, textos, música, código, etc.) que nunca encontraram e de produzir uma infinidade de novos arranjos simbólicos. É por isso que é chamada de inteligência artificial generativa. Longe de ser autônoma, essa IA amplia e amplifica a inteligência coletiva. Milhões de usuários contribuem para o refinamento dos modelos fazendo perguntas e comentando as respostas que recebem. Podemos tomar o exemplo do Midjourney (que gera imagens), cujos usuários trocam suas instruções (prompts) e aprimoram constantemente suas habilidades. Os servidores Discord da Midjourney são os mais populosos do planeta hoje, com mais de um milhão de usuários. Uma nova inteligência coletiva estigmérgica está emergindo da fusão de mídias sociais, IA e comunidades de criadores. Por trás da “máquina” devemos vislumbrar a inteligência coletiva que ela reifica e mobiliza.

Não acredito nem por um segundo no fim do trabalho. A automação está fazendo alguns empregos desaparecerem e criando novos. Não há mais ferradores de animais, mas os mecânicos os substituíram. Os carregadores de água foram substituídos por encanadores. A crescente complexidade da sociedade aumenta o número de problemas a serem resolvidos. As máquinas “inteligentes” irão, acima de tudo, aumentar a produtividade do trabalho cognitivo ao automatizar o que pode ser automatizado. Sempre haverá necessidade de pessoas inteligentes, criativas e compassivas, mas elas terão que aprender a trabalhar com novas ferramentas.

O medo da extinção é, a meu ver, um milenarismo apocalíptico irracional, recorrente na história, e que infelizmente pode afetar as melhores mentes. Os problemas reais colocados pela IA (usos criminosos, desinformação em grande escala, erros catastróficos, etc.) são sérios o suficiente para que não devamos brincar de inventar ameaças existenciais imaginárias. A IA é parte integrante do sistema técnico humano, do qual depende inteiramente. Não é uma “espécie” autônoma. O fim da humanidade transformaria imediatamente em pó o sistema técnico no qual a IA se baseia. Tenho muito mais medo de armas atômicas, manipulação genética de vírus (veja a recente pandemia de COVID) ou desequilíbrios induzidos pelo homem na biosfera do que softwares que sempre podem dar bug e máquinas desconectáveis.

Criaste “uma linguagem construída que tem a mesma capacidade expressiva de uma linguagem natural e cuja semântica é computável”. É enorme. Qual é o principal objetivo da sua criação?

Lévy – A ideia principal é ter uma linguagem escrita científica adequada ao meio digital e algorítmico contemporâneo. Em outras palavras, uma linguagem que os humanos podem entender porque tem uma gramática e um dicionário semelhantes aos das línguas naturais, mas uma linguagem que se presta ao máximo a cálculos algébricos sobre seu significado, para que os computadores possam “entender”. Coloquei “entender” entre aspas, pois obviamente não se trata de consciência ou conexão com a experiência pessoal sensível e afetiva, mas apenas cálculos semânticos.

Por causa de seus métodos estatísticos, a IA contemporânea não entende realmente o significado dos textos que lê ou escreve. Uma vez codificado ou traduzido para a linguagem que inventei, o significado poderia ser processado muito mais facilmente por máquinas. Essa linguagem também pode servir como um código de comunicação entre as máquinas. A aplicação que eu tinha em mente ao iniciar este trabalho era um sistema de coordenadas semânticas universais que permitisse que os dados fossem endereçados por conceitos ao invés de URLs, que basicamente se referem apenas a endereços físicos em servidores. Especifico que a minha linguagem (IEML = Informação, Economia, Metalinguagem), como todas as línguas, permite dizer tudo e o seu contrário e abre um espaço conceptual praticamente infinito. Nem é preciso dizer que, em suas aplicações, o código IEML seria apenas manipulado por máquinas e que o conteúdo seria sempre apresentado aos humanos – ou fornecido por eles – na forma de texto em linguagens naturais, diagramas ou ícones. Meu objetivo final é aumentar a inteligência coletiva humana fazendo com que linguagens, culturas e diferentes “ontologias” se comuniquem.

Falamos o tempo todo sobre notícias falsas e regulamentação das Big Tech. Qual é a sua opinião sobre o assunto?

Lévy – Este é um problema real, que requer muita atenção, mas que provavelmente é insolúvel. Enganar e seduzir são tão antigos quanto a própria vida, e a linguagem humana aumentou muito seu alcance. O século 20 não precisou de computadores ou da Internet para atingir a incrível onda de propaganda e falsificação que conhecemos. No caso das Big Tech, não sejamos ingênuos: os oligarcas digitais geralmente trabalham a serviço dos governos dos quais dependem, principalmente das grandes potências mundiais dos EUA e China.

Acostume-se: a Polis virou a grande base de dados mundial da internet. A partir de então, as lutas de poder – todas as lutas de poder, sejam elas econômicas, políticas ou culturais – se renovam e se complicam no novo espaço digital. Na furiosa guerra civil global, política interna e externa inextricavelmente interligadas, os novos mercenários são os influenciadores. É neste quadro que se desenrola uma guerra sem fim de polícias e ladrões, cada um deles utilizando as tecnologias mais avançadas. Na ladeira escorregadia das mídias sociais, os lados opostos têm seus exércitos de trolls coordenados em tempo real, equipados com bots de última geração, informados por análise automática de dados e aprimorados por aprendizado de máquina.

As potências inimigas e os partidos concorrentes inundam o espaço digital com informações falsas destinadas a desestabilizar seus adversários, e as plataformas tentam, sem nunca conseguir completamente, eliminar essas informações ou combatê-las. A fronteira entre regulamentação e censura costuma ser muito tênue, o que complica ainda mais as coisas. Lembro que a hipótese do vazamento acidental do vírus COVID do laboratório de Wuhan foi rotulada de “teoria da conspiração” e “notícias falsas” por dois anos antes de ser considerada em 2023 como a explicação mais provável. Do lado da recepção, a alfabetização ordinária, a alfabetização digital e o treinamento em pensamento crítico permanecem indispensáveis.

A compra do Twitter por Elon Musk continua gerando polêmica. Que futuro para as redes sociais?

Lévy – Nossa lealdade aos senhores dos dados e suas mídias sociais vem do poder de seus centros de computação, eficiência de software e simplicidade de suas interfaces. Também encontra sua fonte em nosso vício em uma arquitetura sociotécnica tóxica, que usa a estimulação dopaminérgica e os reforços narcísicos viciantes da comunicação digital para nos fazer produzir cada vez mais dados. Sabemos o quanto, desse ponto de vista, a saúde mental das populações adolescentes está em risco. Além da biopolítica evocada por Michel Foucault, devemos agora considerar uma psicopolítica baseada no neuromarketing, nos dados pessoais e na gamificação do controle.

Elon Musk substituiu o viés “woke” e pró-Democratas do Twitter original por um viés quase pró-russo e Republicano. Em ambos os casos, um ponto de vista exclusivamente americano orienta a regulação algorítmica. Sonho com uma mídia social que seja um verdadeiro serviço público global neutro e cujas hashtags sejam codificadas em IEML, mas me pergunto se isso é possível.