Inteligência Artificial: a gente pergunta, a resposta vem fácil, mas as fontes não

Em artigo já publicado nesta revista, investiguei alguns dos contornos morais presentes nos diálogos com a Inteligência Artificial (IA). Confira aqui. Hoje, investigo a possibilidade de acesso às fontes de que ela se vale para produzir as respostas, e em próximo artigo irei investigar alguns dos contornos políticos das respostas. No meio de tudo isso, vou tratando das alucinações, termo técnico que designa os momentos em que a IA responde coisas do arco da velha. Já adianto que, com as fontes, isso ocorre mais do que se gostaria. De tudo que tenho lido acerca da IA, e de todas as conversas que tenho tido com os vários aplicativos de IA, o que mais me instiga é perceber que ela é uma máquina que aprendeu a escrever. Isso é também o mais apavorante. Sou um historiador. A importância do domínio da escrita é algo tão grande que se costuma dividir a história em Pré-História e História, e a linha divisória passa justamente pela invenção da escrita. De modo um tanto grosseiro, dizer a alguém que vive na Pré-História é dizer que não aprendeu a escrever e ler, é um analfabeto. Os computadores, por mais avançados que fossem até agora, eram analfabetos. Eles agora se alfabetizaram. Ao dominar signos linguísticos, na escrita e na leitura e na fala (porque com algumas IA a gente pode falar), penso que não é exagero afirmar que agora a máquina produz narrativas bem articuladas, ela é produtora de registros simbólicos, a saber, de cultura. Tudo que eu pergunto, a IA responde, em frases originais – não há plágio, e aí mora outro perigo, ao mesmo tempo que é uma delícia de característica. Mas tem uma coisa que ela não entrega fácil, e quando a gente pergunta e insiste, ela se enrola. São as fontes, a saber, os acervos, repositórios, livros, artigos, autores, autoras, enciclopédias, dicionários, bancos de dados etc., dos quais ela se vale para redigir a resposta. E o pior é que, em alguns momentos, ela inventa fontes que não existem. O exemplo que escolhi para esta crônica envolve a minha própria pessoa, e tudo que aqui narro se passou em menos de sessenta minutos, no meio de uma tarde. Primeiro eu fiz numerosas tentativas de extrair da IA as fontes das quais ela se valia para afirmar certas coisas acerca de algumas pessoas, todas elas colegas meus do mundo acadêmico, pesquisadores e pesquisadoras de várias áreas. Algumas vezes, ela não sabia dizer nada da pessoa, respondendo então “Não encontrei informações relevantes sobre uma pessoa chamada X. Se você puder fornecer mais contexto sobre quem essa pessoa é ou em que contexto você encontrou esse nome, posso tentar ajudá-lo a encontrar mais informações”. Na maior parte das vezes ela alucinou um pouco. Por fim, tive a ideia de tentar com meu próprio nome. Vale dizer que, para acessar os aplicativos de IA, eu tenho que me cadastrar, e, portanto, fornecer a ela alguns dados meus. Sendo assim, algo de mim ela sabe, à partida!  Perguntei […]