As Inteligências Artificiais (IA) e a produção intelectual e científica: último flanco da tríade memória-atenção-representação

No princípio era o Verbo, e o Verbo estava com Deus, e o Verbo era Deus.
Ele estava no princípio com Deus.
Tudo foi feito por ele; e nada do que tem sido feito, foi feito sem ele.
Nele estava a vida, e a vida era a luz dos homens.
(João 1:1-4)

O intenso processo de erosão da inteligência humana avança a passos largos.

O aplicativo ChatGTP, desenvolvido pela OpenAI e lançado em 30 de novembro de 20202 mostra-se capaz de produzir textos científicos, literários, compor músicas, dar conselhos e travar conversas complexas com o usuário. Por isso, entendo, o mesmo deverá ocupar o centro do debate sobre o futuro da inteligência humana e suas implicações éticas, sob o risco de abalar os próprios rumos da humanidade. 

No mundo atual, em que o estatuto da verdade se encontra sob as ameaças das fake news e teorias negacionistas, como a da terra plana e a da cloroquina - óbvias estratégias de distração das massas para que a elite possa promover o saque - contar com o advento que se avizinha - o da produção de narrativas por meio da IA soa um tanto aterrorizante. Não se trata de uma mera ferramenta. As consequências incidem sobre o futuro da própria inteligência humana e dos processos formativos, ainda mais em contextos de formação em massa, cuja batalha diária consiste em manter acesa a faísca do interesse pelo saber em um mundo tomado pelos efeitos nocivos das telas e do ataque político contra os assuntos da cultura. Assim como as plataformas de redes sociais são armas de guerra, aplicativos de IA devem ser inevitavelmente entendidos em seu potencial político. Como o smartphone, trata-se de uma revolução tecnológica cujos efeitos incidem sobre as dimensões social, política, econômica, educacional, psicológica, cultural etc. É outra batalha entre mercado e Estado. 

Em breve, se o assunto não ocupar o debate público com a seriedade devida, entraremos em uma zona cinzenta e nebulosa entre o que é fruto da inteligência humana e o que é produto da IA. A memória e a economia da atenção são os últimos flancos da destruição da subjetividade em curso em decorrência da tecnologia como arma política. Agora o que se vê sob ameaça é a própria capacidade de produzir ideias, o poder de representação.  A tríade que define a inteligência, memória-atenção-representação, se vê, agora, totalmente sob o flagelo da colonização tecnológica embora as consequências e os propósitos sejam eminentemente políticos.

Curioso para testar o aplicativo, eu mesmo submeti a IA a uma sabatina sobre as suas implicações éticas. Segue um trecho da conversa:

Eu: Poderia me explicar como podemos utilizar da ferramenta e fazer a citação de trechos produzidos pela I.A?

ChatGTP: Existem diferentes maneiras de citar trechos produzidos pela Inteligência Artificial (IA), dependendo do contexto e do objetivo da citação. Algumas dicas gerais incluem:

• Identificar claramente que a fonte da citação é uma IA. Isso pode ser feito incluindo informações como o nome do modelo de IA, o desenvolvedor ou a organização responsável, e a data em que o trecho foi gerado.
• Fornecer contexto para a citação. Isso pode incluir informações sobre o propósito ou o uso da IA, o conjunto de dados usado para treinar o modelo, ou os parâmetros de entrada utilizados para gerar o trecho.
• Certificar-se de que a citação é precisa e legível. Isso pode incluir revisar o trecho antes de citá-lo para garantir que ele seja coerente e que não contenha erros.

Alguns exemplos de como citar trechos produzidos por IA incluem:

• Na citação de uma pesquisa acadêmica: "De acordo com o modelo GPT-3 da OpenAI (2020), treinado com uma base de dados de textos da internet, 'a Inteligência Artificial tem o potencial de transformar muitos aspectos da nossa vida' (linha 3) "
• Em uma notícia ou artigo jornalístico: "Um relatório gerado pelo modelo de IA de análise de dados da IBM (2020) afirma que 'A automação de tarefas pode aumentar a produtividade em até 30%' (página 5) "

É importante notar que existem regras e normas específicas para citação dependendo da área de estudo ou do meio que você está utilizando, então é sempre recomendável verificar as normas específicas de citação antes de utilizar trechos gerado pela IA.

Eu: Mas, neste caso, como outro autor poderá conferir a fonte? Ela fica armazenada onde?

ChatGTP: A fonte de um trecho produzido por uma Inteligência Artificial (IA) pode ser armazenada de várias maneiras, dependendo do desenvolvedor ou da organização responsável pela IA. Algumas opções comuns incluem:

• Armazenamento em uma base de dados: O trecho gerado pode ser armazenado em uma base de dados de textos, junto com as informações de contexto e os parâmetros de entrada utilizados para gerá-lo. Essa base de dados pode ser acessível publicamente ou restrita a pesquisadores autorizados.
• Armazenamento em um arquivo: O trecho gerado pode ser armazenado em um arquivo, junto com as informações de contexto e os parâmetros de entrada utilizados para gerá-lo. Esse arquivo pode ser compartilhado publicamente ou restrito a pesquisadores autorizados.
• Armazenamento em uma plataforma: O trecho gerado pode ser armazenado em uma plataforma on-line, como um website ou aplicativo, junto com as informações de contexto e os parâmetros de entrada utilizados para gerá-lo. Essa plataforma pode ser acessível publicamente ou restrita a pesquisadores autorizados.

É importante notar que, independentemente da forma como a fonte é armazenada, é sempre recomendável incluir informações suficientes na citação para que outros autores possam localizar e verificar a fonte. Isso pode incluir o nome do modelo de IA, o desenvolvedor ou a organização responsável, e a data em que o trecho foi gerado.

Eu: Mas, e em caso de utilização indevida? Eu acredito que muitos alunos e pesquisadores com más intenções irão utilizar-se da ferramenta para produzir textos, e entregá-los aos seus professores ou submetê-los a periódicos como se fossem seus. Não há nenhuma previsão para que isso possa ser evitado?

ChatGTP: É verdade que a possibilidade de utilização indevida de trechos produzidos por Inteligência Artificial (IA) é uma preocupação real. Alguns alunos podem tentar passar trechos gerados por IA como se fossem seus próprios, o que é considerado plágio.

Existem algumas medidas que podem ser tomadas para evitar essa utilização indevida e detectar casos de plágio:

• Utilizar ferramentas de detecção de plágio: Existem ferramentas on-line que podem ser usadas para verificar se um texto foi plagiado, comparando-o com outros textos disponíveis na internet. Isso pode ajudar a identificar trechos produzidos por IA.
• Ensinar ética e responsabilidade: Incorporar aulas sobre ética e responsabilidade no uso de tecnologias, incluindo IA, pode ajudar a educar os alunos sobre as implicações éticas de usar trechos gerados por IA.
• Educar os professores: Ensinar os professores sobre como reconhecer trechos gerados por IA e sobre as ferramentas disponíveis para detectar plágio, pode ajudar a identificar casos de plágio.
• Restringir o acesso: Restringir o acesso às ferramentas de geração de texto somente para uso acadêmico e científico, poderia diminuir a possibilidade de utilização indevida.

Em resumo, não há uma solução única para evitar a utilização indevida de trechos produzidos por IA, mas uma combinação de medidas, como a utilização de ferramentas de detecção de plágio, a educação sobre ética e responsabilidade, a educação dos professores e a restrição de acesso, podem ajudar a diminuir essa preocupação.

Eu: O recomendável seria uma regulamentação do Estado, talvez?

ChatGTP: Regulamentação pelo Estado pode ser uma forma eficaz de garantir o uso ético e responsável da Inteligência Artificial (IA). Algumas medidas regulatórias que podem ser consideradas incluem:

• Definição de padrões éticos: O estabelecimento de padrões éticos para o desenvolvimento e uso de IA pode ajudar a garantir que a tecnologia seja usada de forma responsável e evitar a utilização indevida.
• Fiscalização: Uma autoridade reguladora pode ser criada para monitorar e fiscalizar o uso de IA, garantindo que as regras e regulamentos sejam seguidos e tomando medidas para lidar com violações.
• Transparência: Exigir que os desenvolvedores e usuários de IA forneçam informações transparentes sobre o uso da tecnologia, como os dados usados para treinar modelos, os algoritmos usados, e as decisões tomadas, pode ajudar a garantir a transparência e evitar a utilização indevida.
• Educação: Investir em programas de educação sobre IA, para que indivíduos e organizações possam compreender melhor a tecnologia e as suas implicações éticas, e assim utilizá-la de forma responsável.

É importante notar que a regulamentação de IA pode ser desafiadora, pois a tecnologia está em constante evolução e pode ser difícil prever todas as implicações éticas. Além disso, regulamentos diferentes podem ser necessários para diferentes tipos de IA e aplicações. No entanto, uma regulamentação bem pensada e implementada pode ajudar a garantir o uso ético e responsável de IA, e a proteger os indivíduos e a sociedade de suas consequências indesejadas.

***

Encerrei o diálogo pensativo. Perguntado sobre a apropriação dos textos por alunos ou pesquisadores, as respostas da IA não se mostraram nada satisfatórias. Primeiro, porque a detecção de plágio se mostrou inconsistente sobre o uso do aplicativo, conforme demonstrado pela revista Nature; segundo porque, diante da hecatombe na mente humana em razão da tecnologia, reduzir a questão ao mero ensino da ética soa quase uma ironia; e terceiro, pela falácia do que possa significar a restrição do uso apenas como uma mera recomendação pedagógica. À meu ver, os próximos passos devem incluir, desde já, um movimento de responsabilização sobre os conteúdos produzidos pela IA que devem ficar armazenados em repositórios de domínio público, facilitando o discernimento entre o que é e o que não é produto da inteligência humana: uma espécie de enciclopédia da IA. Fingir que isso não é possível ou, pior, de que se trata de uma ferramenta revolucionária em favor da educação e da ciência é aceitar o flagelo da tecnologia sobre a inteligência humana.

Antes que as primeiras consequências indesejadas venham à tona, fundindo-se à avalanche da cultura da desinformação já existente, é fundamental que a sociedade, e especialmente as universidades, iniciem prontamente o debate.