A ascensão das tecnologias de inteligência artificial generativa (IAs) tem reacendido e intensificado as discussões sobre o lugar das tecnologias na vida humana. Nas últimas décadas, o avanço de diferentes tecnologias já reconfigurou radicalmente a forma como nos relacionamos e compreendemos o mundo e as relações, sendo que as IAs colocam mais uma camada e intensificam a mudança e a necessidade de compreender o lugar, a relação e como isso impacta a vida humana. Em todo caso, as IAs acrescentam um nível de problematização por potencializarem a interação entre humanos e máquinas e entre humanos, algo difícil de compreender e de encontrar um lugar para as coisas. Lugares e espaços historicamente ocupados por humanos são progressivamente ocupados por máquinas e softwares, que consequentemente deslocam o ser humano de diversas funções. A questão que se coloca é: deslocam para onde?

É preciso considerar que as IAs são treinadas e se alimentam de gigantescas bases de dados, nem sempre de modo legal, bases que são o repositório, o registro ou a materialidade de práticas produzidas historicamente pela humanidade. De certo modo, as IAs se traduzem na materialização técnica da sedimentação e aceleração máxima da história efetual. Elas funcionam como um medium simbólico que unifica, armazena e rearticula, por meio de processos matemáticos complexos, uma grande quantidade de formulações linguísticas produzidas pela humanidade. Contudo, esse pano de fundo ou repositório de ordens simbólicas distintas e interpretativas não é neutro nem inocente.

As IAs, que estão muito além de ferramentas inertes de cálculo e programações de códigos e rotinas fechadas, de mero processamento de dados, tornam-se agora articuladas, com códigos algorítmicos que programam dinâmicas e, assim, são capazes de assumir papéis sociais de interlocutores virtuais, onipresentes, que me parecem simular (e diria, de modo similar aos seres humanos) e assumir papéis e tarefas como representar saberes, sintetizar, resumir, interpretar temas e problemas das mais diversas ordens. Seria ingênuo, a meu ver, não reconhecer a potência dessa tecnologia, o quanto nos deixa perplexos, admirados e assustados, mas, ao mesmo tempo, nesse deslocamento, principalmente no campo das ciências humanas, fomos empurrados para um campo obscuro. Negar o potencial e o alcance dessa tecnologia é ingênuo, não é recomendável nem razoável. As IAs são uma tecnologia poderosa e, para poder pensar e refletir adequadamente, é uma exigência que reconheçamos que não é algo simples e pequeno. Ela é factual e está ao alcance de crianças, idosos, intelectuais, especialistas e leigos em tecnologias e processamento de dados, de pessoas que nada sabem sobre os temas e assuntos que perguntam e solicitam às IAs. E aqui temos uma das facetas que nos inquieta no campo discursivo inaugurado pela presença das IAs: os usuários (devemos usar aqui esse termo) são frequentemente seduzidos a adotar uma postura de recepção passiva, aceitando as sínteses algorítmicas como verdades objetivas e neutras.

O incômodo não são somente as sínteses ou as saídas dadas aos prompts. É fato que há alucinações e erros, ou mesmo, em muitas situações, a falta de profundidade. Mas, mais que isso, é o lugar no qual o ser humano, tornado usuário, passa a adotar as saídas de prompts como verdades e saberes para orientar sua condução e a coordenação de ações sociais. E com isso, novamente, apesar das falhas e erros dessas tecnologias, o seu grau de acerto, de “capacidade” de formulação de respostas que ultrapassam as capacidades cognitivas humanas em muitas situações, a ingenuidade, a falta de formação e leitura crítica, a simploriedade do conhecimento sobre os temas tornam-se um problema de primeira grandeza. Em outros termos, o que assusta não é essa tecnologia em si, mas o que fazemos com ela. Ou seja, o fato de o ser humano se situar na condição de usuário e assumir essas respostas sintéticas como verdades na coordenação da vida social. O problema é uma negação silenciosa de si mesmo, uma renúncia ao ato de reflexividade crítica frente a essa tecnologia. Reflexividade que só pode ser proporcionada quando interagimos, ocupamos o lugar de agente ativo de uma relação que se estabelece com o saber, com a tradição, com o Outro. É, portanto, uma relação dialógica.

Vamos tentar entender isso com base na argumentação de Hans-Herbert Kögler e de sua obra O poder do diálogo (1992). Este pensador, em seu projeto de uma hermenêutica crítica, investiga o que entende como passividade hermenêutica, situação marcada pelo risco de abdicar da função crítica frente aos sistemas, no nosso caso automatizados, de linguagem, e pela incapacidade de produzir sentido (Susen, 2022, p. 24).

Kögler faz uma crítica à hermenêutica filosófica naquilo que apontou como uma grave aporia do tradicionalismo ontológico-linguístico ou idealismo linguístico. O “idealismo linguístico” estaria sintetizado na célebre premissa de que “o ser que pode ser compreendido é linguagem” (Kögler, 1992, p. 51). Para o pensador, nem tudo pode ser incorporado à dimensão da linguagem. Ou seja, nem tudo é imanência, como as formulações singulares de sentido ou as relações de poder que operam “pelas costas” dos sujeitos envolvidos no diálogo. A linguagem continua sendo o meio pelo qual podemos expressar e pensar as coisas. Porém, o mundo não cabe nem pode ser reduzido à linguagem. Para ilustrar o limite dessa posição, Kögler recorre à metáfora da janela colorida: a linguagem é o vidro colorido de uma janela, através do qual olhamos e acessamos o mundo. O vidro deforma, não é transparente em absoluto. O idealista linguístico, contudo, assume que, porque não podemos enxergar o jardim lá fora sem passar pelo vidro, o próprio jardim e os objetos lá fora são feitos de vidro (Kögler, 1992, p. 115). Com isso, de certo modo, nega-se o ato de compreender, sendo a compreensão entendida como um acontecimento transubjetivo em que a linguagem assume esse lugar de supersujeito, no qual o sujeito simplesmente se integra, deixando-se guiar pelo fluxo da tradição histórica e da linguagem (Gadamer, 2012).

Para Kögler (1992), o nosso pré-entendimento é moldado por nossas experiências corporais e pelas relações intramundanas, que se colocam como resistências à sedimentação na linguagem. A IA permanece aprisionada, apesar das relações semânticas internas sofisticadas, e carece de qualquer inserção prática, empírica ou somática no mundo físico. O idealismo linguístico pode ser reeditado na forma de idolatria das habilidades discursivas da IA. Pois, ao gerar retornos e respostas articuladas e coerentes, pode-se presumir que a IA possui um acesso transparente ao ser das coisas. “O ‘ser-para-o-texto’ (Sein zum Text), enquanto compreensão autossuficiente de sentido, aparece desacoplado da experiência real com os objetos no mundo” (Kögler, 1992, p. 115). É isso que, na visão de Kögler, pode gerar uma desconexão perigosa, pois quem tenta compreender, nesse modelo, deixa de ser um parceiro dialógico em pé de igualdade e é degradado “de um interlocutor igualitário da tradição a seu mero médium. A tradição, como um contexto abrangente de sentido, aparece tão poderosa que uma crítica dos paradigmas tradicionais nunca pode ser feita sobre uma base firme” (Susen, 2022, p. 12; ver também Kögler, 1999, p. 131).

A meu ver, nessa perspectiva é possível fazer um diagnóstico revelador de uma das facetas que assustam na relação contemporânea entre seres humanos e IAs. Pois, ao utilizarmos os modelos de linguagem passivamente – as IAs que incorporaram e continuam a incorporar como base de dados e treinamento saberes das mais diversas ordens simbólicas, dos mais diversos tempos e lugares –, simplesmente nos tornamos meros médiuns, replicando suas formulações e adotando suas perspectivas sem o crivo do questionamento metodológico e crítico. Ou seja, o que vemos nessa relação é uma degradação reeditada, em que a IA assume o apelo de uma tradição automatizada e instantânea, e o ser humano se converte em um medium de segundo grau ou mero canal de transmissão de um texto gerado por uma máquina que, por sua vez, sintetizou algo estatístico a partir de rastros linguísticos do passado. Ainda que a máquina opere estatisticamente sobre bases de conhecimento e, no limite e salvas as diferenças, de modo muito similar ao cérebro humano, o problema consiste em tomar passivamente essa síntese, por mais acertada e sofisticada que seja. Ou seja, não há diálogo reflexivo e crítico. Abre-se mão do lugar ativo, fundamental para o desenvolvimento da cognição, da cultura, da ética e, consequentemente, de colocar sob suspeita os pressupostos que orientam a fala da tecnologia.

Não havendo diálogo que nos provoque a partir do que nos é apresentado, também interditamos a nossa capacidade de nos ocuparmos de nós mesmos. Não agimos reflexivamente. Ao aceitar o retorno do prompt, não nos ocupamos conosco mesmos. E aqui me parece que há um elemento crucial para uma postura crítica em relação às IAs, que é o fato de essas bases, na materialização das ordens simbólicas, também serem saturadas de relações de dominação, estruturas sociais de poder e percepções subjetivas situadas (Kögler, 1992; Susen, 2022).

Aqui precisamos entender que todas as ordens simbólicas são encharcadas de relações de poder e posições subjetivas singulares, que também são materializadas em saberes e em diferentes bases de dados. Kögler recorre a Mead para elucidar como se dá essa relação ou pano de fundo que opera como background ou Hintergrund dos sujeitos. Em George Herbert Mead, Kögler distingue dois elementos fundamentais da constituição do self, que são o Me (mim) e o I (eu). O Me representa o self socializado, composto pelo conjunto de papéis e expectativas, normas e regras linguísticas internalizadas a partir do contato com o Outro generalizado. “A atitude do outro generalizado é a atitude da comunidade inteira” (Mead, 2021, p. 155). É na figura do outro generalizado “que o processo social influencia o comportamento dos indivíduos envolvidos nele e promove sua manutenção” (Mead, 2021, p. 156). Através do eu generalizado, a comunidade controla seus indivíduos e se torna fator determinante do “pensamento individual” (Mead, 2021, p. 156). Razão pela qual se pode entender essa posição como a da conformidade, da reprodutibilidade e da estabilização social. Já o I, a meu ver, é a dimensão espontânea e da criatividade, da resposta inovadora e da capacidade de resistir e transgredir as expectativas do papel social imposto.

A IA, nesse contexto, equivale à hipóstase da técnica absoluta do Me coletivo. Ela é, em essência, uma máquina de conformidade estatística, projetada para prever a próxima palavra mais provável com base em algoritmos gramaticais e conceituais das bases simbólicas preexistentes na cultura. A IA é, portanto, o registro do Me e, assim, reproduz com grande acerto a síntese das estruturas simbólicas consolidadas. Quando o usuário humano interage com a IA de forma passiva, ele está permitindo que esse Me tecnológico colonize o seu próprio horizonte de pensamento. Sem a intervenção crítica do sujeito sobre as respostas da IA, que carregam de forma velada as ordens simbólicas e as relações de saber materializadas que serviram de base para o seu treinamento, bem como infinitas posições singulares sobre temas diversos nas mais diversas plataformas de redes sociais, essas respostas são aceitas como as ordens próprias do mundo. O sujeito se torna uma marionete de esquemas de pensamento inconscientes (power dope ou habitus alienado), reproduzindo estruturas de poder sob a veste de neutralidade tecnológica (Kögler, 1992, p. 189; Susen, 2022, p. 11-12).

Vale reforçar que seria ingênuo e perigoso desconsiderar o potencial das IAs, com sua capacidade de síntese, reprodução e organização de informações, que nesse aspecto potencializa a capacidade de processamento da cognição humana. Mesmo assim, a dignidade humana e sua distinção residem não na reprodução de padrões, mas na capacidade crítica e no estranhamento reflexivo de si mesmo (Kögler, 1992, p. 251-252). Trata-se da agência situada crítica, que está sustentada na atividade do I humano, a única dimensão capaz de romper com o determinismo do Me socializado e, assim, produzir o novo (Susen, 2022, p. 34). Para Kögler, “[…] o que se opõe ontologicamente ao poder é a individualidade humana, a qual nunca pode ser completamente integrada em sistemas simbólicos de revelação ou sistemas práticos de regras. Pelo contrário, a ‘essência’ da individualidade consiste precisamente em projetar-se de novo, em desenvolver ideias inovadoras e diferentes sobre o self, o mundo e a sociedade, e em opor-se às interpretações e práticas dominantes” (Kögler, 1992, p. 246).

Assim, emancipação e autonomia situada nos obrigam a recusar a fusão cega com discursos prontos e sintetizados por IAs. A atitude crítica requer que os sujeitos se mobilizem na reflexividade dialógico-crítica, em que a formulação da IA não seja adotada passivamente, mas tomada como um espelho de contraste (Kögler, 1992, p. 252). As sínteses algorítmicas devem ser confrontadas com nossas experiências intramundanas concretas, corporais e situadas, algo que a máquina é ontologicamente incapaz de possuir, por não estar inserida no sofrimento prático da existência. É nesse distanciamento reflexivo que abrimos uma brecha para a liberdade e para interpretar a tecnologia e pensar de outro modo.

---

Odair Neitzel é doutor em Educação pela UPF, com estágio na Universität Kassel (Alemanha), professor da UFFS, Campus Chapecó (PPGE/PPGFIL), e líder do Grupo de Pesquisa e Estudos em Filosofia da Educação (GPEFE).

Referências

• GADAMER, Hans-Georg. Verdade e método: traços fundamentais de uma hermenêutica filosófica. Tradução de Flávio Paulo Meurer e Enio Paulo Giachini. 12. ed. Petrópolis: Vozes, 2012. v. I.
• KÖGLER, Hans-Herbert. Die Macht des Dialogs: kritische Hermeneutik nach Gadamer, Foucault und Rorty. Stuttgart: Metzler, 1992. DOI: 10.1007/978-3-476-03396-3.
• KÖGLER, Hans-Herbert. The power of dialogue: critical hermeneutics after Gadamer and Foucault. Tradução de Paul Hendrickson. Cambridge, MA; London: The MIT Press, 1999.
• MEAD, George Herbert. Mente, self e sociedade. Petrópolis: Vozes, 2021.
• SUSEN, Simon. The case for a critical hermeneutics: from the understanding of power to the power of understanding. In: MERTEL, Kurt C. M.; DUNAJ, Ľubomír (org.). Hans-Herbert Kögler’s critical hermeneutics. London: Bloomsbury, 2022. p. 7–71.