Tag: inteligência artificial

Cada estímulo pode vir ao custo da eficiência cognitiva e da criatividade.

Quando pesquisadores do MIT pediram aos alunos que escrevessem redações com e sem ChatGPT, os resultados foram preocupantes: 83% dos que usaram IA para redigir seus trabalhos não conseguiram se lembrar de uma única frase, mesmo tendo-a escrito apenas alguns minutos antes.

A amnésia induzida pela IA exemplifica mais do que apenas um efeito colateral da inteligência artificial. O ChatGPT e ferramentas similares com tecnologia de IA são agora usadas diariamente e amplamente para tudo, de e-mails a ensaios. No entanto, como indica o novo estudo, podemos estar sacrificando a capacidade cognitiva e a criatividade em nome da conveniência a curto prazo.

Amnésia induzida por IA

O estudo do MIT incluiu 54 participantes da região de Boston. Os estudantes escreveram redações sob três condições: usando o ChatGPT, usando o Google para pesquisa ou utilizando apenas seu conhecimento e raciocínio. Os pesquisadores os examinaram em termos de memória, ativação neural e sentimentos de propriedade.

O déficit de memória era apenas uma parte de um padrão mais amplo.

Ao monitorar a atividade cerebral, pesquisadores descobriram que usuários de IA apresentaram uma redução significativa no engajamento neural. Os escritores que utilizavam apenas o cérebro geraram quase o dobro da quantidade de conexões na faixa de frequência alfa, associada à atenção focada e à criatividade, em comparação aos usuários do ChatGPT.

Na banda teta, relacionada à formação da memória e ao pensamento profundo, a lacuna foi maior: 62 conexões para os escritores que usaram apenas o cérebro, contra 29 para aqueles que usaram IA.

Assim como os sistemas de GPS que gradualmente corroem  nossas habilidades de navegação, as ferramentas de escrita de IA dão lugar à tendência natural do nosso cérebro de conservar energia, recuando quando um sistema externo lida com trabalho cognitivo.

Por si só, não é necessariamente algo ruim. Afinal, criamos ferramentas e tecnologias para delegar processos e economizar esforços. No entanto, quando se trata das descobertas do MIT, em que alunos esqueceram o que escreveram minutos antes, é preocupante, disse Steven Graham, professor da Divisão de Liderança e Inovação da Faculdade de Professores da Universidade Estadual do Arizona, que pesquisa como a escrita afeta a aprendizagem.

Os alunos devem usar a escrita como ferramenta de aprendizagem, disse ele. “Se você não consegue se lembrar das informações básicas dos seus textos, surge a pergunta: ‘O que você aprendeu?'”

Pessoas que usam excessivamente o ChatGPT para tarefas cognitivas de rotina privam sua memória do estímulo essencial necessário para se manter em forma, disse Mohamed Elmasry, professor emérito de engenharia da computação na Universidade de Waterloo, que escreve sobre o uso de IA e inteligência humana.“Sim, embora o cérebro humano seja um órgão sem partes móveis, ele ainda precisa de exercício!”, disse Elmasry. Ele teme que a dependência da tecnologia de IA possa levar a efeitos mais preocupantes a longo prazo.

Os efeitos a longo prazo

Quatro meses após a primeira redação, os mesmos participantes do grupo de IA do estudo do MIT foram solicitados a escrever uma redação final usando apenas suas mentes. No entanto, mesmo quando instruídos a pensar de forma independente, os exames de EEG mostraram que suas redes neurais estavam menos ativadas em comparação com aqueles que pensavam e escreviam de forma independente o tempo todo.

Os pesquisadores chamaram o fenômeno de “dívida cognitiva” — assim como a dívida financeira, a assistência da IA oferece benefícios imediatos, mas pode criar custos de longo prazo.

Escrever é um trabalho árduo, disse Graham. “Algumas ideias são difíceis e difíceis de entender, e exigem que nos envolvamos em vários níveis; portanto, se uma máquina faz isso por nós, não colheremos os benefícios que provavelmente colheríamos do nosso próprio envolvimento.”

Escrever força você a recuar e decidir quais informações são importantes — isso o impulsiona a tomar decisões. Além disso, você precisa organizar as informações de forma coerente, personalizá-las, colocá-las em suas próprias palavras e “lidar com elas”, disse Graham. O algoritmo pode estar enfraquecendo sutilmente — ou simplesmente alterando — as vias neurais que sustentam o raciocínio independente, a síntese criativa e a expressão original.

“Ao adotar o caminho mais fácil e rápido para realizar tarefas cognitivas diárias usando atalhos como o ChatGPT, gradualmente erodimos os recursos de memória inteligente do nosso cérebro”, disse Elmasry.

A subutilização cognitiva pode ter consequências graves, disse ele. “Quando a memória humana se atrofia por falta de estímulo e desafio, à medida que envelhecemos, tornamo-nos mais vulneráveis a demência precoce e mais grave, além de outras formas de declínio cognitivo.”É importante observar que atualmente não há evidências diretas que vinculem o uso de IA à demência. No entanto, a preocupação é que, se nossos cérebros se adaptarem a menos desafios mentais, eles podem se tornar menos resilientes a longo prazo.

Perfeitamente uniforme, previsivelmente chato

O estudo também refletiu um efeito sutil, mas não menos preocupante, das redações assistidas por IA: perda de individualidade e criatividade.

Os prompts dados aos alunos eram perguntas fundamentalmente centradas no ser humano, como “A verdadeira lealdade requer apoio incondicional?” e “Pessoas que são mais afortunadas do que outras deveriam ter uma obrigação moral maior de ajudar aquelas que são menos afortunadas?”

Essas sugestões deveriam ter estimulado respostas imbuídas de experiência e raciocínio pessoal. Em vez disso, as redações sobre IA demonstraram homogeneização algorítmica. Os alunos, sem saber, adotaram frases, estruturas frasais e perspectivas semelhantes — suas vozes individuais subsumidas em um modelo previsível.

Essas observações “não são surpreendentes”, disse Graham, “porque esses modelos replicam o que veem no banco de dados com o qual foram treinados. É uma fórmula na maior parte — pode usar as mesmas palavras repetidamente”.

Os professores de inglês que revisaram as redações, sem saber quais eram geradas por IA, descreveram o trabalho do ChatGPT como tendo “um uso quase perfeito da linguagem e da estrutura, ao mesmo tempo em que falhava em fornecer insights pessoais ou declarações claras”. Os professores consideraram essas redações “sem alma” porque “muitas frases eram vazias em relação ao conteúdo, e as redações careciam de nuances pessoais”, escreveram os pesquisadores.A uniformidade da expressão levanta sérias questões sobre o pensamento individual. Ao terceirizarmos a luta para encontrar nossas próprias palavras, estaremos terceirizando a formação dos nossos próprios pensamentos?

A terceirização diminui sua autonomia

Pensar é caro. O trabalho cognitivo consome uma quantidade significativa de energia neural, e nossos cérebros naturalmente buscam conservar recursos quando existem alternativas.

No entanto, quando podemos convocar instantaneamente a IA para lidar com nossas tarefas mentais, nossos cérebros podem estar se acostumando a ser consumidores passivos de nossos próprios pensamentos.

Durante séculos, nossa capacidade de pensamento independente foi considerada fundamental para a dignidade humana. Muitos argumentaram que a autonomia requer a capacidade de raciocinar por nós mesmos.

Alguns participantes do estudo descreveram sentir-se “culpados” pelo uso da IA, mesmo quando ela produziu melhores resultados imediatos. Essa culpa pode ser um sinal importante, sugerindo uma compreensão intuitiva de que algo valioso está sendo perdido na troca. Um sentimento comum ao usar a IA, como disse um participante, é que “parece trapaça”.

O que acontece com a autonomia quando o raciocínio se torna um serviço que compramos de algoritmos? O estudo do MIT sugere que cada estímulo que gera conveniência apaga o fogo da criatividade humana — e possivelmente do raciocínio.

O uso da IA é inevitável. “O trem já partiu”, disse Graham. “Mas precisamos decidir como deixar o trem seguir em frente.”

Pode haver um momento, um lugar e um uso certos para a IA na escrita, disse ele. Com uso cuidadoso e intencional, a IA pode aumentar a produtividade e até mesmo aprimorar a criatividade . A chave é vigilância e intenção, para incentivar alunos e usuários a serem pensadores críticos que engajam suas mentes primeiro e usam a IA como uma ferramenta — não como uma muleta.

Makai Allbert