A questão da criatividade em IA é um tema que ultrapassa a dimensão dos direitos autorais e aponta para um projeto de “civilização” que pode contribuir com o trabalho humano, mas também pode implicar a substituição quase total dos humanos no mundo do trabalho
A IA generativa funciona a partir de modelos de machine learning (aprendizado de máquina), levando em conta processos interativos humanos e deep learning (aprendizado profundo) confluindo para uma arquitetura de GPT, que no desdobramento da sigla em inglês significa Generative Pretrained Transformer, algo como transformador generativo pré-treinado. Toda essa dinâmica converge para uma questão central: quanto a IA Generativa é, realmente, criativa?
“A criatividade em IA é limitada pelas informações, algoritmos e objetivos específicos programados por humanos. Pode-se observar se o sistema de IA é criativo se ele consegue gerar saídas que são novas, não vistas previamente ou incomuns dentro do contexto específico; se tem a capacidade de produzir saídas que são apropriadas, úteis e relevantes para o problema ou contexto em questão; se tem a habilidade de modificar e combinar ideias existentes para criar algo distinto e original”, explica a professora e pesquisadora Ana Hessel, em entrevista por e-mail ao Instituto Humanitas Unisinos – IHU.
Uma questão central é, precisamente, a dos direitos autorais. Não se trata, sob nenhuma medida, de um pleito neoliberal ou individualista de requerimento de royalties, mas de uma tomada de postos de trabalho em que a IA usa materiais produzido por humanos para que estas mesmas pessoas percam seu espaço no mercado de trabalho. “O crescimento vertiginoso da aplicação de inteligência artificial generativa aos processos criativos tem suscitado grandes debates acerca dos direitos autorais relacionados ao uso de sistemas dessa espécie”, aponta Hessel. “Para dar credibilidade nas suas publicações e garantir que os textos foram produzidos por humanos, alguns editores estão adotando o selo ‘AI free’, isto é, livre de IA. O gesto é visto como simbólico ou político, para valorizar a originalidade da obra, por razões éticas ou filosóficas”, complementa.
Há pesquisas que apontam que 90% das tarefas humanas atuais podem ser feitas por IA em 25 anos. Tal transformação não é novidade. Em outras revoluções industriais empregos foram extintos e outros novos criados. Isto leva à necessidade de repensarmos o papel da educação. “É preciso que os educadores ensinem aos jovens como pensar, como interagir, como aprender coletivamente para alcançar um objetivo comum, como estimular a curiosidade, compreender as nossas diferenças e, em última análise, aprender a ser crítico para entender e trabalhar na promoção das mudanças sociais necessárias”, propõe.
Por fim, diz a entrevistada, “precisamos de um outro paradigma para pensar sistemicamente e orientar ações mais conscientes e sustentáveis. Precisamos de uma política de civilização planetária que promova uma nova ordem baseada em valores que reconheçam a vida humana como um valor maior, superando a lógica do mercado, da oferta e da procura. Precisamos criar uma consciência antropológica, na qual o ser humano seja reconhecido como parte da teia da vida e do ecossistema global”, aponta.
Ana Hessel (Foto: Arquivo pessoal)
Ana Maria Di Grado Hessel é doutora e mestre em Educação pela PUC-SP, graduada em Pedagogia pela mesma universidade e especialista em Informática pela UFPA. Professora do Departamento de Educação: formação docente, gestão e tecnologia da PUC-SP e do Programa de Estudos Pós-graduados em Tecnologias da Inteligência e Design Digital TIDD/PUC-SP, vinculada à linha de pesquisa Aprendizagem e Semiótica Cognitiva. Foi vice-coordenadora executiva do PEC da PUC-SP, na coordenação da equipe de formadores online.
IHU – Criatividade é um termo recorrente no nosso vocabulário, mas o que é, realmente, a criatividade?
Ana Maria Di Grado Hessel – O conceito de criatividade é multifacetado [1]. De imediato podemos dizer que a criatividade diz respeito à capacidade de gerar ideias novas e originais, de produzir algo inédito e útil. Comumente é vista como a habilidade de gerar soluções que são ao mesmo tempo originais e apropriadas para uma determinada situação ou problema. A criatividade humana é caracterizada pela capacidade de estabelecer conexões inéditas entre ideias, conceitos ou objetos aparentemente não relacionados, resultando em algo novo, útil e valioso.
Gosto de um autor que discute o tema, Mihaly Csikszentmihalyi [2], um psicólogo húngaro-americano muito conhecido por seu trabalho sobre o conceito de “flow”, ou seja, o estado de imersão que favorece a criação. Para ele, a criatividade não se trata da invenção de algo completamente novo, mas sim a capacidade de transformar e combinar ideias já existentes para produzir algo com originalidade. Não ocorre no vazio porque é reconhecida e valorizada dentro de um contexto cultural, social e histórico. Sua abordagem enfatiza o sistema de criatividade, que inclui a pessoa criativa e o conjunto de regras e práticas ou o domínio no qual ela opera. Essa visão sistêmica da criatividade sublinha a importância das interações entre o indivíduo, a sociedade e a cultura na realização de contribuições criativas.
Outro conceito interessante, fundamentado na física quântica, é o de Amit Goswami [3]. Em sua obra intitulada Criatividade para o século 21 (Editora Aleph), o autor explica que a física quântica sugere um universo de possibilidades infinitas, e a criatividade nos permite acessar esse campo e trazer novas ideias e soluções do reino potencial para o real. O pensador diz que todos nós somos criativos e esclarece que a criatividade não é um fenômeno meramente material ou cerebral, mas está ligada a uma consciência infinita, eterna e unificada, que transcende o mundo físico. Para Goswami, o momento do insight criativo é descrito como um salto quântico que ocorre nos mecanismos do cérebro e da mente, uma mudança abrupta na consciência que permite a percepção de novas soluções e ideias.
A criatividade é compreendida como o motor mental da inovação, que se baseia na capacidade humana de pensar de forma flexível, combinatória, imaginativa e lógica. Concretiza-se na habilidade humana de combinar, de novas formas, as ideias existentes, explorar as possibilidades rompendo com regras de um paradigma. Para aprofundar o conhecimento sobre a criatividade, sugiro dedicar-se à psicologia e à neurociência porque estudam os aspectos cognitivos.
IHU – Como funciona a IA generativa e qual sua capacidade de criar algo novo?
Ana Maria Di Grado Hessel – A IA generativa cria seus conteúdos por meio de um processo complexo baseado em modelos de machine learning. Baseadas na arquitetura Generative Pretrained Transformer – GPT, as ferramentas da IA generativa fazem uso de redes neurais e técnicas de aprendizado profundo, chamadas deep learning e têm sido projetadas para manter uma conversação com o usuário, imitando os processos interativos humanos.
A base de dados é consultada, para a geração de conteúdo, por meio de algoritmos desenvolvidos com o apoio de fórmulas matemáticas e estatísticas. É organizada em um modelo treinado com grandes conjuntos de informações para aprender padrões de linguagem, ou seja, captar como o texto se estrutura. O processo tem início quando o usuário fornece um prompt. Esse texto de entrada é dividido em unidades menores chamadas tokens, ou seja, palavras ou caracteres. Essa tokenização permite que o modelo processe o texto de forma estruturada e compreenda seus componentes. Cada token é transformado em um vetor numérico chamado embedding, que assume um significado semântico no contexto. É um processo analítico no qual as relações entre as palavras são capturadas e o modelo consegue prever as palavras em sequência.
Isto tudo é realizado com o auxílio de cálculos probabilísticos, nos quais se determina qual token tem a maior chance de ser o próximo, até que o texto seja produzido por completo. Constantemente esse modelo passa por um ajuste fino para melhorar sua performance. O desempenho do modelo é avaliado e aprimorado com base em feedback do usuário e novos dados. A geração de conteúdos coerentes e contextualizados cria a sensação de que o modelo tem uma capacidade criativa semelhante ao comportamento humano.
Dessa forma a criatividade atribuída aos produtos da IA é descrita em termos de “criatividade computacional”, ou seja, a capacidade de um sistema de IA de produzir resultados que seriam considerados criativos se originados por humanos. Isso inclui a geração de arte, música, textos literários, soluções inovadoras para problemas complexos, entre outros.
No entanto, a criatividade em IA é limitada pelas informações, algoritmos e objetivos específicos programados por humanos. Pode-se observar se o sistema de IA é criativo se ele consegue gerar saídas que são novas, não vistas previamente ou incomuns dentro do contexto específico; se tem a capacidade de produzir saídas que são apropriadas, úteis e relevantes para o problema ou contexto em questão; se tem a habilidade de modificar e combinar ideias existentes para criar algo distinto e original.
Em resumo, as máquinas não pensam como os humanos, como pode parecer. Apesar de simularem que têm esta capacidade, elas não têm a compreensão das ideias que geram, não têm raciocínio lógico e nem consciência. Entretanto, alguns autores acham que a criatividade computacional não precisa ser equivalente à criatividade humana, ou seja, as máquinas não precisam ser equiparadas aos humanos no quesito inventividade, mas podem contribuir com resultados considerados interessantes.
IHU – Quais as diferenças e semelhanças entre a criatividade humana e a criatividade computacional?
Ana Maria Di Grado Hessel – Desde o surgimento da IA generativa os produtos gerados por seu intermédio, bem como a qualidade das interações da máquina com os seres humanos, têm sofrido grandes transformações. Basta acompanhar o tempo de vida das versões dessas IA’s, que são substituídas freneticamente. As primeiras queixas sobre as alucinações dos chatbots e geração de dados que reproduzem esquemas discriminativos ou reforçam as hierarquias do poder existentes têm sido substituídas pelas reações de surpresa frente às performances cada vez mais eficientes dos interlocutores digitais. Esses interlocutores se apresentam de forma cada vez mais amigáveis e prestativos, fazendo crer que se antropomorfizaram. O aprimoramento da engenharia de prompt, o intenso treinamento dos modelos de linguagem nos processos de retroalimentação, a implementação dos assistentes virtuais tem contribuído para a criação de textos confiáveis ou verossímeis. Nem mesmo os detectores de plágio têm tido sucesso na identificação da autoria.
Apesar da criatividade computacional ser derivada das instruções e intenções humanas, as máquinas não possuem consciência ou motivações próprias. Assim, a criatividade de um sistema de IA é um reflexo tanto das suas capacidades técnicas quanto das visões e inputs humanos que o guiam. A criatividade computacional ainda enfrenta desafios, como a capacidade de entender e replicar ou reproduzir completamente os aspectos intuitivos, emocionais e contextuais da criatividade humana.
Gosto das ideias de Mariotti [4] postadas na rede Substack. Concordo com ele quando explica que a IA generativa é eficiente para a criação de assuntos tecnocientíficos, mas incompetente para expressar ideias complexas, raciocínios, sentimentos e emoções. Comenta que os modelos de linguagem são úteis em situações menos incertas e mais codificáveis, nas quais o trabalho é muitas vezes mecânico, sequencial, padronizado e repetitivo. Essas tarefas “não têm alma” e, portanto, podem ser feitas por máquinas. Mas, para expressar ideias complexas, raciocínios, sentimentos e emoções, como é o caso de escritos fictícios e filosóficos, a escrita humana é imbatível. Ele arremata: “escritos tecnocráticos/tecnocientíficos são instrumentais; a escrita filosófica/ficcional é existencial. Eles são complementares, não mutuamente exclusivos”.
Leio muito as obras de Santaella [4]. A autora explica muito bem em seus inúmeros escritos que os algoritmos não são capazes de desenvolver algumas lógicas humanas. Concordo e penso que os algoritmos não são apropriados para tratar da incerteza e complexidade humana.
IHU – Em função da falta de capacidade da IA generativa raciocinar e desenvolver o pensamento lógico e ético, quais são os limites para a criação de conteúdos confiáveis?
Ana Maria Di Grado Hessel – Os conteúdos gerados pela IA generativa são produzidos a partir de uma massa de informação acumulada pela cultura humana. Neste sentido refletem as concepções vigentes e os resultados são genéricos, pois tendem a reproduzir padrões comuns presentes nas bases de dados. Logo no início do uso das ferramentas de IA generativa, as experiências interativas constataram a ocorrência de conteúdos falsos, batizados de alucinações. Essas ocorrências são facilmente explicáveis visto que as respostas se baseiam em probabilidades estatísticas sem entendimento real da veracidade do conteúdo gerado pelo modelo de linguagem.
Os modelos não entendem o contexto da informação e o significado do que geram, pois apenas combinam padrões linguísticos aprendidos, sem consciência ética. Por vezes eles são imprevisíveis e podem “inventar” informações por não terem um filtro de controle eficiente. A qualidade do conteúdo depende diretamente da qualidade e representatividade dos dados de treinamento. Alguns dados são restritos por questões legais, privacidade ou direitos autorais e se apresentam incompletos ou enviesados. A questão dos vieses discriminatórios tem sido alvo de muitas críticas pelos pesquisadores, nas questões raciais e de sexo, por exemplo.
As ferramentas de IA são reféns de altos custos de manutenção e treinamento de seus padrões de linguagem, pois são dependentes de grande poder computacional e energia. Isto encarece a tecnologia, o que explica a concentração das ferramentas nas mãos de poucas empresas. De certa forma, essa restrição no mercado acirra a concorrência entre elas, o que explica também a velocidade com que as versões mais eficientes e repletas de funcionalidades atraentes são disponibilizadas ao público consumidor.
Para minimizar a geração de conteúdos alucinados e atender às expectativas dos usuários com relação a um conteúdo específico, têm sido desenvolvidos saberes sobre construção de um prompt eficiente. Na medida em que são claros quanto ao seu objetivo e carregam detalhes contextuais na sua formulação, representam um reforço estratégico para minimizar as alucinações.
Por fim, avaliar a confiabilidade dos conteúdos gerados e definir se são consumíveis vai depender do usuário, de sua capacidade de avaliar criticamente o que lhe é ofertado e do uso que será feito do produto. Essa medida determinará a sua usabilidade. As Big Techs estão se esforçando para isto.
IHU – A IA generativa pode contribuir para a criatividade humana? Se sim, em que medida?
Ana Maria Di Grado Hessel – A IA generativa possui o potencial de ser um recurso valioso para a criatividade humana, oferecendo inspiração, aprimoramento e eficiência aos seus usuários. Ao gerar uma ampla variedade de ideias e estilos, a IA pode expandir os horizontes criativos dos indivíduos, encorajando a exploração de novas direções em seu trabalho. Os recursos de IA, por exemplo, podem ajudar os artistas a refinarem suas ideias, aumentarem sua produtividade e acessarem recursos avançados que podem estar além de suas habilidades individuais, impulsionando assim a inovação e o progresso criativo. Para isto, atualmente temos ao nosso dispor uma grande variedade de ferramentas acessíveis a um clique.
Com exceção da parcela dos praticantes do “copie e cole” literal dos conteúdos gerados pela IA, grande parte dos usuários fazem uso dos recursos dos chatbots para motivá-los no seu processo criativo. Esses usuários buscam expandir seu repertório de ideias por meio da captação de sugestões para fomentar a criatividade cognitiva. A partir daí, ao gerarem suas próprias narrativas, entendem que podem cocriar com a tecnologia.
Entretanto, apesar das oportunidades que a IA generativa oferece, também surgem preocupações sobre sua influência na originalidade e autonomia da expressão criativa humana. Questões éticas, como a autoria de obras geradas por algoritmos e o risco de estagnação criativa devido à dependência excessiva da tecnologia, devem ser cuidadosamente consideradas. Portanto, enquanto a IA generativa pode ser um ponto de apoio valioso para a criatividade humana, é essencial abordar essas preocupações de forma ética e colaborativa, garantindo um uso responsável e inclusivo da tecnologia.
O crescimento vertiginoso da aplicação de inteligência artificial generativa aos processos criativos tem suscitado grandes debates acerca dos direitos autorais relacionados ao uso de sistemas dessa espécie. Para dar credibilidade nas suas publicações e garantir que os textos foram produzidos por humanos, alguns editores estão adotando o selo “AI free”, isto é, livre de IA. O gesto é visto como simbólico ou político para valorizar a originalidade da obra por razões éticas ou filosóficas.
IHU – A IA generativa tem provocado mudanças na nossa cultura e na produção do conhecimento humano?
Ana Maria Di Grado Hessel – A IA generativa está virando a nossa cultura da aprendizagem e do conhecimento de pernas para o ar. Estamos testemunhando mudanças disruptivas. O mais inquietante é que a quebra de paradigmas se faz com muita velocidade. Mal assimilamos uma novidade, outras já surgem no mercado tecnológico. Nesse contexto, ficamos perdidos com relação aos efeitos dessas tecnologias, carentes de explicações e temerosos com relação ao futuro. Temos mais perguntas do que respostas.
As mudanças radicais na cultura da aprendizagem estão ligadas historicamente ao desenvolvimento de novas tecnologias na conservação, na difusão da informação e no processo de comunicação. Uma olhada ao longo do tempo nos permite perceber as profundas transformações culturais. A produção de conhecimento humano sofreu reviravoltas nos tempos da invenção da imprensa. Em meados do século XX, surgiram mudanças com as novas tecnologias de armazenamento, distribuição da informação, com acesso instantâneo a banco de dados. Depois, os avanços da comunicação e agora as inteligências artificiais. Mas já estão prometendo a computação quântica, capaz de realizar cálculos complexos e a Inteligência Artificial Geral, com capacidades cognitivas semelhantes às humanas. Fala-se também da computação neuromórfica com computadores que imitam o cérebro humano.
É preciso considerar que o mercado da informação e do conhecimento tende a tornar-se a infraestrutura de produção, transação e gerenciamento econômicos. Mais recentemente, Schwab [6] explica a quarta revolução, na qual os sistemas de fabricação virtuais e físicos cooperam entre si por meio de princípios inteligentes e interconectados. Estamos vivendo uma mudança de padrões, e não apenas mais uma etapa do desenvolvimento tecnológico. Estamos experimentando transformações profundas na forma como vivemos, trabalhamos e nos relacionamos, dinamizados pelos cenários comunicativos, pela inteligência artificial, pela robótica, biotecnologia etc. A automação e a digitalização estão afetando empregos, com o desaparecimento de algumas ocupações tradicionais e com o surgimento de novas oportunidades. Novos saberes são necessários para a sobrevivência humana.
Quanto à produção de conhecimento, Ethan Mollick [7], autor do best seller Cointeligência: a vida e o trabalho com IA, fala sobre as noções de autoria e originalidade quando concebe a criação do conhecimento humano. Ele esclarece que a produção do conhecimento é resultado entre a colaboração dinâmica entre humanos e a IA generativa. Pelo conceito de cointeligência, as ideias surgem como resultado híbrido entre intuições humanas e contribuições algorítmicas. Em vez de substituir o humano, a IA atua como parceira, ampliando suas capacidades cognitivas e criativas. Essa relação é baseada na complementaridade de habilidades: enquanto a IA processa e gera rapidamente informações, o ser humano oferece julgamento, contexto e pensamento crítico. Mollick defende que essa parceria, se bem conduzida, resulta em melhores soluções e maior inovação. A cointeligência exige uma postura ativa do usuário, que deve orientar, avaliar e ajustar as respostas da IA.
IHU – Qual é o impacto do uso da IA generativa na aprendizagem humana?
Ana Maria Di Grado Hessel – Em resposta às incertezas sobre os avanços da IA generativa e sobre as consequências de seu uso na vida humana, estão despontando pesquisas avaliativas a respeito dos seus efeitos na aprendizagem e na construção do conhecimento. Um dos estudos do MIT [8] está impactando os educadores, pois fala de declínio cognitivo ou preguiça metacognitiva com o uso da IA generativa. A pesquisa traz evidências sobre a redução da atividade cerebral, criatividade e conexão emocional com o texto ao longo do uso regular de assistentes de IA para redação.
“Colar e copiar” textos produzidos por um chatbot pode ser uma estratégia facilitadora para cumprir uma tarefa requisitada por um professor, mas não é difícil imaginar que o processo não demanda esforço cognitivo algum. Aprender, na acepção do construtivismo, exige uma ginástica mental. Professores tradicionalistas que encomendam textos aos seus alunos para medir o que aprenderam correm o risco de receber produtos gerados pela IA.
Há tempos, as teorias cognitivistas vêm falando da mudança do papel do educador, isto é, sobre a necessidade de deixar de ser um transmissor do conhecimento para ser um articulador/mediador da construção do saber pelo seu educando. Mas isto não significa evitar os achados da IA generativa. Dora Kaufman [9] explica que a incorporação da tecnologia no processo de aprendizado pode ser feita com ética e criatividade em meio à diversificação dos modos de acesso ao conhecimento.
O uso da tecnologia deve ser colocado a serviço do desenvolvimento de saberes necessários aos nossos jovens: pensamento crítico para analisar informações e aplicar conhecimento; criatividade para resolver problemas; capacidade de se comunicar; colaboração, cooperação e solidariedade. É preciso que os educadores ensinem aos jovens como pensar, como interagir, como aprender coletivamente para alcançar um objetivo comum, como estimular a curiosidade, compreender as nossas diferenças e, em última análise, aprender a ser crítico para entender e trabalhar na promoção das mudanças sociais necessárias. Precisamos de um ensino para o pensar. Somos herdeiros de um modelo tradicional de ensino há muito ultrapassado, de uma prática tradicional da memorização e repetição, ou seja, um aprendizado desconectado dos contextos, da cultura e dos significados.
Em função do papel central do conhecimento neste contexto, a formação docente deve ser contemplada fortemente nos planos das políticas públicas. Essa formação deve ganhar prioridade e permanência. Os educadores precisam repensar o papel da educação neste cenário, considerando as implicações sociais e éticas. Devem reformular suas concepções sobre o que ensinar, como ensinar e para que ensinar. E, neste processo reflexivo [10], entender como a tecnologia se insere na demanda educacional.
IHU – Qual é o papel dos educadores no cenário das inovações tecnológicas?
Ana Maria Di Grado Hessel – Percebo que os educadores, desde o surgimento do ChatGPT, estão curiosos e têm expectativas de se atualizarem e colocarem em prática os saberes docentes. Mas despendem grandes esforços pessoais para se apropriarem das inovações, que geralmente surgem para o mercado dos negócios e entretenimento. Geralmente e muito frequentemente as novidades tecnológicas aliadas a novas metodologias são utilizadas como modismos. Na verdade, os saberes a respeito da dinâmica da cultura digital são rasos, lineares e reducionistas. Nestes casos, a tendência é adotar as novidades como práticas que irão garantir a solução de problemas ou irão tornar a aula mais atrativa e interessante.
O solucionismo tecnológico é um conceito crítico de Morozov [11] e se refere à tendência de acreditar que todos os problemas da sociedade podem ser resolvidos exclusivamente por meio da tecnologia. Essa visão sugere que, independentemente da complexidade das questões, a inovação tecnológica tem o potencial de fornecer soluções rápidas e eficientes, sejam elas sociais, sejam elas econômicas, políticas ou ambientais. A crença de que as inovações tecnológicas têm a capacidade de trazer soluções para as questões de justiça social e inclusão sempre se apresentam esperançosas no bojo dos debates da temática da IA.
É importante que os educadores se apropriem das ofertas de serviços de IA, mas também conheçam sobre muitos outros aspectos dos bastidores deste contexto. É evidente que não conseguem fazê-lo sozinhos, frente à velocidade e ao volume das questões pertinentes ao contexto atual. Mais do que antes e mais do que nunca precisam de formação.
Educadores precisam superar suas visões fragmentadas. Sistemas e fenômenos precisam ser compreendidos em sua totalidade e relações. É necessário reconhecer a natureza interconectada e multifacetada dos problemas. As práticas docentes caracterizam-se por concepções reducionistas. Os componentes da ação pedagógica são pensados linearmente. Ora o foco é na metodologia, ora o foco é na tecnologia. As peças do fazer pedagógico não são pensadas e planejadas em conjunto. A visão do pensamento complexo pode contribuir com uma proposta abrangente e sistêmica, na qual os elementos constitutivos estejam fortemente relacionados e se ajustem com equilíbrio.
Atualmente, a formação docente inicial não é suficiente e a formação permanente em serviço é insipiente. O ritmo acelerado das mudanças tecnológicas requer uma ampla revisão e atualização dos currículos e uma sólida e inovadora formação permanente. Educadores precisam acompanhar os debates sobre aspectos inovadores e éticos das tecnologias para entender os impactos do novo paradigma. Não se trata só de saber fazer uso de uma tecnologia, mas compreender o momento das profundas transformações sociais, econômicas e entender como vamos enfrentar os desafios da sobrevivência da vida humana.
A questão é “Como inserir reflexivamente os educadores nas discussões sobre a IA de forma que passem de meros consumidores da tecnologia para assumir a postura de pensadores críticos sobre a cultura digital no contexto social?” É urgente que os educadores assumam um papel ativo no processo de tomada de decisões e escolha de soluções tecnológicas alinhadas às necessidades pedagógicas do processo educacional. É necessário entender que o fazer docente está imbricado num contexto maior e sistêmico que terá sua ação refletida na dinâmica social.
Além de avançar nos conhecimentos sobre os usos da IA em vários contextos curriculares e explorar o papel das plataformas educacionais, os saberes dos educadores precisam abarcar diversos aspectos fundamentais sobre a governança da inteligência artificial, ou seja, precisam conhecer o conjunto de práticas e estruturas que orientam o desenvolvimento e a aplicação das tecnologias emergentes. Os debates sobre os usos da IA precisam acontecer em paralelo aos princípios éticos e regulamentações que tratem da proteção de dados e a privacidade dos alunos. Isto implica em conhecer, refletir e participar dos contextos que pensam e definem as diretrizes, as políticas públicas e as legislações. Os educadores precisam acompanhar de perto os debates sobre IA, os quais são promovidos pelas elites gestoras em fóruns governamentais. Precisam ser envolvidos nos círculos de debates e nas instâncias decisórias das políticas públicas.
IHU – Com o desenvolvimento da IA, qual deve ser o futuro do mundo do trabalho?
Ana Maria Di Grado Hessel – Perguntei ao ChatGPT em quanto tempo a mão de obra humana seria substituída pela inteligência artificial e ele me respondeu que não existe um consenso exato sobre isto, mas me ofereceu alguns prognósticos divulgados na mídia. Pude acessar uns dez links de sites de empresas e instituições de ensino. Todos trazem números sobre a substituição das máquinas pela força humana. Não vou reproduzi-los aqui, porque qualquer um pode acessar essas informações a um clique na linha de um prompt de qualquer recurso de IA generativa. Mas um deles chamou a minha atenção pelo grau alarmante dos dados. Uma pesquisa da Cornell University [12] traz números sobre a automação no trabalho. As previsões medianas, na pesquisa, indicaram uma probabilidade de 50% de que os sistemas de IA sejam capazes de automatizar 90% das tarefas humanas atuais em 25 anos e 99% das tarefas humanas atuais em 50 anos. Plausível ou não, essa informação não pode ser desprezada.
Uma questão precisa ser compreendida, ou seja, os postos de trabalho, ao longo da história humana, sempre foram substituídos por novas funções criadas a partir dos avanços tecnológicos. Inevitável. Por conta disto, o mundo do trabalho contemporâneo é resultado de profundas transformações sociais e tecnológicas.
No século XX, por exemplo, a chegada da era da indústria foi marcada pelo advento da máquina a vapor e, posteriormente, pela eletricidade; o trabalho foi progressivamente mecanizado e centralizado nas fábricas. A divisão do trabalho, a padronização da produção e a urbanização mudaram profundamente o modo de vida das pessoas. A técnica passou a ser institucionalizada, com o surgimento da engenharia, das escolas técnicas e da produção em massa.
A transição para a era digital trouxe outra ruptura significativa: o conhecimento científico e o desenvolvimento de tecnologias da informação e comunicação passaram a liderar a dinâmica do trabalho. Surgiram novas profissões e competências, o trabalho intelectual e o processamento de dados ganharam centralidade, e a automação, a inteligência artificial e as redes digitais modificaram os modelos tradicionais de emprego, exigindo maior flexibilidade, conectividade e aprendizagem contínua.
Por conta da velocidade das mudanças, a sociedade de hoje vive uma verdadeira metamorfose e os desafios éticos emergem junto de novas demandas para atender os modos de produção. Marcelo Graglia [13], professor da PUC-SP e pesquisador sobre este tema, explica que o mundo do trabalho requer uma requalificação profissional contínua. Não enxerga a IA como uma ameaça, mas propõe uma colaboração entre governos, empresas e cidadãos para que a transição tecnológica seja estratégica, justa e benéfica.
Saberes específicos, habilidades técnicas especializadas, competências colaborativas e criatividade se fazem necessários para abastecer um mercado de trabalho que se reformula rapidamente com os avanços da IA. A existência de vagas específicas concorre com o desemprego. Essas demandas se refletem diretamente no âmbito do conhecimento e na qualificação da mão de obra humana. As novas habilidades e competências precisam ser aprendidas continuamente e ao longo da vida pelos profissionais do presente.
Infelizmente as instituições envolvidas com a formação profissional estão sempre em atraso com as necessidades reais do mercado de trabalho. Há um grande descompasso neste processo, as mudanças são rápidas, o perfil do trabalhador se reconfigura e as universidades não conseguem renovar seus currículos para atender o mercado econômico. O contexto se torna caótico e as soluções parecem ficar cada vez mais distantes. E ingenuamente, numa visão reducionista, a culpa recai sobre os avanços da IA.
IHU – De que ordem seria um novo humanismo para a era da IA?
Ana Maria Di Grado Hessel – A resposta a esta pergunta exige muita reflexão e talvez a proposição de mais perguntas. Vivemos em condições verdadeiramente humanas na contemporaneidade? A IA pode contribuir para isso? Penso que precisamos falar do resgate de um humanismo esmaecido nos nossos tempos.
Hoje, enfrentamos graves desafios planetários interligados que ameaçam a sobrevivência do homem. Vivemos um momento crítico marcado pelo desregramento ecológico e pela exploração desenfreada dos recursos naturais. Ao lado das questões das enfermidades da biodiversidade, vivemos uma desigualdade social crescente, aprofundada pelo capitalismo globalizado que afeta a coesão social e os direitos humanos. Nos últimos tempos testemunhamos a ascensão do autoritarismo e da desinformação que tem fragilizado a democracia. Por fim, a revolução tecnológica, especialmente a inteligência artificial, tem imposto dilemas éticos e mudanças radicais no mundo do trabalho e na economia.
Morin [14], pensador da complexidade, enfatiza que esses problemas não podem ser enfrentados isoladamente, de forma fragmentada, mas exigem um pensamento complexo e transdisciplinar, capaz de integrar diversas áreas do conhecimento. Para ele, a crise atual é da racionalidade. Precisamos de um outro paradigma para pensar sistemicamente e orientar ações mais conscientes e sustentáveis. Precisamos de uma política de civilização planetária que promova uma nova ordem baseada em valores que reconheçam a vida humana como um valor maior, superando a lógica do mercado, da oferta e da procura. Precisamos criar uma consciência antropológica, na qual o ser humano seja reconhecido como parte da teia da vida e do ecossistema global.
Mariotti e Zauhy [15] reconhecem que estamos diante de muitas incertezas que não podem ser explicadas com respostas simplificadoras, nem por meio de uma lógica técnica ou instrumental. Criticam tanto a visão tecnofílica quanto a tecnofóbica, por considerá-las reducionistas e insuficientes para lidar com a complexidade do mundo contemporâneo. A visão tecnofílica é marcada por um entusiasmo acrítico em relação às tecnologias e na crença de que elas resolverão todos os problemas humanos: sociais, econômicos, ambientais e até existenciais. Na visão tecnofóbica há uma postura de medo e rejeição da tecnologia, tomando-a como causa de alienação, desemprego, perda de valores e desumanização, sem considerar as possibilidades positivas da tecnologia.
Os autores, tal como Morin, propõem uma visão mais complexa, que vá além do dualismo. A proposta é integrar múltiplas dimensões da realidade, reconhecendo contradições, ambiguidades e relações interdependentes. Nesse sentido, destacam a urgência do papel da educação para a preparação de indivíduos capazes de pensarem criticamente, dialogarem com diferentes saberes e tomarem decisões em contextos incertos. Isso exige uma formação ética, reflexiva e plural, voltada para a autonomia e responsabilidade social.
Pensar em um novo humanismo é recolocar o ser humano no centro das decisões sem negar o papel transformador da tecnologia, sem fetichizar ou demonizar o cenário tecnológico.
[1] HESSEL, Ana Maria Di Grado; LEMES, David de Oliveira. Criatividade da Inteligência Artificial Generativa, TECCOGS, Revista Digital de Tecnologias Cognitivas, n. 28, jul./dez. 2023, Programa de Estudos Pós-graduados em Tecnologias da Inteligência e Design Digital (TIDD/PUCSP), 2023 -
[2] CSIKSZENTMIHALYI, Mihaly. Creativity: Flow and the psychology of discovery and invention. New York: Harper Collins, 2013.
[3] GOSWAMI, Amit. Criatividade para o século XXI: uma visão quântica para a expansão do potencial criativo. São Paulo: Aleph, 2012.
[4] MARIOTTI, Humberto – Acesse aqui.
[5] SANTAELLA, Lucia. Há como deter a invasão do ChatGPT? São Paulo: Estação das Letras e Cores, 2023. / SANTAELLA, Lucia. A inteligência artificial é inteligente? São Paulo: Almedina, 2023.
[6] SCHWAB, Klaus. A quarta revolução industrial, São Paulo: Edipro, 2018.
[7] MOLLICK, Ethan. Co-Intelligence: Living and Working with IA. New York: Portfolio/Penguin, 2024.
[8] Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task – https://arxiv.org/abs/2506.08872
[9] Dora Kaufman – Acesse aqui.
[10] HESSEL, Ana Maria Di Grado; ARRUDA, Heloisa Paes de Barros. Inteligência artificial em debate: perspectivas no cenário do conhecimento. Cachoeirinha: Fi, 2024 –
[11] MOROZOV, Evgeny. La locura del solucionismo tecnologico. Espanha: Editora Katz-clave intelectual, 2015.
[12] Forecasting Transformative AI: An Expert Survey.
[13] GRAGLIA, Marcelo; HUELSEN, P.; Valente, C; MUNIZ, A (org.) Inteligência Artificial: entenda como a IA pode impactar no mercado de trabalho e na sociedade. Rio de Janeiro: Brasport, 2024.
[14] MORIN, Edgar. A cabeça bem-feita: repensar a reforma, reformar o pensamento. Rio de Janeiro: Bertrand Brasil, 2002.
[15] MARIOTTI, Humberto; ZAUHY, Cristina. O que a inteligência natural tem a dizer à artificial: complexidade, tecnoética, natureza humana. São Paulo: Ed. dos Autores, 2025.