Entrevista com Eric So (MIT Sloan) sobre IA e pensamento humano

Para as empresas, a IA promete uma combinação irresistível: menos esforço, maior produtividade e decisões mais rápidas. Mas o que acontece quando eliminamos as próprias práticas que nos tornam bons em nossos trabalhos? Em seu novo livro, The Collision: What AI Does to Us, o professor do MIT Sloan, Eric So, defende uma adoção mais criteriosa da IA, que aumente o desempenho sem diminuir a experiência humana.

• Muitas empresas estão adotando IA para otimizar o trabalho. Mas será que mais rápido sempre significa melhor?

  

  A IA está nos tornando mais rápidos em muitas tarefas. Ela nos dá acesso a ferramentas avançadas que aproveitam o conhecimento acumulado pela humanidade e aceleram a entrega de resultados preliminares. Em The Collision, argumento que não é apenas o que podemos fazer com inteligência artificial que está mudando, mas também a nossa maneira de pensar. Alcançar resultados mais rapidamente não significa necessariamente que sairemos na frente, seja individualmente ou coletivamente.

  Existe uma forte tentação de agir mais rápido e produzir mais em menos tempo. No entanto, também devemos considerar o custo de delegar cada vez mais nosso raciocínio em prol da velocidade. A IA pode nos tornar mais rápidos, porém, nos tornar mais inteligentes depende de como a utilizamos.

• Por que os humanos são tentados a delegar seu pensamento à IA?

  No livro, apresento o conceito de “gravidade da IA”: a crescente tendência de depender cada vez mais da inteligência artificial. Essa atração surge de várias forças, incluindo a biologia. Embora o cérebro humano represente apenas cerca de 2% do peso corporal, ele consome mais de 20% da energia que gastamos em repouso. Como pensar exige um esforço considerável, nosso cérebro desenvolveu o instinto de conservar energia sempre que possível. A IA responde a essa necessidade: ela nos permite realizar muitas coisas com o mínimo de esforço mental.

  Há também pressão social e econômica. Nas organizações atuais, não é apenas o que produzimos que é valorizado, mas também nosso desempenho em comparação com o dos outros. Se acreditarmos que um colega está usando IA para trabalhar com mais afinco e rapidez, nos sentiremos pressionados a fazer o mesmo. O medo de ficar para trás nos impulsiona ainda mais a recorrer à IA.

  Quando essas forças se combinam com o aumento de produtividade a curto prazo que a IA oferece, resistir a ela pode parecer irrealista ou até mesmo ingênuo. Essa é a “gravidade da IA”: uma combinação de pressões biológicas, sociais e econômicas que nos leva a usá-la, mesmo quando pensar por nós mesmos poderia nos beneficiar mais a longo prazo.

• O que é a "armadilha do conforto" da IA?

  A armadilha do conforto refere-se aos sistemas tecnológicos que facilitam nosso trabalho. Essa facilidade funciona tanto como isca quanto como restrição: nos atrai, mas também pode nos limitar. Quando a tecnologia faz o trabalho por nós, deixamos de praticar certas habilidades. Assim como acontece com os músculos, as habilidades que não exercitamos acabam enfraquecendo. Quanto menos acostumados estivermos a trabalhar sem IA, mais dependentes nos tornaremos dela. Isso cria uma espiral cada vez mais difícil de quebrar, na qual perdemos a capacidade de agir independentemente da IA.

  

• Como as empresas podem evitar cair nessa armadilha?

  Um passo fundamental consiste em deixar de avaliar os funcionários unicamente com base em quanto eles usam IA. Pressionar as equipes para usá-la cada vez mais, ou medir esse uso como se fosse um indicador de desempenho, não é uma boa maneira de avaliar seu desempenho. Se quisermos preservar as habilidades cognitivas das pessoas a longo prazo, devemos garantir que elas continuem a exercitar as habilidades que as mantêm afiadas.

  O segundo passo é projetar interfaces que incentivem o pensamento. Se um sistema de IA oferece uma resposta imediata, é fácil ser condicionado por essa primeira sugestão, mesmo que esteja incorreta ou que tivéssemos chegado a uma conclusão melhor por conta própria. Pequenas decisões de design podem fazer uma grande diferença na preservação do engajamento do usuário. Os melhores sistemas de IA mantêm as pessoas pensando: melhoram o desempenho sem eliminar o esforço humano necessário para desenvolver o julgamento.

  Por fim, as empresas devem identificar suas “capacidades cognitivas diferenciadoras”: as competências essenciais que agregam valor ao seu trabalho. Para um médico, isso pode ser o critério de diagnóstico; para um advogado, a estruturação de argumentos; e para um professor, a capacidade de traduzir conceitos entre diferentes disciplinas. Essas habilidades devem ser protegidas. Não devemos delegar à IA as tarefas que nos ajudam a mantê-las e aprimorá-las.

• Em um dos casos que analisa, descreve um experimento no qual a automação parcial ajudou os operários de uma fábrica a desenvolverem suas habilidades de controle de qualidade. O que as organizações podem aprender com essa experiência?

  

  O estudo analisou indivíduos responsáveis pelo controle de qualidade de raquetes de neve. Os pesquisadores queriam entender como diferentes níveis de automação afetavam tanto o desempenho quanto o engajamento cognitivo. Quando o sistema totalmente automatizado tomava as decisões e as pessoas simplesmente as executavam, aprendiam menos. Além disso, uma vez removida a automação, tornaram-se menos eficazes na detecção de defeitos do que aquelas treinadas com um sistema parcialmente automatizado ou sem nenhuma automação.

  Os resultados mais promissores foram obtidos quando o sistema oferecia sugestões, mas as pessoas mantinham a responsabilidade pela decisão final. Quando a automação foi removida, esses participantes detectaram defeitos tão bem quanto aqueles treinados exclusivamente por métodos manuais. Eles também relataram maior autonomia e sentiram que seu trabalho tinha mais significado do que o grupo treinado com automação completa. E, na prática, demonstraram maior engajamento na tarefa.

  A conclusão é que a forma como projetamos ferramentas de suporte baseadas em IA é importante. Manter as pessoas ativamente envolvidas na tomada de decisões durante o treinamento pode ajudá-las a desenvolver habilidades essenciais e a permanecer capazes de agir quando os sistemas falham. A prática deliberada sem IA também pode contribuir para a retenção dessas habilidades, mas a principal lição do experimento é que devemos preservar o julgamento humano ao usar IA.

• A IA potencializa o talento ou oculta as deficiências?

  Um dos motivos pelos quais a IA é tão atraente é que ela permite que pessoas com menos experiência produzam trabalhos que aparentam ser de profissionais experientes. Isso pode ser útil, mas também apresenta riscos. Na vida real, o resultado gerado raramente é a etapa final. Os profissionais ainda precisam apresentar uma ideia, defendê-la perante um conselho ou convencer outros a apoiá-la. Pesquisas mostram que, quando a IA é usada simplesmente para gerar resultados, as pessoas podem ter dificuldades na etapa seguinte porque não trabalharam o suficiente nas ideias para que elas realmente sejam suas.

  No caso de profissionais experientes, a situação pode ser diferente. Os gestores seniores geralmente sabem como e quando aplicar a IA, compreendem as nuances da sua área e conseguem distinguir entre bons e maus resultados. Nesse sentido, a IA pode amplificar o talento. Mas também pode ocultar deficiências, especialmente quando o resultado faz com que alguém pareça mais capaz do que realmente é. Tudo depende do que queremos medir e otimizar.

  A IA pode nos tornar mais rápidos, porém, nos tornar mais inteligentes depende de como a utilizarmos

• Como os gestores podem utilizar a IA de forma equilibrada?

  A IA é uma ferramenta muito útil, mas também pode cometer erros. Confiar demais nela pode levar à dependência; confiar de menos impede que se explore todo o seu potencial. Um dos principais riscos é o viés da primeira impressão. Quando as empresas implementam uma nova ferramenta de IA, geralmente mostram seus melhores resultados: as demonstrações mais impressionantes, os casos de uso mais bem-sucedidos e tudo o que o sistema é capaz de fazer. Raramente mostram suas falhas ou seus erros. Isso gera excesso de confiança. Para usá-la corretamente, é preciso entender tanto suas capacidades quanto suas limitações e saber quando ser cauteloso.

  Equilibrar a confiança na IA torna-se ainda mais importante à medida que os sistemas melhoram. Quanto mais capazes eles parecem ser, menos sentimos a necessidade de nos envolvermos mentalmente. Se acreditarmos que a IA concluirá a tarefa perfeitamente, deixamos de dedicar recursos mentais à revisão e podemos acabar simplesmente transferindo o resultado sem pensar mais a fundo.

  Portanto, os gestores devem mostrar aos funcionários tanto os sucessos quanto os fracassos, incentivá-los a reter o conhecimento necessário para avaliar os resultados e reservar tempo para que trabalhem sem IA. Dessa forma, as equipes podem perceber do que ainda são capazes.

• Como podemos aproveitar todo o potencial da IA sem comprometer nossa própria inteligência?

  

  No livro, proponho quatro princípios para alcançar esse objetivo. O primeiro é valorizar o esforço. Muitas vezes o percebemos como algo negativo a ser evitado, mas ele é essencial para desenvolver nossas habilidades, adquirir experiência e dominar uma disciplina. Assim como reconhecemos a importância do exercício físico para manter o corpo em forma, na era da IA devemos entender que enfrentar os problemas por conta própria também nos ajuda a melhorar. O esforço não é algo a ser evitado, mas sim uma parte fundamental do nosso desenvolvimento.

  Em segundo lugar, precisamos avaliar quem somos sem IA. Isso envolve distinguir entre o que podemos alcançar com a sua ajuda e o que somos capazes de fazer sozinhos. Grande parte da vida cotidiana ainda se desenrola fora do ambiente digital, portanto, precisamos garantir que podemos funcionar de forma independente quando a tecnologia não estiver disponível.

  Em terceiro lugar, devemos tratar a IA como um treinador cognitivo. Ela pode atuar como uma tutora eficaz, expandindo nosso conhecimento. O desafio reside em usá-la como uma parceira de pensamento, e não simplesmente como uma máquina geradora de respostas, para que ela nos ajude a fortalecer nossas habilidades de raciocínio em vez de substituí-las.

  Por fim, devemos reinvestir nosso excedente cognitivo. Devemos dedicar o tempo e a energia mental que a IA nos poupa à aprendizagem contínua e à busca de desafios mais ambiciosos, em vez de simplesmente produzir mais do mesmo.

• Que regra toda empresa orientada por IA deve seguir?

  Se eu tivesse que dar apenas um conselho às empresas, seria para repensarem o uso da IA. Não a vejam como uma forma de realizar as mesmas tarefas um pouco mais rápido, mas como um meio de ampliar o que somos capazes de fazer. Ao longo da história, as tecnologias mais transformadoras não apenas melhoraram a eficiência das tarefas existentes; elas nos permitiram alcançar coisas que antes pareciam impossíveis. A IA tem esse mesmo potencial.

  A inteligência artificial pode nos poupar tempo e eliminar tarefas rotineiras. Mas o importante é o que as empresas fazem com o tempo ganho. Muitas vezes, a IA é usada para produzir mais do mesmo, simplesmente mais rápido. A verdadeira oportunidade reside em aproveitá-la para nos superarmos, aspirarmos a mais e explorarmos novos horizontes que, antes da era da IA, nem sequer podíamos imaginar.