Marco Tedesco não parece um homem tentando vender inteligência artificial.
Ele não a descreve como uma revolução que salvará a ciência, nem a descarta como uma moda passageira. Apesar de ter trabalhado com inteligência artificial desde o final da década de 1990, ele continua cauteloso quanto ao otimismo em torno da tecnologia.
Para Tedesco, professor pesquisador do Observatório Terrestre Lamont-Doherty, que faz parte da Columbia Climate School, a IA já está dentro da sala. A questão já não é se os investigadores devem envolver-se nesta questão, mas sim se podem fazê-lo sem renunciar ao seu julgamento, ética ou curiosidade.
“O problema não é se a IA estará aqui”, disse Tedesco. “A IA já está aqui. O problema é como vamos usá-la e como vamos continuar a construí-la.”
Essa preocupação está a moldar um esforço emergente em Lamont para pensar de forma mais deliberada sobre a inteligência artificial – não apenas como uma ferramenta para acelerar o trabalho académico, mas como uma força que poderá alterar a forma como a ciência é feita, quem beneficia dela e quais os custos que permanecem ocultos.
Há cerca de um ano, a Tedesco abordou a liderança de Lamont sobre a criação de um grupo de trabalho de IA. Ele acreditava que a instituição precisava de um espaço partilhado para examinar criticamente a IA, em vez de a tratar apenas como uma conveniência ou uma ameaça.
“Senti que estávamos perdendo a oportunidade de criar parte da ciência que pode ser criada aqui em Lamont usando IA”, disse ele, “e de adotar a IA de forma crítica, em vez de simplesmente ignorar a existência da IA ou acusar a IA de ser o maior mal”.
Tedesco não é um evangelista nem um cético convencional. Ele vê a IA como uma ferramenta, mas moldada pelos sistemas económicos, políticos e ambientais que a produzem.
“Para mim, a IA pode ser uma manifestação do mal”, disse ele, “mas não é o mal em si”.
Pivô histórico
Para Lamont, disse ele, a IA pode representar um ponto de viragem comparável às tecnologias anteriores que remodelaram a ciência da Terra, do radar aos sensores e computadores. Algumas dessas tecnologias vieram de contextos militares ou industriais antes de serem adaptadas para uso científico. A IA pode seguir um caminho semelhante, oferecendo aos investigadores novas formas de processar informações, identificar padrões e testar ideias.
Mas desta vez, argumenta ele, os cientistas não podem dar-se ao luxo de separar a possibilidade tecnológica das consequências sociais.
Pavithra Priyadarshini Selvakumar, pesquisadora de pós-doutorado na Columbia Climate School, disse que o trabalho de Tedesco é distinto por causa de sua disposição de ultrapassar as fronteiras disciplinares. Através do grupo de trabalho sobre IA, AI Foundation 101, do Simpósio de IA e de iniciativas relacionadas, disse ela, ele está ajudando a criar espaços onde os pesquisadores possam examinar a IA através da ética, saúde mental, neurociência, comunidades, ciência climática, gênero e ciência de dados.
“Isso mostra que essas questões não estão separadas, mas profundamente conectadas”, explicou Selvakumar. “Ele está criando ativamente espaços onde as pessoas podem se reunir, aprender, questionar e pensar de forma diferente.”
Para Selvakumar, esse tipo de trabalho interdisciplinar exige coragem, especialmente num campo como a IA, onde pode haver entusiasmo e ceticismo. Ela disse que a abordagem da Tedesco ajuda a quebrar a hesitação, mostrando que questões sobre tecnologia, equidade, clima e sociedade pertencem à mesma conversa.
A promessa da IA é real. A Tedesco deu o exemplo da utilização de dados de satélite do Espectrorradiômetro de imagem de resolução moderada ou Landsat para detectar um sinal sobre uma área específica – uma pluma, talvez, ou um material tóxico. Uma ferramenta de IA pode elaborar código para o Google Earth Engine, permitindo que um pesquisador produza uma série temporal preliminar muito mais rápido do que antes.
Na sua opinião, a IA pode auxiliar na codificação, síntese e cálculo. Pode ajudar os pesquisadores a identificar padrões ou a construir um primeiro rascunho de uma análise. Mas a questão científica – decidir o que é importante, o que testar e como interpretar – ainda pertence ao ser humano que está por trás dela.
“A questão já não é se os investigadores devem envolver-se com (IA), mas se podem fazê-lo sem renunciar ao seu julgamento, ética ou curiosidade.”
Essa crença alimenta a crença da Tedesco no grupo de trabalho de IA. O objetivo não é apenas tornar Lamont melhor no uso da IA. É para evitar que os investigadores se tornem utilizadores passivos de sistemas que não compreendem.
As preocupações vão além do método científico. Tedesco preocupações sobre dados de treinamento, valores incorporados, transparência e infraestrutura física por trás dos sistemas de IA, incluindo data centers que exigem eletricidade, refrigeração e terreno. À medida que a procura aumenta, esses sistemas podem exercer nova pressão sobre as redes eléctricas e as comunidades locais, enquanto os benefícios podem fluir desproporcionalmente para as empresas tecnológicas.
Selvakumar disse que é por isso questões de género, equidade e impacto na comunidade não podem ser adicionados posteriormente. Os sistemas de IA, disse ela, são moldados pelos mesmos privilégios e desigualdades estruturais que existem ao nosso redor. As alterações climáticas já afetam as pessoas de forma desigual e a IA pode ajudar a resolver essas desigualdades ou reproduzi-las em novas formas.
Quando as mulheres, as pessoas com diversidade de género e as comunidades da linha da frente estão ausentes dos conjuntos de dados ou dos processos de design, disse ela, as ferramentas de IA podem tornar as comunidades já marginalizadas ainda mais invisíveis. No trabalho climático, isso pode afetar quais riscos são reconhecidos, quais conhecimentos contam e quais necessidades são priorizadas. Na pior das hipóteses, disse ela, pode tornar-se uma forma de colonialismo digital, em que as tecnologias são utilizadas para tomar decisões sobre as comunidades sem uma participação significativa dessas comunidades.
Clima versus sociedade?
Para os cientistas preocupados com o clima e a sociedade, isto cria uma contradição desconfortável. Um pesquisador pode usar a IA para estudar a pegada ambiental dos data centers, ao mesmo tempo em que conta com a mesma infraestrutura que produz essa pegada. Alguém pode querer um modelo mais transparente, de menor impacto ou governado eticamente, mas tem poucas escolhas práticas.
A Tedesco vê essa falta de escolha como uma das partes mais preocupantes do cenário atual da IA. Noutras áreas da vida, observou ele, as pessoas podem pelo menos tentar direccionar o seu dinheiro, trabalho ou atenção para sistemas que consideram mais equitativos. Com a IA, as opções são muito mais limitadas. O resultado, disse ele, é uma tecnologia que corre o risco de reforçar o poder nas mãos de um pequeno número de empresas e indivíduos.
Neste contexto, o grupo de trabalho Lamont AI é uma intervenção modesta mas importante. Não resolverá o custo ambiental dos centros de dados nem a economia política de Silicon Valley. Mas pode criar um lugar onde os investigadores façam perguntas mais precisas antes de incorporar a IA na prática científica.
“Estou feliz que Marco tenha tomado esta importante iniciativa para construir um espaço interdisciplinar na intersecção entre IA, clima e sociedade em Columbia”, disse David Sathuluri, que faz parte do laboratório. “Este trabalho é especialmente urgente neste momento, uma vez que a IA está a moldar as nossas vidas em todas as direções e precisamos de controlos e equilíbrios reais para garantir que seja utilizada de forma ética.”
Para a Tedesco, a formação de investigadores mais jovens é fundamental. Os estudantes estão entrando na vida profissional quando as ferramentas de IA são úteis e moralmente complicadas. Essas ferramentas podem ajudar na codificação, redação, análise e avanço na carreira, mas também podem criar dependência, confundir a autoria e enfraquecer os hábitos de pensamento que os alunos ainda estão tentando construir.
Seu conselho não é evitar a IA, mas usá-la com grades de proteção.
“O maior perigo”, disse Tedesco, “é que você se torne uma ferramenta para a IA, em vez de a IA se tornar uma ferramenta para você”.
A Tedesco imagina Lamont como um espaço flexível onde investigadores, estudantes e funcionários podem examinar a IA em todas as disciplinas, testar as suas utilizações e estudar as suas consequências. A ambição é ampla porque o problema é mais amplo. O clima afeta a saúde, o emprego, o uso da terra, a desigualdade, as infraestruturas e a ética. A IA faz cada vez mais o mesmo.
Para uma instituição de ciências da Terra, essa sobreposição não é acidental. Uma tecnologia que promete ajudar a analisar o planeta poderá também consumir os seus recursos, remodelar os seus sistemas de trabalho e reproduzir as suas injustiças.
É por isso que a Tedesco quer que a conversa comece antes que os hábitos se endureçam.
Vishal Manve trabalha no Lamont-Doherty Earth Observatory, que faz parte da Columbia Climate School, e se formou na Columbia Climate School. Ele ajudou a organizar o Simpósio do Grupo de Trabalho de IA de Lamont e está interessado nas interseções da ciência climática, política de IA, equidade e comunicação pública.
