Como mãe de uma criança pequena, trabalhando no meio académico na intersecção da IA e da justiça climática, não posso deixar de ver paralelos estranhos entre o comportamento do meu filho e os sistemas de IA. Ambos estão nos estágios iniciais de encontro com um mundo complexo e de tentativa de orientação dentro dele, moldados pelas histórias e informações que os alimentamos e por cujas experiências escolhemos centralizar ou relegar às margens.
Comecei a perceber esses paralelos no trabalho diário de dar instruções. Percebi que um prompt diz ao sistema o que observar, o que ignorar, por onde começar e como fazer as coisas. Minhas instruções para um sistema de IA tinham que ser específicas, fornecer contexto, dividir as tarefas em partes e definir expectativas explícitas – da mesma forma que ensino algo novo para meu filho. Se eu apenas disser “Limpar a casa”, meu filho, logicamente, interpreta a instrução através de sua própria estrutura limitada do que significa “limpar”. Mas se eu der uma instrução mais específica, “Vá até a brinquedoteca, pegue todos os brinquedos e coloque-os na caixa vermelha”, a tarefa fica clara e o resultado melhora.
Embora esta comparação possa ser divertida, ela também traz consigo uma compreensão mais pesada: o paralelo não para na inspiração, mas se estende ao responsabilidade. Tanto na parentalidade como Modelos de IAnão estamos simplesmente tentando produzir a resposta certa no momento. Estamos moldando passivamente padrões de atenção, julgamento e ação que podem persistir além da interação imediata. O que se repete torna-se familiar. O que está centrado torna-se importante. O que é ignorado pode se tornar invisível. É aí que começam os desafios da IA responsável.
IA responsável pela governança climática
Criar uma criança responsável e construir uma IA responsável exigem uma consciência profunda daquilo que os estamos a treinar para perceber e valorizar. Tal como uma criança pode tornar-se alguém não só capaz, mas também compassivo, os sistemas de IA podem ser concebidos não só para otimizar resultados, mas também para apoiar a justiça, a responsabilização e a sustentabilidade a longo prazo. Na governação climática, isto é particularmente urgente porque o objectivo é construir sistemas mais inteligentes que também nos ajudem a tornar-nos administradores mais responsáveis de um planeta em rápida mudança. Quando concebida de forma responsável, a IA pode ajudar-nos a ver o que há muito tem sido esquecido na governação climática. Pode identificar comunidades vulneráveis que têm sido historicamente excluídas da tomada de decisões, reforçar os sistemas de alerta precoce, permitir respostas mais rápidas e mais direcionadas a fenómenos meteorológicos extremos, otimizar os sistemas energéticos, acelerar a transição para as energias renováveis e ajudar as cidades a antecipar o stress térmico, as inundações e a tensão nas infraestruturas. Pode ajudar a mudar a governação climática da gestão reativa de crises para um planeamento antecipatório e orientado para a justiça.
É preciso uma aldeia
É preciso uma aldeia para criar um filho, e talvez o mesmo se aplique à IA. Um sistema de IA responsável não pode ser criado dentro de uma sala estreita de conhecimentos técnicos, ambientes institucionais ou prioridades de mercado. É necessária uma perspectiva mais ampla por parte daqueles cujo conhecimento tem sido muitas vezes tratado como periférico: mulheres, comunidades da linha da frente, comunidades indígenas, diversos grupos étnicos e raciais, comunidades de baixos rendimentos, pessoas com deficiência e outras pessoas que vivem nas intersecções da marginalização. Em vez de tratar estes indivíduos como “partes interessadas”, deveríamos tratá-los como detentores de conhecimento cuja experiência vivida pode revelar riscos, danos e possibilidades que os sistemas técnicos muitas vezes não conseguem ver. As suas experiências revelam aquilo que os conjuntos de dados dominantes muitas vezes ignoram: trabalho de cuidados não remunerado, vulnerabilidade de género, exposição ambiental, deslocação, economias informais, conhecimento cultural e as estratégias quotidianas que as pessoas usam para sobreviver a sistemas que não foram construídos para elas. Sem estas perspectivas, a IA ainda pode parecer inteligente, mas herdará uma visão perigosamente parcial da realidade, tal como uma criança criada sem um círculo mais amplo de cuidados e responsabilidade. Essa criança ainda pode aprender linguagem, rotinas e padrões de comportamento, mas a sua compreensão do mundo pode permanecer limitada pelos limites do ambiente em que foi criada.
A necessidade de proteções éticas
Assim como uma criança pode ser orientada a corrigir erros, os sistemas de IA exigem supervisão e responsabilidade contínuas. Esses sistemas herdam e amplificam as suposições incorporadas neles. Se não forem controladas, podem reproduzir as próprias desigualdades que pretendem resolver. Como qualquer sistema de aprendizagem, a IA requer uma prática contínua de avaliação, monitorização e reparação. À medida que se integra nas decisões sobre infra-estruturas, riscos, adaptação e distribuição de recursos, os riscos deixam de ser meramente técnicos. Eles são sociais, políticos e ambientais. A IA responsável, portanto, requer barreiras éticas deliberadas que moldam a forma como os sistemas aprendem, decidem e agem de forma a ter em conta o poder, a justiça e as consequências ecológicas. Para que a IA desempenhe um papel significativo na governação climática, deve ser moldada pela justiça, pelo cuidado e pela responsabilidade desde o início.
Um sistema de IA responsável na governação climática deve ser construído utilizando conjuntos de dados diversos e representativos, minimizando assim a reprodução das exclusões e preconceitos existentes. Este princípio estende-se à concepção de modelos, onde a justiça, a equidade, a transparência e a robustez devem ser operacionalizadas como critérios centrais de concepção, em vez de serem tratadas como considerações secundárias. Os sistemas de IA também devem ter estruturas de responsabilização claras, tornando-os responsáveis não só perante as instituições que os desenvolvem e implementam, mas também perante as comunidades cujas vidas e futuros são afectados pelos seus resultados.
Tendo estas questões em mente, o desenvolvimento e a governação dos sistemas de IA devem ser guiados por questões de avaliação fundamentais: Que formas de danos climáticos devem ser antecipadas e mitigadas? Quem detém a autoridade para intervir quando ocorrem falhas? Um modelo responsável, portanto, não pode limitar-se ao reconhecimento de padrões. Deve ser capaz de questionar – criando espaço para a incerteza, formas alternativas de conhecimento e o que não é imediatamente legível nos dados.
Elevando o futuro no presente
A IA e as crianças partilham uma verdade profunda: sobreviverão a nós, levando adiante os mundos que ajudámos a ensiná-los a ver e a valorizar. Os sistemas que projetamos e os valores que incorporamos não desaparecem; eles persistem, moldando decisões, normas e possibilidades muito depois de suas origens desaparecerem de vista. Na governação climática, onde as consequências das decisões de hoje já se estendem através das gerações, esta continuidade é imediata, consequente e impossível de ignorar. O que estamos a moldar, seja nas pessoas ou nos sistemas, não é apenas capacidade, mas orientação. E a questão que permanece não é se estes sistemas de IA influenciarão o futuro, mas se irão reproduzir os limites do presente ou ajudar-nos a ultrapassá-los.
Pavithra Priyadarshini Selvakumar é pesquisador de pós-doutorado na Columbia Climate School. Ela está interessada em explorar como a IA e a justiça climática podem ser integradas para apoiar o planeamento equitativo de resiliência nas comunidades da linha da frente.
As opiniões e opiniões expressas aqui são de responsabilidade dos autores e não refletem necessariamente a posição oficial da Columbia Climate School, do Earth Institute ou da Columbia University.
