Deep learning applications to climate change mitigation
Thèse ou mémoire / Thesis or Dissertation
Date de publication
Autrices et auteurs
Identifiant ORCID de l’auteur
Contributrices et contributeurs
Direction de recherche
Publié dans
Date de la Conférence
Lieu de la Conférence
Éditeur
Cycle d'études
Doctorat / Doctoral
Programme
Affiliation
Mots-clés
- Apprentissage Profond
- Deep Learning
- Vision par ordinateur
- Réseaux Génératifs Antagonistes
- Graph Neural Networks
- Changements Climatiques
- Climate Change
- Materials
- Computer Vision
- Generative Adversarial Networks
- Réseaux de Neurones pour Graphs
- Science des Matériaux
Organisme subventionnaire
Résumé
Résumé
Les changements climatiques sont un défi mondial imminent, dont les conséquences sont déjà observées. On sait que ces effets s’intensifieront, entraînant une augmentation de la fréquence et de la gravité des événements météorologiques extrêmes, une perturbation substantielle de la production alimentaire et le déplacement de dizaines de millions de personnes en raison de vagues de chaleur mortelles et de sécheresses. La question est donc : que peut-on y faire ? Dans cette thèse, nous faisons des changements climatiques notre objet central et explorons les voies par lesquelles la recherche en apprentissage profond peut contribuer à son atténuation.
Un obstacle connu à des politiques climatiques ambitieuses est le manque de soutien et de demande populaires. Cela peut être attribué, en partie, aux causes et conséquences extrêmement complexes et imbriquées des changements climatiques. Une mauvaise conception courante est qu'ils affecteront principalement d’autres personnes que soi-même, des personnes éloignées dans le temps ou l’espace. Pour y remédier, la recherche a montré que présenter aux gens des \textit{images} authentiques, locales et pertinentes d'un concept les aide à mieux comprendre et appréhender ce qui est en jeu. Dans notre première contribution, nous explorons donc comment les récentes avancées en apprentissage profond pour la vision par ordinateur et les réseaux antagonistes génératifs peuvent être utilisées pour générer des images \textit{personnalisées} représentant les impacts du changement climatique. Notre objectif avec \textit{ClimateGAN} est de visualiser à quoi pourrait ressembler une inondation d’un mètre à n’importe quelle adresse, indépendamment de son risque réel d’inondation sous l’effet des changements climatiques. Cette approche vise à susciter l’empathie en rendant les impacts abstraits du changement climatique plus tangibles et personnalisés. En utilisant une image de Google Street View et en la traitant avec \textit{ClimateGAN}, nous générons des images d’inondation physiquement plausibles et visuellement réalistes basées sur l’adaptation de domaine à partir d’un environnement simulé, la prédiction de profondeur et la segmentation sémantique. Ce modèle a été déployé sur un site web dans le but de sensibiliser et d’engager l’action en faveur des changements climatiques.
En plus d’aider les gens à mieux visualiser à quoi pourrait ressembler un avenir climatique hors de contrôle, nous étudions également dans cette thèse comment l’apprentissage profond peut améliorer les technologies existantes. Un domaine majeur de recherche dans cette direction est la recherche de nouveaux matériaux. Dans cette thèse, nous explorons plus particulièrement la prédiction des propriétés des matériaux comme moyen d’accélérer la découverte d'électro-catalyseurs, une famille de matériaux impliqués dans le stockage d’énergie à base d’hydrogène. Nous présentons deux contributions, \textit{PhAST} et \textit{FAENet}, qui se concentrent sur l’amélioration du compromis performance/scalabilité dans les réseaux de neurones géométriques de graphe (GNN). Avec \textit{PhAST}, nous introduisons un ensemble de méthodes pour adapter la procédure GNN classique--de la création du graphe d’entrée aux prédictions d’énergie et de forces de sortie--à la tâche spécifique de prédire l’énergie d’un système atomique adsorbant-catalyseur relaxé. Nous démontrons comment, en plus d’améliorer les performances, ces modifications améliorent l’efficacité et permettent un entraînement compétitif des GNN dans des environnements CPU. Dans \textit{FAENet}, nous présentons un nouveau GNN efficace pour les prédictions équivariantes E(3). En particulier, nous transposons la charge de l’équivarience sur la représentation des données afin de réduire les contraintes sur le modèle lui-même. Cette approche nous permet d’introduire une nouvelle architecture légère et expressive visant à faire des prédictions meilleures et plus rapides de diverses propriétés des matériaux.
Enfin, nous examinons de manière critique notre propre domaine et discutons des impacts environnementaux associés aux technologies de l’IA. Nous nous penchons sur la façon dont les praticiens peuvent estimer leurs émissions de carbone, quelles mesures ils peuvent prendre aujourd’hui pour les réduire, et quelles autres étapes sont nécessaires pour des déclarations et responsabilités environnementales plus précises.
Climate change is an imminent global challenge, with its significant impacts already being observed. It is anticipated that these effects will intensify, leading to an increase in the frequency and severity of extreme weather events, substantial disruption to food production, and the displacement of tens of millions of people due to lethal heatwaves and droughts. The pressing question is: what can be done about it? In this thesis, we make climate change our central focus and explore avenues where Deep Learning technologies can contribute to its mitigation. One known obstacle to comprehensive climate policies is the lack of widespread popular support and demand. This can be attributed, in part, to the extremely complex and intertwined causes and consequences of climate change. A common misconception is that climate change will predominantly affect others who are distant in time or space. To address this, research has shown that presenting people with authentic, localized, and relatable \textit{images} of concepts helps them better comprehend and connect to what is at stake. In our first contribution, we, therefore, explore how recent advances in Deep Learning for computer vision and Generative Adversarial Networks can be leveraged to generate \textit{personalized} images depicting the impacts of climate change. Our objective with \textit{ClimateGAN} is to visualize what a 1-meter flood could look like at any given address, irrespective of its actual risk of flooding under climate change. This approach aims to foster empathy by making the abstract impacts of climate change more tangible and personalized. By retrieving an image from Google Street View and processing it with \textit{ClimateGAN}, we generate physically plausible and visually realistic flooding images based on domain adaptation from a simulated environment, depth prediction, and semantic segmentation. This model has been deployed on a website with the aim of raising awareness and engagement towards climate change action. In addition to helping people better visualize what a future with limited action could look like, we also investigate how Deep Learning can enhance existing technologies. A major area of research in this direction is the search for new materials. In this thesis, we specifically explore materials property prediction as a means to accelerate the discovery of electro-catalysts, a family of materials involved in hydrogen-based energy storage. We present two contributions, \textit{PhAST} and \textit{FAENet}, which focus on improving the performance/scalability trade-off in Geometric Graph Neural Networks~(GNNs). With \textit{PhAST}, we introduce a set of methods to tailor the classical GNN pipeline--from input graph creation to output energy and forces predictions--to the specific task of predicting the relaxed energy of an adsorbate-catalyst atomic system. We demonstrate how, in addition to improved performance, those modifications improve efficiency and enable competitive training of GNNs in distributed CPU environments. In \textit{FAENet}, we present an efficient GNN framework for E(3)-equivariant predictions. In particular, we offload the burden of equivariance onto the data representation in order to reduce constraints on the model. This approach enables us to introduce a new lightweight and expressive architecture aimed at making better and faster predictions of various material properties. Finally, we critically examine our own field and discuss the environmental impacts associated with AI technologies. We delve into how practitioners can estimate their carbon emissions, what measures they can take today to reduce them, and what further steps are needed for more accurate reporting and accountability.
Climate change is an imminent global challenge, with its significant impacts already being observed. It is anticipated that these effects will intensify, leading to an increase in the frequency and severity of extreme weather events, substantial disruption to food production, and the displacement of tens of millions of people due to lethal heatwaves and droughts. The pressing question is: what can be done about it? In this thesis, we make climate change our central focus and explore avenues where Deep Learning technologies can contribute to its mitigation. One known obstacle to comprehensive climate policies is the lack of widespread popular support and demand. This can be attributed, in part, to the extremely complex and intertwined causes and consequences of climate change. A common misconception is that climate change will predominantly affect others who are distant in time or space. To address this, research has shown that presenting people with authentic, localized, and relatable \textit{images} of concepts helps them better comprehend and connect to what is at stake. In our first contribution, we, therefore, explore how recent advances in Deep Learning for computer vision and Generative Adversarial Networks can be leveraged to generate \textit{personalized} images depicting the impacts of climate change. Our objective with \textit{ClimateGAN} is to visualize what a 1-meter flood could look like at any given address, irrespective of its actual risk of flooding under climate change. This approach aims to foster empathy by making the abstract impacts of climate change more tangible and personalized. By retrieving an image from Google Street View and processing it with \textit{ClimateGAN}, we generate physically plausible and visually realistic flooding images based on domain adaptation from a simulated environment, depth prediction, and semantic segmentation. This model has been deployed on a website with the aim of raising awareness and engagement towards climate change action. In addition to helping people better visualize what a future with limited action could look like, we also investigate how Deep Learning can enhance existing technologies. A major area of research in this direction is the search for new materials. In this thesis, we specifically explore materials property prediction as a means to accelerate the discovery of electro-catalysts, a family of materials involved in hydrogen-based energy storage. We present two contributions, \textit{PhAST} and \textit{FAENet}, which focus on improving the performance/scalability trade-off in Geometric Graph Neural Networks~(GNNs). With \textit{PhAST}, we introduce a set of methods to tailor the classical GNN pipeline--from input graph creation to output energy and forces predictions--to the specific task of predicting the relaxed energy of an adsorbate-catalyst atomic system. We demonstrate how, in addition to improved performance, those modifications improve efficiency and enable competitive training of GNNs in distributed CPU environments. In \textit{FAENet}, we present an efficient GNN framework for E(3)-equivariant predictions. In particular, we offload the burden of equivariance onto the data representation in order to reduce constraints on the model. This approach enables us to introduce a new lightweight and expressive architecture aimed at making better and faster predictions of various material properties. Finally, we critically examine our own field and discuss the environmental impacts associated with AI technologies. We delve into how practitioners can estimate their carbon emissions, what measures they can take today to reduce them, and what further steps are needed for more accurate reporting and accountability.
Table des matières
Notes
Dépôt de manuscrit de thèse de doctorat de Victor Schmidt
Notes
Autre version linguistique
Ensemble de données lié
Licence
Approbation
Évaluation
Complété par
Référencé par
Ce document diffusé sur Papyrus est la propriété exclusive des titulaires des droits d'auteur et est protégé par la Loi sur le droit d'auteur (L.R.C. (1985), ch. C-42). Sauf si le document est diffusé sous une licence Creative Commons, il ne peut être utilisé que dans le cadre d'une utilisation équitable et non commerciale comme le prévoit la Loi (i.e. à des fins d'étude privée ou de recherche, de critique ou de compte-rendu). Pour toute autre utilisation, une autorisation écrite des titulaires des droits d'auteur sera nécessaire.