Résumé
Cette thèse explore les effets non perturbatifs dans les théories des cordes de type II compactifiées sur des variétés de Calabi-Yau (CY) à trois dimensions, en se concentrant sur l'espace des modules de l'hypermultiplet (HM), M. En raison de la supersymétrie N=2 en quatre dimensions, l'espace des modules se factorise en secteurs de vecteurs et d'hypermultiplets, ce dernier recevant des corrections à la fois des effets perturbatifs et non perturbatifs, y compris les D-instantons et les NS5-instantons. La première partie de ce travail calcule les corrections des NS5-instantons à la métrique quaternion-Kähler (QK) sur M dans l'approximation à un instanton. Comme les métriques QK sont difficiles à étudier directement, nous utilisons le formalisme de twistor space, qui encode la géométrie en termes de fonctions de transition holomorphes. En nous basant sur des résultats précédents, nous dérivons les contributions linéaires des NS5-instantons à la métrique HM et les vérifions par des vérifications croisées indépendantes. La deuxième partie étudie les indices BPS affinés, qui présentent un comportement de wall-crossing. Ces indices donne lieu à un problème de Riemann-Hilbert quantique, où la non-commutativité provient d'un produit de Moyal impliquant un paramètre de raffinement y. Nous proposons un cadre pour résoudre ce problème et fournissons une expansion asymptotique pour les solutions. Enfin, nous étudions les fonctions génératrices des indices BPS, qui se transforment en formes (mock) modulaires de haute-profondeur sous le groupe modulaire. Nous simplifions les équations d'anomalie modulaires dérivées de ces transformations et nous développons une approche systématique pour les résoudre pour toute variété CY à un module, à des ambiguïtés modulaires holomorphes près. Ce travail relie des structures mathématiques de la théorie des cordes aux phénomènes physiques, offrant de nouvelles perspectives sur les effets non perturbatifs, les indices BPS et les équations de complétion modulaire.