Dear all / Bonjour à tous,

We are happy to invite you to Edward Hu PhD defense on November 17th at 10 am (remote).

Vous êtes cordialement invité.e.s à la soutenance de thèse de Edward Hu, le 17 novembre à 10h (Mode Distanciel).

Title: Building a Reasoning Machine

Date: November 17th, at 10 am Location: Remote

Link: https://umontreal.zoom.us/j/81792703669?pwd=Mbobppk3qJdhk7h1CKnEtJOCzN2H8A.1 

Jury

Abstract:

Deep learning with maximum-likelihood estimation excels at directly modeling data at scale. However, it suffers from poor generalization and an inability to reason beyond a few logical steps. Many hypothesized that the solution lies in replicating human’s ability to perform slow and guided reasoning over a low-dimensional, structured concept space.

I built on the success of deep learning, where more compute empirically translates to bet- ter downstream performance, and proposed algorithms that convert traditionally intractable symbolic learning problems into deep learning ones that can be solved with more compute and better optimization. This is done in two main directions: (1) training a neural approxi- mator of an intractable posterior over compositional objects using generative flow networks; and (2) losslessly representing compositional objects as differentiable vectors amenable to gradient optimization. The objects considered include sequences, trees, and directed graphs with applications in latent variable modeling, chain-of-thought reasoning, tree manipulation, and causal discovery. I further studied the improved generalization of this approach across experiments on grammar induction, tree manipulation, and natural language reasoning.

Finally, I presented future research directions on incorporating inductive biases into the compositional objects and efficiency improvements.

*Keywords *reasoning, generative flow networks, latent variable models, amortized infer- ence, variational inference, compositionality, generalization, causal discovery.

Résumé:

L’apprentissage profond avec estimation de la vraisemblance maximale excelle dans la modélisation directe des données à grande échelle. Cependant, il souffre d’un manque de généralisation et d’une incapacité à raisonner au-delà de quelques étapes logiques. Beaucoup ont émis l’hypothèse que la solution réside dans la réplication de la capacité humaine à effectuer un raisonnement lent et guidé sur un espace conceptuel structuré de faible dimension.

Je me suis appuyé sur le succès de l’apprentissage profond, où davantage de calculs se traduisent empiriquement par de meilleures performances en aval, et j’ai proposé des algorithmes qui convertissent des problèmes d’apprentissage symbolique traditionnellement insolubles en problèmes d’apprentissage profond qui peuvent être résolus avec plus de calculs et une meilleure optimisation. Cela se fait dans deux directions principales : (1) former un approximateur neuronal d’un postérieur intraitable sur des objets compositionnels en utilisant des réseaux de flux génératifs ; et (2) représenter sans perte les objets compositionnels sous forme de vecteurs différentiables susceptibles d’être optimisés par gradient. Les objets considérés comprennent des séquences, des arbres et des graphes orientés avec des applications dans la modélisation de variables latentes, le raisonnement par chaîne de pensée, la manipulation d’arbres et la découverte causale. J’ai étudié plus en détail la généralisation améliorée de cette approche à travers des expériences sur l’induction grammaticale, la manipulation d’arbres et le raisonnement en langage naturel.

Finalement, j’ai présenté les futures orientations de recherche sur l’intégration des biais inductifs dans les objets compositionnels et les améliorations d’efficacité.

*Mots-clés* raisonnement, réseaux de flux génératifs, modèles de variables latentes, inférence amortie, inférence variationnelle, compositionnalité, généralisation, découverte causale.