3-5 Jul 2013 Villeneuve d'Ascq (Lille) (France)

By author > Laviolette François

Thursday 4
Machine Learning

› 11:00 - 11:30 (30min)
Une analyse PAC-Bayésienne de l'adaptation de domaine et sa spécialisation aux classifieurs linéaires
Pascal Germain  1, *@  , Amaury Habrard  2, *@  , François Laviolette  1, *@  , Emilie Morvant  3@  
1 : Département d'informatique et de génie logiciel, Université Laval  (IFT)  -  Website
Département d'informatique et de génie logiciel Pavillon Adrien-Pouliot 1065, av. de la Médecine Université Laval Québec (Québec) G1V 0A6 -  Canada
2 : LAboratoire Hubert Curien  (LAHC)  -  Website
CNRS : UMR5516, Université Jean Monnet - Saint-Etienne
18 rue du Professeur LAuras 42000 SAINT-ETIENNE -  France
3 : Laboratoire d'informatique Fondamentale de Marseille  (LIF)  -  Website
CNRS : UMR7279, Université de la Méditerranée - Aix-Marseille II, Université de Provence - Aix-Marseille I
CMI 39, Rue Joliot Curie 13453 MARSEILLE CEDEX 13 -  France
* : Corresponding author

Dans cet article, nous nous intéressons au problème de l'adaptation de domaine (AD) correspondant au cas où les données d'apprentissage et de test sont issues de distributions différentes. Nous proposons une analyse PAC-Bayésienne de ce problème dans le cadre de la classification binaire sans information supervisée sur les données de test. La théorie PAC-Bayésienne permet d'obtenir des garanties théoriques sur le risque d'un vote de majorité sur un ensemble d'hypothèses. Notre contribution au cadre de l'AD repose sur une nouvelle mesure de divergence entre distributions basée une notion d'espérance de désaccords entre hypothèses. Cette mesure nous permet de dériver une première borne PAC-Bayésienne pour le classifieur stochastique de Gibbs. Cette borne a l'avantage d'être optimisable directement pour tout espace d'hypothèses et nous en donnons une illustration dans le cas de classifieurs linéaires. L'algorithme proposé dans ce contexte montre des résultats intéressants sur un problème jouet ainsi que sur une tâche courante d'analyse d'avis. Ces résultats ouvrent de nouvelles perspectives pour appréhender le problème de l'adaptation domaine grâce aux outils offerts par la théorie PAC-Bayésienne.



  • Other
Online user: 1