Il accroît son pouvoir sur une grande partie de la confédération islamique du Fouta en s'entendant avec les français qui progressent en Afrique de l'Ouest.
À son retour d'exil forcé (1905-1910) au Dahomey (actuel Bénin) sous l'accusation de fomenter un soulèvement contre l'autorité coloniale française, il fut à nouveau arrêté à Conakry et condamné à la déportation définitive et incarcéré au bagne sec de Port-Étienne (aujourd'hui Nouadhibou, Mauritanie), où il mourut en 1912.
Statue de Alpha yaya Diallo juste en face de la préfecture de LabéSon portrait (de prisonnier) figurait sur les billets de banque (coupures de cinquante francs) de la monnaie guinéenne à la création de celle-ci le .
(en) Mohamed Saliou Camara, Thomas E. O'Toole et Janice E. Baker, Historical dictionary of Guinea, Lanham, Maryland, Scarecrow Press, Inc, coll. « Historical dictionaries of Africa », , 4e éd., 446 p. (ISBN978-0-8108-7969-0, lire en ligne), p. 111