Diaby commence le rugby en 2007, inspiré par la Coupe du monde organisée en France. Il débute à Bagnolet, évoluant d'abord au poste de centre avant d'être repositionné en troisième ligne aile lorsqu'il rejoint les espoirs du Stade français. Il passe ensuite par le Racing Métro 92 sans y jouer de matchs, avant de s'engager avec Oyonnax en 2013, où il fait ses débuts en Top 14. En 2014, il rejoint le FC Grenoble, où il se fait remarquer par ses performances, notamment lors de la victoire contre Toulon en 2015, où il est élu homme du match.

En 2017, après la relégation de Grenoble, Diaby signe avec l'Union Bordeaux Bègles. Dès son arrivée, il devient un joueur clé et est même nommé capitaine en l'absence de Jefferson Poirot lors de la Coupe du monde 2019. Il prolonge ensuite son contrat avec l'UBB jusqu'en 2024. En 2021, une rupture du tendon d'Achille met fin à sa saison, mais il revient en forme la saison suivante après une deuxième opération pour une pubalgie.

Diaby dispute son centième match sous les couleurs de l'UBB en juin 2022 lors d'un match de barrage contre le Racing 92. En 2023, il réalise une saison marquante avec six essais et le plus gros temps de jeu de son équipe, ce qui lui vaut une place dans l'équipe type du Top 14. Il prolonge son contrat avec l'UBB jusqu'en 2026.

Durant la saison 2023-2024, il est titulaire lors de la finale du Top 14 contre le Stade toulousain, mais son équipe s'incline lourdement. Connue pour son engagement physique, Diaby se décrit comme un "joueur de combat" et est reconnu pour son hygiène de vie exemplaire.