după anii de activitate militantă în Franța, unde a făcut cunoștință cu majoritatea liderilor francezi ai clasei muncitoare, Ho a plecat la Moscova la sfârșitul anului 1923. În ianuarie 1924, după moartea lui Lenin, a publicat la Pravda un rămas bun emoționant pentru fondatorul Uniunii Sovietice., Șase luni mai târziu, în perioada 17 iunie-8 iulie, a participat activ la cel de-al cincilea Congres al Internaționalei Comuniste, în timpul căruia a criticat Partidul Comunist Francez pentru că nu s-a opus mai puternic colonialismului. Declarația sa către Congres este remarcabilă deoarece conține prima formulare a credinței sale în importanța rolului revoluționar al țăranilor asupriți (spre deosebire de lucrătorii industriali).,în decembrie 1924, sub numele asumat de Ly Thuy, Ho a mers la Canton (Guangzhou), o fortăreață comunistă, unde a recrutat primele cadre ale Mișcării Naționaliste vietnameze, organizându-le în Vietnam Thanh Nien CACH Menh Dong Chi Hoi („Asociația Tineretului revoluționar vietnamez”), care a devenit faimoasă sub numele de Thanh Nien. Aproape toți membrii săi au fost exilați din Indochina din cauza convingerilor lor politice și s-au adunat împreună pentru a participa la lupta împotriva dominației franceze asupra țării lor., Astfel, Canton a devenit prima casă a naționalismului Indochinez.când Chiang Kai-shek, pe atunci comandant al armatei chineze, i-a expulzat pe comuniștii chinezi din Canton în aprilie 1927, Ho s-a refugiat din nou în Uniunea Sovietică. În 1928 a plecat la Bruxelles și Paris și apoi la Siam (Acum Thailanda), unde a petrecut doi ani ca reprezentant al Internaționalei Comuniste, Organizația Mondială a partidelor comuniste, în Asia de Sud-Est. Adepții săi, totuși, au rămas în China de Sud.