Dopo i suoi anni di attività militante in Francia, dove conobbe la maggior parte dei leader della classe operaia francese, Ho andò a Mosca alla fine del 1923. Nel gennaio 1924, dopo la morte di Lenin, pubblicò un commovente addio al fondatore dell’Unione Sovietica in Pravda., Sei mesi dopo, dal 17 giugno all ‘ 8 luglio, prese parte attiva al Quinto Congresso dell’Internazionale comunista, durante il quale criticò il Partito comunista francese per non essersi opposto più vigorosamente al colonialismo. La sua dichiarazione al congresso è degna di nota perché contiene la prima formulazione della sua convinzione sull’importanza del ruolo rivoluzionario dei contadini oppressi (in contrapposizione ai lavoratori industriali).,

Nel dicembre 1924, sotto il nome di Ly Thuy, Ho si recò a Canton (Guangzhou), una roccaforte comunista, dove reclutò i primi quadri del movimento nazionalista vietnamita, organizzandoli nel Vietnam Thanh Nien Cach Menh Dong Chi Hoi (“Associazione Giovanile Rivoluzionaria vietnamita”), che divenne famosa con il nome di Thanh Nien. Quasi tutti i suoi membri erano stati esiliati dall’Indocina a causa delle loro convinzioni politiche e si erano riuniti per partecipare alla lotta contro il dominio francese sul loro paese., Così, Canton divenne la prima casa del nazionalismo indocinese.

Quando Chiang Kai-shek, allora comandante dell’esercito cinese, espulse i comunisti cinesi da Canton nell’aprile del 1927, Ho cercò nuovamente rifugio in Unione Sovietica. Nel 1928 si recò a Bruxelles e Parigi e poi in Siam (oggi Thailandia), dove trascorse due anni come rappresentante dell’Internazionale Comunista, l’organizzazione mondiale dei partiti comunisti, nel sud-est asiatico. I suoi seguaci, tuttavia, rimasero nel sud della Cina.