después de sus años de actividad militante en Francia, donde conoció a la mayoría de los líderes de la clase obrera Francesa, Ho fue a Moscú a finales de 1923. En enero de 1924, tras la muerte de Lenin, publicó una conmovedora despedida al fundador de la Unión Soviética en Pravda., Seis meses más tarde, del 17 de junio al 8 de julio, tomó parte activa en el V Congreso de la Internacional Comunista, durante el cual criticó al Partido Comunista Francés por no oponerse más vigorosamente al colonialismo. Su declaración al Congreso es notable porque contiene la primera formulación de su creencia en la importancia del papel revolucionario de los campesinos oprimidos (en oposición a los trabajadores industriales).,

en diciembre de 1924, bajo el supuesto nombre de Ly Thuy, Ho fue a Cantón (Guangzhou), un bastión comunista, donde reclutó a los primeros cuadros del movimiento nacionalista Vietnamita, organizándolos en La Vietnam Thanh Nien CACH Menh Dong Chi Hoi («Asociación de la Juventud Revolucionaria Vietnamita»), que se hizo famosa bajo el nombre de Thanh Nien. Casi todos sus miembros habían sido exiliados de Indochina debido a sus creencias políticas y se habían reunido para participar en la lucha contra el dominio francés sobre su país., Así, Cantón se convirtió en el primer hogar del nacionalismo Indochino.

Cuando Chiang Kai-shek, entonces comandante del ejército chino, expulsó a los comunistas chinos de Cantón en abril de 1927, Ho volvió a buscar refugio en la Unión Soviética. En 1928 fue a Bruselas y París y luego a Siam (hoy Tailandia), donde pasó dos años como representante de la Internacional Comunista, la Organización Mundial de partidos comunistas, en el Sudeste Asiático. Sus seguidores, sin embargo, permanecieron en el sur de China.