Écrivain, photographe et illustrateur, il a une sœur aînée, Elena (qui publiera un livre de souvenirs intitulé Mes chers frères), et un frère, Karel (1890-1938), dont il sera toujours très proche. Karel deviendra un des plus grands écrivains tchèques de son temps (tout en dessinant), tandis que Josef s'orientera davantage vers l'art pictural (tout en écrivant). Les deux frères collaboreront souvent.

En 1904, Après avoir fréquenté deux ans une école de tisserands, il est admis à l'École des arts et métiers de Prague. Puis, en 1910, il étudie à Paris, où il rencontre un grand nombre d'artistes et subit l'influence du cubisme et de l'art primitif. Sa première exposition a lieu en 1912.

De 1921 à1939, il devient rédacteur en chef de la revue Národní listy et contribue également à diverses revues artistiques. La naissance de sa fille Alenka est pour lui une source d'inspiration. Il peint, écrit des pièces, crée des décors pour des théâtres de Prague, publie plusieurs livres dont un roman, L'Ombre de la fougère, et un essai, Le Pèlerin boiteux, qui expose sa vision du monde. Son frère Karel meurt en 1938 à la suite d'une campagne menée contre lui par les milieux fascistes.

En 1939, la Tchécoslovaquie est occupée par les nazis, et il est arrêté pour activités anti-fascistes en même temps que plusieurs centaines d'intellectuels tchèques.

Il envoyé dans le camp de Dachau, puis de Buchenwald et finalement de Bergen-Belsen, où il meurt de la typhoïde en avril 1945. Certaines de ses œuvres de cette époque, dessins et poèmes, seront sauvées par des amis et paraîtront à titre posthume.