Fils de Pierre (dit Paul) Jouhandeau (1860-1930), boucher à Guéret, et d'Anne-Alexandrine (dite Marie) Blanchet (1861-1936), fille d'un boulanger à Guéret, et dont le mariage est célébré le 22 décembre 1883, Marcel Jouhandeau est élevé jusqu'à l'âge de neuf ans par sa tante Alexandrine, soeur de sa mère. Au décès de sa tante, le 14 août 1897, il retourne vivre à la boucherie chez ses parents.
En 1894, il apprend à lire et à écrire au couvent des sœurs de la Croix, rue du Prat, où il est le seul garçon au milieu de 50 pensionnaires. Puis il entre ensuite au lycée laïc de la ville (l’actuel lycée Pierre Bourdan). En juin 1908, il obtient d'excellents résultats au baccalauréat rhétorique, et à la fin de l'année suivante en philosophie, à 19 ans, avec un « Prix spécial d'Enseignement littéraire » à la distribution des prix le 19 juillet 1908. Après avoir envisagé d'entrer au séminaire, il part pour Paris, étudie pendant une année au lycée Henri-IV en classe de rhétorique supérieure. En octobre 1909, il s'inscrit à la Sorbonne, en licence de lettres. En 1912, Marcel Jouhandeau écrit ses premiers contes, et occupe un poste de professeur de latin, grec et français au pensionnat catholique de Saint-Jean de Passy.
En 1921 il publie La Jeunesse de Théophile, un roman ou il évoque le monde des croyances et des traditions d'avant 1914. Puis en 1924, Les Pincengrain. Un de ses chefs-d'œuvre ou il y raconte la jeunesse de trois sœurs. Le 4 juin 1929, à Paris, il épouse une danseuse et écrivaine française, Élisabeth Toulemont (1888-1971), dite Caryathis. (Ou Élise, comme Jouhandeau l'appelle dans sa vie et dans ses écrits). Le couple habite à Paris près de la porte Maillot. Professeur durant 37 ans, il part à la retraite en juillet 1949.
Atteint de cécité, Marcel Jouhandeau cesse d'écrire en 1974. Il meurt le 7 avril 1979 à l'âge de 90 ans à son domicile parisien, des suites d'un cancer. Il est inhumé au cimetière de Montmartre à Paris avec son épouse Élisabeth Claire Toulemont.