Ohio'da yedi çocuklu bir ailenin çocuğu olarak doğdu. 1898-1900 arasında yaşanan İspanyol-Amerikan savaşı için orduya alındı, fakat harekata katılmadı. Varlıklı bir Ohio ailesinin kızı olan Cornelia Lane ile evlendi ve üç çocukları oldu. 1916'da boşandılar. Aynı yıl ilk romanı Windy McPherson's Son yayımlandı. Üç yıl sonra Marching Men yayımlandı.
Çeşitli anı, öykü ve romanlarla geçen yazın hayatında New Orleans deneyimlerinden temellenen 1925 tarihli Dark Laughter romanı "en çok satanlar" listesine giren tek eseridir. 1941'de Panama'da bir partide içtiği martinideki zeytin kürdanını yutması sonuçunda yaşamını yitirdi.
Yazar William Faulkner, Anderson hakkında şöyle der; "Sherwood Anderson aralarında benim de olduğum Amerikan yazarlar kuşağının babası sayılır; o bizden sonrakilerin sürdüreceği bir geleneğin gerçek değeri hiçbir zaman bilinmeyen en önemli temsilcilerinden biridir."