Klubben bildades 1879 som "Sunderland and District Teachers' Association Football Club". Året efter var även såna som inte var lärare välkomna i laget och då bytte de namn till det nuvarande. I början spelade de i helblå dräkter med en vit rand. 1885 bildades Sunderland Albion, en konkurrerande klubb, men det fanns inte underlag för två lag i Sunderland, så när Sunderland fick plats i fotbollsligan 1890 började Albion sakta tyna bort.  Klubben var mycket framgångsrik i början. Hemmaplanen hette Roker Park under 99 år, tills mäktiga Stadium of Light byggdes :Det var också då som det gamla smeknamnet "The Rokerites" försvann.

Som kuriosa kan nämnas att Sunderland var det lag som längst av alla klarade sig från nedflyttning från högsta ligan, men efter att under hela 50-talet köpt dyra spelare ville de till säsongen 1957-58 satsa på yngre talanger, men det bar sig inte bättre än att de blev degraderade.