J.C. Penney blev født den 16. september 1875 på sin fars gård nær Hamilton, Missouri, som det syvende af 12 børn, hvoraf kun seks blev voksne, og han blev født den 16. september 1875. Hans far, pastor James Cash Penney Sr. tjente som ulønnet prædikant for en fundamentalistisk sekt kendt som primitive baptister og drev landbrug for at tjene til livets ophold. Hans mor, Mary Frances Paxton Penney, var fra Kentuck. Livet var glædesløst og vanskeligt for familien, og i en alder af otte år fik den unge Penney at vide, at han selv skulle købe sit tøj. Det var ikke primært af nødvendighed, men snarere for at lære ham værdien af penge og selvtillid. For at tjene penge købte han en gris, opfedede den og solgte den med fortjeneste, hvorefter han købte andre grise. Senere beordrede hans far ham til at sælge sine svin, før de var færdige til en toppris, fordi de var ubehagelige for naboerne, så han gik over til at dyrke og sælge vandmeloner.
Penney dimitterede fra Hamilton High School i 1893, men havde ikke penge til en højere uddannelse. Med hjælp fra sin far sikrede han sig en stilling som ekspedient i en lokal tørvare- og tøjbutik. Fra den 4. februar 1895 blev han betalt 25 dollars om måneden. Han var aldrig atletisk eller fysisk robust, og lidt mere end to år efter at han var begyndt at arbejde, begyndte hans helbred at svigte. Efter råd fra sin læge rejste han i 1897 til Colorado for at genvinde sit helbred. Han arbejdede kortvarigt i to butikker og købte derefter en slagterforretning, men gik konkurs i stedet for at donere whisky til kokken på et lokalt hotel for at få forretning.
En lovende ny mulighed kom, da Penney blev ansat af en købmand fra Longmont, Colorado, T. M. Callahan, til at arbejde i Callahans første butik i hans lille kæde Golden Rule Mercantile Company. I marts 1899 sendte Callahan den unge mand ud for at arbejde i sin butik i Evanston, Wyoming, med en løn på 50 dollars om måneden. Kort efter, den 24. august 1899, giftede han sig med Berta A. Hess, som skulle føde to sønner, Roswell Kemper og James Cash, Jr. Tre år senere blev Penney sendt til byen Kemmerer, Wyoming, for at åbne en ny Golden Rule-butik der. Butikken blev kapitaliseret til 6.000 dollars, hvoraf en tredjedel tilhørte Penney, hvilket gjorde ham til juniorpartner. Muligheden for at få del i ejerskabet øgede hans ambitioner, vakte hans fantasi og gav ham ideen om en dag at have sin egen kæde af butikker baseret på samme princip med partnerejere, der delte i overskuddet. I begyndelsen boede han sparsomt i et loftsrum over butikken. Han åbnede butikken kl. 7.00 om morgenen, lukkede kl. 21.00 eller 22.00 om aftenen og arbejdede en halv dag om søndagen.
I 1903 erhvervede han en tredjedel af en anden Golden Rule-butik, og et år senere førte han tilsyn med en tredje butik, som han fik solgt en tredjedel af. Han havde en tredjedel af en anden butik. I 1907 købte Penney de øvrige to tredjedele af interesserne i disse tre Golden Rule-butikker. Han fandt, udvalgte og uddannede mænd, idet han var overbevist om, at butikscheferne havde pligt til at dele deres erfaringer med deres lovende sælgere. Han uddelegerede ansvar, satte sin lid til sine folk og gjorde dem til sidst til partnere, når nye butikker blev åbnet. De enkelte butikschefer delte en tredjedel af overskuddet, hvilket ifølge Penney var en motiverende faktor for succes i erhvervslivet. I 1909 opgav han den personlige ledelse af Kemmererst-butikken og flyttede til Salt Lake City for at etablere et hovedkvarter for alle sine butikker.
I januar 1913 blev Penneys kæde stiftet, og navnet blev ændret til J. C. Penney Company. Hovedkvarteret for kæden med 48 butikker blev flyttet til New York City i 1914. Penney fortsatte ekspansionen og åbnede i 1924 den 500. butik i sin hjemby Hamilton, Missouri. Virksomheden fortsatte som et partnerskab indtil 1927, hvor der var over 1.000 butikker, hvilket gjorde det nødvendigt med en fuldstændig inkorporering. Direktørerne havde fra 1907 fået aktier i kæden, hvis størrelse var bestemt af overskuddet i deres individuelle butikker. I 1927 byttede de disse aktier til aktier i selskabet som helhed.
Penney var præsident for selskabet indtil 1917, formand for bestyrelsen fra 1917 til 1946 og æresformand for bestyrelsen fra 1946 til 1958. Ved sin død den 12. februar 1971 havde han skabt et enormt virksomhedsimperium. Der var 1.660 butikker med et årligt salg på over 4 milliarder dollars, hvilket gjorde J. C. Penney næst efter Sears, Roebuck and Co. til den næststørste detailhandler i landet, når det gælder ikke-fødevareforretninger. Alle 50.000 ansatte, eller “medarbejdere”, som Penney kaldte dem, fik del i overskuddet.
Penney kunne lide at blive kaldt “The Man with a Thousand Partners”, en sætning, som han brugte i titlen på en selvbiografi. Han hævdede, at “de etiske midler, hvormed mine forretningsforbindelser og jeg har tjent penge, er vigtigere end det faktum, at vi har opnået forretningsmæssig succes.”
Når Penney forlod formandskabet for virksomheden i 1917, brugte han mere tid på sine eksterne interesser. En af dem var kvægavl. Han drev en gård på 705 acre i staten New York fra 1922 til 1953, hvor han opdrættede renracet Guernsey-mælkekvæg. Han drev endnu en gård i staten New York og otte eller ni gårde i Missouri. Penney var også involveret i mange velgørende og religiøse bestræbelser og var en fremragende taler. Han var aktiv i Young Men’s Christian Association, Boy Scouts, National 4-H Club, Allied Youth Inc. og Laymen’s Movement for a Christian World. Han grundlagde et hjem for pensionerede religiøse medarbejdere i Florida til minde om sine forældre. Selv om han kun havde en begrænset uddannelse, var han modtager af 17 æresgrader og mange andre hædersbevisninger, priser og citater.
I sine 95 år var Penney gift tre gange og fik fem børn og ni børnebørn. Hans første kone døde i 1910, og i 1919 blev han gift med Mary Hortense Kimball. Hun døde i 1923 efter at have født en søn, Kimball. Tre år senere, i 1926, giftede han sig med Caroline B. Autenrieth, som fødte to døtre, Mary Frances og Carol.
Penneys opstigning til berømmelse og formue var ikke en ubesmittet succeshistorie. En stor økonomisk katastrofe ramte ham i forbindelse med aktiemarkedskollapset i 1929. Penney mistede 40 millioner dollars, da flere banker, som han havde lånt af, tvangsinddrev lån, der var sikret af hans personlige aktiebeholdning. Han lod sine ansatte gå og endte svækket i sjæl og helbred med at stå med en gæld på 7 millioner dollars i en alder af 56 år. Men Penney var i stand til at starte forfra med lånte penge og genvandt snart kontrollen over sit “imperium”. I sine senere år reflekterede han over det: “Jeg tror på overholdelse af den gyldne regel, troen på Gud og på landet. Hvis jeg var en ung mand igen, ville det være mine kardinalprincipper.”