J. C. Penney 1875. szeptember 16-án született apja farmján, a Missouri állambeli Hamilton közelében, 12 gyermek közül a hetedik, akik közül csak hat érte meg a felnőttkort. Apja, az idősebb James Cash Penney tiszteletes a primitív baptisták néven ismert fundamentalista szekta fizetetlen prédikátoraként szolgált, és a megélhetés érdekében gazdálkodott. Édesanyja, Mary Frances Paxton Penney Kentuckyból származott. A család élete örömtelen és nehéz volt, és nyolcéves korában a fiatal Penney-nek azt mondták, hogy magának kell megvennie a ruháit. Ez elsősorban nem a szükségszerűség miatt történt, hanem inkább azért, hogy megtanítsa őt a pénz és az önállóság értékére. Hogy pénzt keressen, vett egy disznót, felhizlalta, és nyereséggel eladta, majd újabbakat vásárolt. Később az apja megparancsolta neki, hogy adja el a disznóit, mielőtt azok elkészültek volna a legmagasabb áron, mert a szomszédoknak nem tetszettek, ezért görögdinnye termesztésére és árusítására fordult.
Penney 1893-ban érettségizett a Hamilton High Schoolban, de nem volt pénze a felsőoktatásra. Apja segítségével egy helyi szárazáru- és ruházati boltban szerzett eladói állást. 1895. február 4-től kezdődően havi 25 dolláros fizetést kapott. Soha nem volt sportos vagy fizikailag erős, és alig több mint két évvel azután, hogy munkába állt, az egészsége megromlott. Orvosa tanácsára 1897-ben Coloradóba utazott, hogy visszanyerje egészségét. Rövid ideig két üzletben dolgozott, majd vásárolt egy hentesüzletet, de inkább csődbe ment, minthogy whiskyt adományozzon egy helyi szálloda szakácsának, hogy üzletet szerezzen.
Egy ígéretes új lehetőség adódott, amikor Penney-t egy longmont-i, coloradói kereskedő, T. M. Callahan alkalmazta, hogy Callahan kis Golden Rule Mercantile Company üzletláncának első üzletében dolgozzon. Callahan 1899 márciusában elküldte a fiatalembert a wyomingi Evanstonban található üzletébe dolgozni, havi 50 dolláros fizetéssel. Nem sokkal később, 1899. augusztus 24-én feleségül vette Berta A. Hess-t, akitől két fia született, Roswell Kemper és James Cash, Jr. Három évvel később Penney-t a wyomingi Kemmerer városába küldték, hogy ott nyisson egy új Golden Rule üzletet. Az üzletet 6000 dollárral tőkésítették fel, amelynek egyharmada Penneyé volt, így ő lett a junior partner. A tulajdonosi részesedés lehetősége növelte ambícióit, izgatta fantáziáját, és azt az ötletet adta neki, hogy egy napon saját üzletlánca lesz, amely ugyanazon az elven alapul, hogy a tulajdonostársak osztoznak a nyereségben. Eleinte takarékosan élt az üzlet feletti padlásszobában. Az üzletet reggel 7:00 órakor nyitotta ki, este 9:00 vagy 10:00 órakor zárta be, és vasárnap fél napot dolgozott.
1903-ban egyharmados részesedést szerzett egy másik Golden Rule üzletben, egy évvel később pedig egy harmadik üzletet felügyelt, amelyben egyharmados részesedést adott el. 1907-ben Penney megvásárolta a másik kétharmados részesedést ebben a három Golden Rule üzletben. Embereket talált, választott ki és képzett ki, meggyőződése volt, hogy az üzletvezetőknek kötelességük megosztani tapasztalataikat ígéretes eladóikkal. Átruházta a felelősséget, bízott az embereiben, és végül partnerré tette őket, amikor új üzleteket nyitottak. Az egyes üzletvezetők a nyereség egyharmadán osztoztak, ami Penney szerint az üzleti siker motiváló tényezője volt. 1909-re feladta a Kemmererstore személyes vezetését, és Salt Lake Citybe költözött, hogy az összes üzletének központot hozzon létre.
1913 januárjában Penney üzletláncát bejegyezték, és a nevét J. C. Penney Company-ra változtatták. A 48 üzletből álló lánc központja 1914-ben New York Citybe költözött. Penney folytatta a terjeszkedést, és 1924-ben megnyitotta az 500. üzletet szülővárosában, a Missouri állambeli Hamiltonban. A vállalat 1927-ig társulásként működött tovább, amikor már több mint 1000 üzlete volt, ami szükségessé tette a teljes bejegyzést. Az üzletvezetők 1907-től kezdve részvényeket kaptak az üzletláncban, amelyek összegét az egyes üzletek nyeresége határozta meg. Ezt a részvényt 1927-ben az egész vállalat részvényeire cserélték.
Penney 1917-ig volt a vállalat elnöke, 1917-től 1946-ig az igazgatótanács elnöke, 1946-tól 1958-ig pedig tiszteletbeli elnöke. Az 1971. február 12-én bekövetkezett haláláig hatalmas vállalati birodalmat hozott létre. A cégnek 1660 üzlete volt, amelyek éves forgalma meghaladta a 4 milliárd dollárt, ezzel a J. C. Penney a Sears, Roebuck and Co. után a második helyen állt az ország nem élelmiszer-kiskereskedelmi üzletei között. Mind az 50 000 alkalmazott, vagy “munkatárs”, ahogy Penney nevezte őket, részesedett a nyereségből.
Penney szerette, ha “Az ezer társas ember”-nek nevezik, ezt a kifejezést használta önéletrajzának címében. Azt állította, hogy “az etikai eszközök, amelyekkel az üzlettársaim és én pénzt szereztünk, fontosabbak, mint az a tény, hogy üzleti sikert értünk el.”
Azután, hogy 1917-ben távozott a vállalat éléről, Penney több időt töltött külső érdekeltségeivel. Az egyik a szarvasmarha-tenyésztés volt. New York államban 1922-től 1953-ig egy 705 hektáros farmot vezetett, ahol fajtatiszta Guernsey tejelő szarvasmarhákat nevelt. Egy másik farmot is üzemeltetett New York államban, valamint nyolc vagy kilenc farmot Missouriban. Penney számos jótékonysági és vallási tevékenységben is részt vett, és nagyszerű szónok volt. Aktívan tevékenykedett a Fiatal Férfiak Keresztény Egyesületében, a Cserkészcsapatban, a Nemzeti 4-H Klubban, az Allied Youth Inc. és a Laikusok Mozgalma a Keresztény Világért szervezetben. Szülei emlékére nyugdíjas vallási dolgozók számára otthont alapított Floridában. Bár csak korlátozott végzettséggel rendelkezett, 17 tiszteletbeli diplomát és számos más kitüntetést, díjat és elismerést kapott.
A 95 éve alatt Penney háromszor volt házas, öt gyermeke és kilenc unokája született. Első felesége 1910-ben halt meg, 1919-ben vette feleségül Mary Hortense Kimballt. A nő 1923-ban halt meg, miután egy fiút, Kimballt szült. Három évvel később, 1926-ban feleségül vette Caroline B. Autenrieth-et, akitől két lánya született, Mary Frances és Carol.
Penney felemelkedése a hírnév és a vagyon felé nem volt makulátlan sikertörténet. Az 1929-es tőzsdei összeomlás súlyos pénzügyi katasztrófát okozott. Penney 40 millió dollárt veszített, amikor több bank, amelytől kölcsönt vett fel, elárverezte a személyes részvénytulajdonával biztosított kölcsönöket. Elbocsátotta alkalmazottait, és 56 évesen, lélekben és egészségben meggyengülve, 7 millió dolláros adóssággal szembesült. Penney azonban képes volt újrakezdeni az életét kölcsönkapott pénzből, és hamarosan visszaszerezte “birodalma” feletti irányítást. Későbbi éveiben elgondolkodott: “Hiszek az aranyszabály betartásában, az Istenbe és a hazába vetett hitben. Ha újra fiatalember lennék, ezek lennének a legfontosabb elveim.”