Septième de 12 enfants, dont six seulement ont atteint l’âge adulte, J. C. Penney est né le 16 septembre 1875, dans la ferme de son père, près de Hamilton, dans le Missouri. Son père, le révérend James Cash Penney, Sr, était un prédicateur non rémunéré pour une secte fondamentaliste connue sous le nom de baptistes primitifs et travaillait dans une ferme pour gagner sa vie. Sa mère, Mary Frances Paxton Penney, était originaire du Kentucky. La vie était sans joie et difficile pour la famille, et à l’âge de huit ans, le jeune Penney a appris qu’il devait acheter ses propres vêtements. Ce n’était pas d’abord par nécessité, mais plutôt pour lui apprendre la valeur de l’argent et de l’autonomie. Pour gagner de l’argent, il a acheté un cochon, l’a engraissé et l’a vendu avec un bénéfice, puis en a acheté d’autres. Plus tard, son père lui ordonna de vendre ses porcs avant qu’ils ne soient prêts pour un prix supérieur parce qu’ils étaient répréhensibles pour les voisins, alors il se tourna vers la culture et la vente de pastèques.
Penney fut diplômé de la Hamilton High School en 1893 mais n’avait pas l’argent pour une éducation supérieure. Avec l’aide de son père, il a obtenu un poste de commis dans un magasin local de marchandises sèches et de vêtements. À partir du 4 février 1895, il est payé 25 dollars par mois. N’ayant jamais été athlétique ou physiquement robuste, un peu plus de deux ans après avoir commencé à travailler, sa santé a commencé à décliner. Sur les conseils de son médecin, il part en 1897 pour le Colorado afin de retrouver la santé. Il travaille brièvement dans deux magasins puis achète une boucherie mais fait faillite plutôt que de donner du whisky au cuisinier d’un hôtel local afin d’obtenir des affaires.
Une nouvelle opportunité prometteuse se présente lorsque Penney est employé par un marchand de Longmont, Colorado, T. M. Callahan, pour travailler dans le premier magasin de Callahan dans sa petite chaîne Golden Rule Mercantile Company. En mars 1899, Callahan envoie le jeune homme travailler dans son magasin d’Evanston, dans le Wyoming, avec un salaire de 50 dollars par mois. Peu après, le 24 août 1899, il épouse Berta A. Hess qui lui donnera deux fils, Roswell Kemper et James Cash, Jr. Trois ans plus tard, Penney est envoyé dans la ville de Kemmerer, dans le Wyoming, pour y ouvrir un nouveau magasin Golden Rule. Le magasin est capitalisé à 6 000 $, dont un tiers appartient à Penney, ce qui fait de lui un partenaire junior. La possibilité de partager la propriété du magasin augmente son ambition, excite son imagination et lui donne l’idée d’avoir un jour sa propre chaîne de magasins basée sur le même principe de partenaires-propriétaires qui partagent les profits. Au début, il vit frugalement dans une mansarde au-dessus du magasin. Il ouvrait le magasin à 7 h, le fermait à 21 h ou 22 h et travaillait une demi-journée le dimanche.
En 1903, il acquiert un tiers d’intérêt dans un autre magasin Golden Rule, et un an plus tard, il supervise un troisième magasin dans lequel on lui vend un tiers d’intérêt. En 1907, Penney a acheté les deux autres tiers des intérêts dans ces trois magasins Golden Rule. Il trouve, sélectionne et forme des hommes, convaincu que les directeurs de magasin ont le devoir de partager leur expérience avec leurs vendeurs prometteurs. Il délègue des responsabilités, fait confiance à ses employés et finit par en faire des partenaires lors de l’ouverture de nouveaux magasins. Chaque directeur de magasin partageait un tiers des bénéfices, un facteur de motivation pour la réussite en affaires selon Penney. En 1909, il abandonna la gestion personnelle du magasin de Kemmererstore et déménagea à Salt Lake City pour établir un siège social pour tous ses magasins.
En janvier 1913, la chaîne de Penney fut incorporée et le nom fut changé en J. C. Penney Company. Le siège social de la chaîne de 48 magasins a déménagé à New York en 1914. Penney poursuit son expansion et, en 1924, ouvre le 500e magasin dans sa ville natale de Hamilton, dans le Missouri. La société a continué à fonctionner sous forme de partenariat jusqu’en 1927, date à laquelle elle comptait plus de 1 000 magasins, ce qui nécessitait une incorporation complète. Depuis 1907, les gérants reçoivent des actions de la chaîne, dont le montant est déterminé par les bénéfices de leurs magasins individuels. En 1927, ils ont échangé ces actions contre des actions de la société dans son ensemble.
Penney a été président de la société jusqu’en 1917, président du conseil d’administration de 1917 à 1946, et président honoraire du conseil de 1946 à 1958. Au moment de sa mort, le 12 février 1971, il avait créé un vaste empire commercial. Il y avait 1 660 magasins avec des ventes annuelles de plus de 4 milliards de dollars, ce qui plaçait J. C. Penney au deuxième rang des détaillants non alimentaires du pays, après Sears, Roebuck and Co. Les 50 000 employés, ou « associés » comme Penney les appelait, partageaient les bénéfices.
Penney aimait être appelé « l’homme aux mille associés », une expression qu’il a utilisée dans le titre d’une autobiographie. Il affirmait que » les moyens éthiques par lesquels mes associés et moi-même avons gagné de l’argent sont plus importants que le fait d’avoir réussi en affaires « .
Après avoir quitté la présidence de l’entreprise en 1917, Penney consacre plus de temps à ses intérêts extérieurs. L’un d’eux était l’élevage de bétail. Il a exploité une ferme de 705 acres dans l’État de New York de 1922 à 1953 en élevant des bovins laitiers Guernsey de pure race. Il exploite une autre ferme dans l’état de New York et huit ou neuf fermes dans le Missouri. Penney était également impliqué dans de nombreux projets caritatifs et religieux et était un orateur prodigieux. Il est actif au sein de la Young Men’s Christian Association, des Boy Scouts, du National 4-H Club, d’Allied Youth Inc. et du Laymen’s Movement for a Christian World. Il a fondé un foyer pour travailleurs religieux retraités en Floride en mémoire de ses parents. Bien qu’il n’ait eu qu’une éducation limitée, il a été le récipiendaire de 17 diplômes honorifiques et de nombreux autres honneurs, récompenses et citations.
Pendant ses 95 ans, Penney a été marié trois fois et a eu cinq enfants et neuf petits-enfants. Sa première femme est décédée en 1910, et en 1919, il a épousé Mary Hortense Kimball. Elle meurt en 1923 après avoir donné naissance à un fils, Kimball. Trois ans plus tard, en 1926, il a épousé Caroline B. Autenrieth, qui lui a donné deux filles, Mary Frances et Carol.
L’ascension de Penney vers la gloire et la fortune n’a pas été une histoire à succès sans tache. Un désastre financier majeur a frappé lors du crash boursier de 1929. Penney a perdu 40 millions de dollars lorsque plusieurs banques auprès desquelles il avait emprunté ont saisi les prêts garantis par ses avoirs personnels en actions. Il a laissé partir ses domestiques et s’est retrouvé affaibli dans son esprit et sa santé et confronté à une dette de 7 millions de dollars à l’âge de 56 ans. Mais Penney a pu repartir de zéro avec de l’argent emprunté et a rapidement repris le contrôle de son « empire ». Dans ses dernières années, il a réfléchi : « Je crois en l’adhésion à la règle d’or, en la foi en Dieu et en la patrie. Si j’étais à nouveau un jeune homme, ce seraient mes principes cardinaux ».