Séptimo de doce hijos, de los que sólo seis llegaron a la madurez, J. C. Penney nació el 16 de septiembre de 1875 en la granja de su padre cerca de Hamilton, Missouri. Su padre, el reverendo James Cash Penney, Sr., era un predicador no remunerado de una secta fundamentalista conocida como bautistas primitivos y se dedicaba a la agricultura para ganarse la vida. Su madre, Mary Frances Paxton Penney, era de Kentucky. La vida era poco alegre y difícil para la familia, y a la edad de ocho años se le dijo al joven Penney que tenía que comprar su propia ropa. Esto no fue principalmente por necesidad, sino para enseñarle el valor del dinero y la autosuficiencia. Para ganar dinero compró un cerdo, lo engordó y lo vendió con beneficio, y luego compró otros. Más tarde, su padre le ordenó que vendiera sus cerdos antes de que estuvieran listos a un precio elevado porque eran desagradables para los vecinos, así que se dedicó a cultivar y vender sandías.
Penney se graduó en el instituto de Hamilton en 1893, pero no tenía dinero para cursar estudios superiores. Con la ayuda de su padre consiguió un puesto como dependiente en una tienda local de productos secos y ropa. A partir del 4 de febrero de 1895, le pagaban 25 dólares al mes. Nunca fue atlético ni físicamente robusto, y poco más de dos años después de empezar a trabajar su salud empezó a fallar. Por consejo de su médico, en 1897 se marchó a Colorado para recuperar la salud. Trabajó brevemente en dos tiendas y luego compró una carnicería, pero se arruinó antes que donar whisky al cocinero de un hotel local para conseguir negocio.
Una nueva y prometedora oportunidad llegó cuando Penney fue contratado por un comerciante de Longmont, Colorado, T. M. Callahan, para trabajar en la primera tienda de Callahan en su pequeña cadena Golden Rule Mercantile Company. En marzo de 1899, Callahan envió al joven a trabajar en su tienda de Evanston, Wyoming, con un salario de 50 dólares al mes. Poco después, el 24 de agosto de 1899, se casó con Berta A. Hess, con quien tendría dos hijos, Roswell Kemper y James Cash, Jr. Tres años después, Penney fue enviado a la ciudad de Kemmerer, Wyoming, para abrir allí una nueva tienda Golden Rule. La tienda se capitalizó en 6.000 dólares, de los cuales un tercio era de Penney, lo que le convertía en socio menor. La oportunidad de compartir la propiedad aumentó su ambición, excitó su imaginación y le dio la idea de tener algún día una cadena de tiendas propia basada en el mismo principio de socios-propietarios que compartían los beneficios. Al principio vivía frugalmente en una habitación del ático sobre la tienda. Abría la tienda a las 7:00 de la mañana, cerraba a las 9:00 o 10:00 de la noche y trabajaba medio día el domingo.
En 1903 adquirió un tercio de la participación en otra tienda Golden Rule, y un año después supervisó una tercera tienda en la que le vendieron un tercio de la participación. En 1907 Penney compró los otros dos tercios de interés en estas tres tiendas Golden Rule. Encontró, seleccionó y formó a los hombres, convencido de que los directores de las tiendas tenían el deber de compartir su experiencia con sus prometedores vendedores. Delegó la responsabilidad, confió en su gente y, finalmente, los hizo socios cuando se abrieron nuevas tiendas. Los gerentes de las tiendas compartían un tercio de los beneficios, un factor de motivación para el éxito en los negocios, según Penney. En 1909 abandonó la gestión personal de la tienda de Kemmererstore y se trasladó a Salt Lake City para establecer una sede para todas sus tiendas.
En enero de 1913 la cadena de Penney se constituyó en sociedad y el nombre se cambió a J. C. Penney Company. La sede de la cadena de 48 tiendas se trasladó a la ciudad de Nueva York en 1914. Penney continuó la expansión y en 1924 abrió la tienda número 500 en su ciudad natal, Hamilton, Missouri. La empresa continuó operando como sociedad hasta 1927, cuando había más de 1.000 tiendas, lo que hizo necesaria su plena incorporación. A partir de 1907, los gerentes recibieron acciones de la cadena, cuyo importe se determinaba en función de los beneficios de sus tiendas individuales. En 1927 cambiaron estas acciones por acciones de la empresa en su conjunto.
Penney fue presidente de la empresa hasta 1917, presidente del consejo de administración de 1917 a 1946 y presidente honorario del consejo de administración de 1946 a 1958. En el momento de su muerte, el 12 de febrero de 1971, había creado un vasto imperio empresarial. Había 1.660 tiendas con ventas anuales de más de 4.000 millones de dólares, lo que convertía a J. C. Penney en la segunda empresa minorista no alimentaria del país, después de Sears, Roebuck and Co. Los 50.000 empleados, o «asociados» como los llamaba Penney, participaban en los beneficios.
A Penney le gustaba que le llamaran «El hombre de los mil socios», frase que utilizó en el título de una autobiografía. Afirmaba que «los medios éticos con los que mis socios y yo hemos ganado dinero son más importantes que el hecho de haber logrado el éxito empresarial».
Tras dejar la presidencia de la empresa en 1917, Penney dedicó más tiempo a sus intereses externos. Uno de ellos era la cría de ganado. De 1922 a 1953 dirigió una granja de 705 acres en el estado de Nueva York en la que criaba ganado lechero de pura raza Guernsey. También dirigió otra granja en el estado de Nueva York y ocho o nueve granjas en Missouri. Penney también participó en muchas actividades benéficas y religiosas y fue un orador prodigioso. Participó activamente en la Young Men’s Christian Association, los Boy Scouts, el National 4-H Club, Allied Youth Inc. y el Laymen’s Movement for a Christian World. Fundó un hogar para religiosos jubilados en Florida en memoria de sus padres. Aunque su educación era limitada, recibió 17 títulos honoríficos y muchos otros honores, premios y menciones.
Durante sus 95 años, Penney se casó tres veces y tuvo cinco hijos y nueve nietos. Su primera esposa murió en 1910, y en 1919 se casó con Mary Hortense Kimball. Ella murió en 1923 después de dar a luz a un hijo, Kimball. Tres años más tarde, en 1926, se casó con Caroline B. Autenrieth, con la que tuvo dos hijas, Mary Frances y Carol.
El ascenso de Penney a la fama y la fortuna no fue una historia de éxito sin mácula. La caída de la bolsa de 1929 supuso un gran desastre financiero. Penney perdió 40 millones de dólares cuando varios bancos a los que había pedido préstamos ejecutaron los créditos garantizados por sus acciones personales. Dejó marchar a sus sirvientes y acabó debilitado de espíritu y salud y con una deuda de 7 millones de dólares a la edad de 56 años. Pero Penney pudo volver a empezar con dinero prestado y pronto recuperó el control de su «imperio». En sus últimos años reflexionó: «Creo en la adhesión a la Regla de Oro, en la fe en Dios y en la patria. Si volviera a ser un hombre joven, esos serían mis principios cardinales»
.