Con una patada izquierda mortal que le ganó el apodo de Cañonero, Jack Rowley llevó a los Rojos a la gloria en los años de la posguerra, cuando dio frutos el plan maestro de Matt Busby para el United.
En su mejor momento, Rowley, al igual que su igualmente eficaz hermano Arthur, fue uno de los anotadores más temidos del país, excelente en las jugadas por el aire y también sobre el terreno.
Rowley se unió a los Rojos en un pase de £3.000 en 1937 después de breves temporadas con el equipo Wolverhampton Wanderers de su ciudad, y con los equipos Bournemouth y Boscombe Athletic, en los que anotó 10 goles en 11 apariciones. En su primera temporada completa en el Old Trafford, Rowley contribuyó a llevar al United al segundo puesto de la segunda división, y a su primer retorno a la primera categoría del fútbol desde 1931.
Debido a que las ligas de fútbol competitivo fueron suspendidas al estallar la Guerra, Rowley sirvió en el regimiento de South Staffordshire y participó en el desembarco del Día D en Normandía en 1945. Durante las hostilidades, también fue jugador invitado de los equipos Wolves, Aldershot, Belfast Distillery, Folkestone, Shrewsbury Town y Tottenham Hotspur.
Cuando en 1946 se reinició el programa completo de la liga, Rowley retomó su carrera con el United. Fue un pilar del equipo ganador de la Copa de la FA de 1948, alineación que contó con la línea de delanteros conocida como los Cinco Famosos, y anotó dos veces en la victoria 4-2 en la final contra el Blackpool.
En 1952, forjó una temible alianza con el diminuto jugador escocés Jimmy Delaney, ya veterano. Los 30 goles de Rowley en la liga contribuyeron a la conquista por parte del United del título de la Primera División, por primera vez desde 1911.
Luego de 503 apariciones y de una cifra sobresaliente de 312 goles (también jugó cinco partidos internacionales en representación de Inglaterra, con un promedio de un gol por partido) dejó al United para unirse al Plymouth Argyle como jugador-director técnico, y se retiró del fútbol dos años después en 1957.
Después de varios cargos como entrenador y director técnico, se retiró de los cargos técnicos en diciembre de 1969 para manejar una oficina postal/ agencia de noticias en el distrito de Oldham en Shaw.