Né le 14 juillet 1915 à Enid dans le Mississipi, John Mitchell est diplômé de l'université de Columbia en 1934 avec un diplôme en Economie. Il poursuit à l'université de Chicago où il obtient aussi un dipôme en 1939. Il s'engage dans l'Armée de Reserve et obtient sa promotion au rang de Slt ainsi que son brevet de pilote le 26 juillet 1940 à Kelly Field au Texas. Il est affecté au 55th PS / 20th PG après avoir obtenu ses ailes et se voit promu Lieutenant le 1 novmebre 1941. Le 2 février 1942, il rejoint le 70th FS / 18th FG (7th Air Force) à Samoa et obtient une nouvelle promotion au grade de Capitaine le 1 mars 1942. Le 14 septembre, il est transféré au 67th FS / 347th FG (13th Air Force) avant d'être à nouveau transféré, cette fois-ci au 339th FS / 347th FG le 3 octobre. Fin août 1942, le total de ses heures de vol est de 785.

Le 9 février 1943, il est promu Major et prend le commandement du Squadron. Après en avoir plannifié l'organisation en partie, il prend la tête du groupe de 18 pilotes qui participeront à la mission d'interception du bombardier "Betty" transportant l'Amiral Yamamoto, le 18 avril 1943, l'opération "Vengeance". Initiallement pressenti pour recevoir la Médaille d'Honneur mais en raison de fuites dans la presse concernant les détails de la mission et la controverse autour de l'auteur de la victoire, il ne recevra que la Navy Cross, au même titre que les autres membres de la mission.

Après la mission, il retourne aux USA en mai 1943 et obtient une nouvelle promotion au grade de Lieutenant Colonel le 1 août 1944. Le 16 avril 1945, il est transféré à la 7th Air Force avant de rejoindre l'Etat-Major du 15th Fighter Group le 8 mai. Avec ce group, il effectue un nouveau tour d'opération dans le Pacifique et enrichi son tableau de chasse de 3 nouvelles victoires sur des appareils Japonais, portant son score à 11 victoires pour la seconde guerre mondiale. Le 3 juillet, il est transféré au 21th FG avec lequel il reste seulement jusqu'au 20 du même mois avant de prendre le commandement du 15th FG qu'il vient de quitter 17 jours plus tot. Promu Colonel le 25 août 1945, il continue à servir dans l'USAF après guerre.

En 1952/53, il participe à la guerre de Corée avec le 39th FIS / 51th FIW. Il reprend le commandement derrière Gabby Gabresky et abat 4 Mig 15 tout en endommageant 2 autres, portant le total de ses victoires à 15. Au cours de ce nouveau séjour, sa tâche la plus difficile en qualité de commandant sera de freiner les ardeurs de ses pilotes, désireux d'abattre du MIG sans tenir compte des règles d'engagement stricts qui interdisaient notamment le franchissement de la rivière Yalu symbolisant la frontière Chinoise et derrière laquelle les MiG se réfugiaient régulièrement. La question faillit prendre un tour dramatique lorsque le L.Col Edwin Heller du 16th FIS fut abattu du mauvais côté de la rivière Yalu (il sera fait prisonnier et libéré à la fin de la guerre de Corée avant de quitter l'USAF en 1967). Mitchell quitte finalement l'USAF en juillet 1958 au terme d'une carrière jalonnée de nombreuses décorations.