Po návratu do států už Hammond odstartoval svou producentskou kariéru. Setkal se s pianistou Garlandem Wilsonem a byl přesvědčen, že by jeho hra měla být natočena. Vypravil se tedy za Frankem Walkerem z Columbie a nabídl mu, že bude financovat a produkovat Wilsonovo nahrávání. Walker mu slíbil 125 dolarů za natočení dvou desek (na každou stranu desky se vešla jedna přibližně pětiminutová skladba). Wilsonovy nahrávky St. James Infirmary se prodalo několik set kusů, a tak se z Hammonda stal ve dvaceti letech úspěšný producent. Přestože na něj hospodářská recese konce dvacátých let neměla velký ekonomický dopad, ve svých názorech se projevoval značně radikálně levicově. Často poukazoval na segregaci černých hudebníků, kteří nedostávali nabídky na rozhlasové natáčení nebo příležitost vystupovat v bělošských klubech. V roce 1932 byl požádán nahrávacím ředitelem Columbia Benem Selvinem , zda by neměl nějaký tip na jazzového umělce, který by stál za natočení. Hammond hned nabídl otce swingu Fletchera Hendersona s jeho orchestrem. Díky Hendersonově známé nedochvilnosti se však podařilo během frekvence nahrát pouze dvě skladby, ale přesto toto natáčení patřilo k Hammondovým nejmilejším. V roce 1933 dostal Hammond příležitost natáčet s Bessie Smith . Natáčení sám financoval a poprvé na něj přizval i Bennyho Goodmana , kterého nazýval jedním z nejdůležitějších lidí ve svém životě. Nejen z důvodů hudebních, Goodman se stal Hammondovým velmi dobrým přítelem, a později i jeho švagrem. První dvě nahrávky s Bennym byly natočeny pouze s hudebníky bílé pleti, protože Goodman měl obavy, aby nepřišel o práci, kdyby hrál s černými. V roce 1933 ho Hammond pozval na koncert Billie Holiday a krátce po té zorganizoval jejich společné natáčení. Přizval i černého pianistu Teddyho Wilsona , a tím poprvé narušil hegemonii bílých hudebníků, přičemž dalším členem nově vzniklého tria Bennyho Goodmana se stal bílý bubeník Gene Krupa . Jenže během 30. let Hammond dále bořil bariéry, když ke Goodmanově skupině přidával další černé hudebníky – vibrafonistu Lionela Hamptona a elektrického kytaristu Charlie Christiana . Dalším Hammondovým velkým trumfem byl big band Counta Basieho v jehož řadách objevil řadu výrazných talentů, jako byl bubeník Jo Jones , saxofonista Lester Young nebo zpěvák Jimmy Rushing .
Koncem 30. let si Hammond splnil další velký sen a otevřel první integrovaný noční klub v New Yorku Cafe Society, kde vystupovalo mnoho z jeho oblíbených jazzových a bluesových umělců. Oproti tomu byla 40. léta pro Hammonda osobně i pracovně velmi těžkým obdobím. Zemřel mu syn, o něco později se rozvedl a nástup bebopu odsunul jeho oblíbený swing na druhou kolej. V té době se věnoval především natáčení klasické hudby v Evropě. V padesátých letech se stal prezidentem Columbie Goddard Lieberson , který přizval Hammonda opět ke spolupráci. V hromadě demo nahrávek, které Hammond dostal k poslechu, objevil teprve osmnáctiletou Arethu Franklin , podle jeho slov největší zpěvačku od dob Billie Holiday . Ve studiu ji obklopil jazzovými hudebníky, ale vedení Columbia mělo o její kariéře představu popové zpěvačky, a tak Arethu dostal pod svá křídla jiný producent. Jak známo, Franklinová pak ale nebyla u Columbie spokojená a po čase přešla k Atlantic Records, kde se teprve její sláva rozzářila naplno.
John Hammond věřil, že hudba může být motorem sociálních změn, a obrátil pozornost k hudbě mladých rebelů počátku 60. let. Pete Seeger se dostal jako komunista v 50. letech na černou listinu, ale přesto ho počátkem nového desetiletí Hammond přivedl do stáje Columbia, kde se jeho píseň We Shall Overcome stala celosvětovým hitem. Hammond patřil k těm, kteří chtěli stále měnit svět k lepšímu, stejně jako mladý folkový zpěvák Bob Dylan . Ten se stal dalším výrazným umělcem, kterého Hammond přivedl ke Columbii. Natočil s ním několik jeho prvních alb, pouze s kytarou a foukací harmonikou. Díky písním jako Blowind In the Wind nebo A Hard Rain's A-Gonna Fall se stal Dylan jedním z největších skladatelů populárních písní 20. století. Počátkem 70. let objevil další velký talent, „nového Dylana“ Bruce Springsteena , a získal tak pro Columbii další výraznou osobnost, která nepopiratelně ovlivnila vývoj rocku v 70. a 80. letech.
Po roce 1975 odešel z Columbia Records a stal se nezávislým producentem. Stihl ještě objevit zpěváka a kytaristu Steve Ray Vaughana a v roce 1987 John Henry Hammond Jr. člověk který nejenže výrazně ovlivnil vývoj populární hudby 20. století, ale změnil historii Spojených států, zemřel.
