Stejně jako jeho otec viděl budoucnost společnosti spíše v tabulátorech než ve vahách a hodinách, Thomas J. Watson, Jr., předvídal, jakou roli budou v podnikání hrát počítače, a vedl přeměnu IBM ze středně velkého výrobce tabelačních zařízení a psacích strojů v lídra počítačového průmyslu.
Pod vedením Thomase J. Watsona ml. došlo také k inovacím v oblasti marketingu. V roce 1969 IBM změnila způsob prodeje technologií. Místo aby nabízela hardware, služby a software výhradně v balíčcích, marketéři „rozpojili“ jednotlivé komponenty a nabízeli je k prodeji jednotlivě. Unbundling dal vzniknout mnohamiliardovému odvětví softwaru a služeb, v němž je dnes IBM světovou jedničkou.
Dne 7. dubna 1964 představila společnost IBM System/360, první velkou „rodinu“ počítačů, která využívala vyměnitelný software a periferní zařízení. Byl to odvážný odklon od monolitických, univerzálních mainframů. Časopis Fortune jej nazval „hazardem IBM za 5 miliard dolarů“.
Systém/360 nabízel výběr z pěti procesorů a 19 kombinací výkonu, rychlosti a paměti. Uživatel mohl pracovat se stejnými produkty na magnetických páskách a discích jako jiný uživatel se stokrát výkonnějším procesorem. System/360 také nabízel dramatický nárůst výkonu díky technologii Solid Logic – půlpalcovým keramickým modulům obsahujícím obvody mnohem hustší, rychlejší a spolehlivější než dřívější tranzistory.