La fel cum tatăl său a văzut viitorul companiei mai degrabă în tabulatoare decât în cântare și ceasuri, Thomas J. Watson, Jr.., a prevăzut rolul pe care calculatoarele îl vor juca în afaceri și a condus transformarea IBM dintr-un producător de dimensiuni medii de echipamente de tabulare și mașini de scris într-un lider al industriei de calculatoare.
În timpul lui Thomas J. Watson Jr. au existat și inovații în marketing. În 1969, IBM a schimbat modul în care vindea tehnologia. În loc să ofere hardware, servicii și software exclusiv în pachete, comercianții au „dezagregat” componentele și le-au oferit spre vânzare în mod individual. Dezagregarea a dat naștere industriilor de software și servicii de miliarde de dolari, în care IBM este astăzi lider mondial.
La 7 aprilie 1964, IBM a prezentat System/360, prima mare „familie” de calculatoare care folosea software și echipamente periferice interschimbabile. A fost o îndepărtare îndrăzneață de mainframe-ul monolitic, de tip „one-size-fits-all”. Revista Fortune l-a supranumit „pariul de 5 miliarde de dolari al IBM.”
System/360 oferea posibilitatea de a alege între cinci procesoare și 19 combinații de putere, viteză și memorie. Un utilizator putea opera aceleași produse pe bandă magnetică și disc ca un alt utilizator cu un procesor de 100 de ori mai puternic. System/360 a oferit, de asemenea, creșteri spectaculoase de performanță, datorită tehnologiei Solid Logic – module ceramice de jumătate de inch care conțin circuite mult mai dense, mai rapide și mai fiabile decât tranzistorii anteriori.