Al igual que su padre vio el futuro de la compañía en los tabuladores y no en las balanzas y relojes, Thomas J. Watson, Jr, previó el papel que desempeñarían los ordenadores en los negocios, y dirigió la transformación de IBM, que pasó de ser un fabricante de tamaño medio de equipos de tabulación y máquinas de escribir a un líder de la industria informática.
Bajo el mandato de Thomas J. Watson, Jr. también hubo innovaciones en el marketing. En 1969, IBM cambió su forma de vender tecnología. En lugar de ofrecer el hardware, los servicios y el software exclusivamente en paquetes, los comercializadores «desagregaron» los componentes y los ofrecieron a la venta individualmente. La desagregación dio origen a las multimillonarias industrias de software y servicios, de las que IBM es hoy líder mundial.
El 7 de abril de 1964, IBM presentó el System/360, la primera gran «familia» de ordenadores que utilizaba software y equipos periféricos intercambiables. Supuso una audaz salida del monolítico mainframe de talla única. La revista Fortune lo bautizó como «la apuesta de 5.000 millones de dólares de IBM»
El System/360 ofrecía la posibilidad de elegir entre cinco procesadores y 19 combinaciones de potencia, velocidad y memoria. Un usuario podía manejar los mismos productos de cinta magnética y disco que otro con un procesador 100 veces más potente. El System/360 también ofrecía una mejora espectacular del rendimiento, gracias a la tecnología Solid Logic: módulos cerámicos de media pulgada que contenían circuitos mucho más densos, rápidos y fiables que los anteriores transistores.