Han undervisade vid Kennedy School of Government från 1973 till 1981 och ingick i fakulteten vid Harvard School of Public Health från 1973 till 1984, då han blev skolans dekan. Han ledde School of Public Health i 13 år innan han blev universitetets rektor i ytterligare fyra år. År 2002 blev han ordförande för Institute of Medicine (numera National Academy of Medicine), där han slutade sin tjänst 2014.
Dr Fineberg är medförfattare till böckerna Clinical Decision Analysis, Innovators in Physician Education och The Epidemic that Never Was, även publicerad under titeln The Swine Flu Affair, en analys av det kontroversiella federala vaccinationsprogrammet mot svininfluensan 1976. Han har varit medredaktör för flera böcker om så skilda ämnen som aidsförebyggande, vaccinsäkerhet och riskförståelse i samhället. Han har också skrivit många artiklar som publicerats i professionella tidskrifter.
Fineberg var med och grundade och var ordförande för Society for Medical Decision Making och har också varit konsult för Världshälsoorganisationen. Vid National Academies of Sciences, Engineering and Medicine har han varit ordförande och medlem i ett antal paneler som behandlar hälso- och vetenskapspolitiska frågor, däribland aids, vaccinsäkerhet samt reproducerbarhet och replikerbarhet inom vetenskaplig forskning. Han har varit ledamot av Massachusetts folkhälsoråd (1976-1979), ordförande för Health Care Technology Study Section of the National Center for Health Services Research (1982-1985) och ordförande för Association of Schools of Public Health (1995-1996). Dessutom har han suttit i styrelsen för ett antal filantropiska organisationer, bland annat William and Flora Hewlett Foundation, Josiah Macy, Jr. Foundation, François-Xavier Bagnoud Foundation (USA) och China Medical Board. Han är medlem av American Academy of Arts and Sciences och American Philosophical Society.
Han har fått många utmärkelser och priser, bland annat Joseph W. Mountin-priset från Centers for Disease Control, Wade Hampton Frost-priset från Epidemiology Section of the American Public Health Association, Calderone-priset i folkhälsa från Columbia Universitys Mailman School of Public Health, som tilldelats dr. Fineberg det högsta priset inom folkhälsa, från Academyhealth, och hedersdoktorstitlar från ett antal universitet, inklusive en Doctor of Laws från Harvard University 2018.
Från 2013 till 2018 var Fineberg ordförande för Carnegie Endowment for International Peace. Han efterträddes av USA:s tidigare handelsminister Penny Pritzker i maj 2018. Han är för närvarande ordförande för Gordon and Betty Moore Foundation.