Efter studentexamen i Luleå 1958 studerade Kari Marklund i matematik och naturvetenskapliga ämnen, varefter han bedrev forskning och undervisade vid Uppsala universitet samt vid Oxfords universitet. Han blev filosofie doktor vid Uppsala universitet 1973, och docent i fasta tillståndets fysik samma år.

Kari Marklund var också överbibliotekarie vid Linköpings universitet 1978–1983 och vid Lunds universitet 1983–1988. Han var chefredaktör för Nationalencyklopedin 1988–1993 samt förlagsdirektör 1992–1993 för Bokförlaget Bra Böcker, Höganäs. Mellan 1994 och 1998 var han rektor vid Mitthögskolan i Sundsvall.

Kari Marklund var landshövding i Norrbottens län mellan 1999 och 2003.

Kari Marklund var också mycket idrottsintresserad. Han var bland annat förbundsordförande i Svenska Handikappidrottsförbundet och Sveriges Paralympiska Kommitté från 2003 till 2011.