Am 26. Oktober 1954 erblickt James Pickens Jr. in Cleveland das Licht der Welt. Schon während seinem Studiums an der "Bowling Green State University" beginnt er mit der Schauspielerei und erhält seine erste Rolle in der Produktion "Matters of Choice". Nach erfolgreichem Abschluss seines Studiums beginnt James Pickens Jr. seine Schauspielkarriere.
Zunächst ist er am "Roundabout Theatre" in New York engagiert und schlüpft in die Rolle des Walter Lee in "A Raisin in the Sun". An der Seite von Denzel Washington und Samuel L. Jackson spielt James Pickens Jr. in "A Soldier's Play". Doch in New York will der Schauspieler anscheinend nicht verweilen und zieht 1990 nach Hollywood, um noch mehr Engagements auf seinem Steckbrief verbuchen zu können.
Zahlreiche Rollen, beispielsweise in den Serien "Roseanne", "Beverly Hills 90210" und "Six Feet Under", erhält der Schauspieler und arbeitet sich stetig weiter nach oben. Nach einigen weiteren Film- und TV-Auftritten gelingt James Pickens Jr. dann schließlich der Durchbruch, als ihm im Jahr 2005 die Rolle des "Dr. Richard Webber" in der ABC-Serie "Grey's Anatomy" angeboten wird.