Действие сериала разворачивается в Нью-Йорке в 1960-е годы. Криминальный авторитет Эллсуорт «Бампи» Джонсон возвращается после десятилетней отсидки и ввязывается в войну с итальянской мафией, чтобы вернуть себе контроль над родными улицами Гарлема.
«Крестный отец Гарлема» — это приквел криминальной драмы Ридли Скотта «Гангстер» (2007), которая рассказывает о Фрэнке Лукасе — водителе Бампи Джонсона. События сериала разворачивается за пять лет до событий фильма.