События фильма разворачиваются в США в 1866 году. Главная героиня — Жозефина Монаган попала в сложное положение — она забеременела, не будучи замужем. Это грозило ей позором на всю жизнь и судьбой изгоя. Жозефина сбегает из родного города и едет на Дикий Запад, где останавливается в Рубиновом городе. Она переодевается в мужчину и представляется всем «Маленьким Джо». Девушке удается скрывать свой истинный пол на протяжении нескольких лет. «Баллада о маленькой Джо» — драматический вестерн, снятый по реальным событиям.