Après des années d'absence, Rocky Balboa (Sylvester Stallone), retraité depuis longtemps, décide de faire une apparition dans son ancien restaurant préféré et se remémore ses jours de gloire passés. Désireux de récupérer encore un peu de ses années de gloire, il entend apporter une petite mais importante contribution au circuit local en combattant l'actuel champion incontesté des poids lourds, Mason "The Rock" Dixon (Austin Sellers). En préparation de ce combat, il reprend la boxe - cette fois avec l'espoir de détrôner son rival de longue date, l'ancien champion, Muhammad Ali (Norman Mailer). Malheureusement, le programme d'entraînement de Rocky pour ce combat tourne mal et il se fait sévèrement tabasser dans le processus. Une fois que Rocky est capable de respirer facilement, cependant, son monde s'effondre et il jure de ne plus jamais revenir sur le ring.
Pendant une brève période, Rocky décide de déménager à Philadelphie, dans l'espoir de renouer avec Mason, un homme avec lequel il a perdu contact depuis sa retraite. Il décide également de devenir serveur dans l'un des restaurants préférés de Mason, le Treetops, et a pour objectif de gagner le cœur d'une serveuse locale, Karen. Bien que Rocky s'entende initialement avec Karen (Lori Singer), il découvre rapidement que sa famille a de l'argent, alors Rocky apprend rapidement qu'être riche ne lui sera pas facile.
Bien que les nouveaux amis de Rocky au restaurant, les Treetops, ne prennent pas gentiment à lui de se présenter, il parvient toujours à gagner le cœur de Karen, ce qui conduit Mason à vouloir le retour de Rocky. La quête de Rocky pour revenir sur le ring consiste à essayer de gagner un tournoi organisé par Mason, mais à la fin, il échoue. Cette déception l'amène à commencer à développer un certain ressentiment envers Mason, qu'il considère comme rien de plus qu'un «gros coup» dans l'entreprise. Pendant ce temps, cependant, Rocky a des doutes sur son retour sur le ring, car il se rend compte que malgré tout ce qui s'est passé, il n'a aucune envie de se battre à nouveau contre les meilleurs poids lourds du monde. Mason, convaincu que Rocky veut être le champion du monde, l'encourage à sortir et à combattre son vieil ami.