모스크바에서 소련 선수 드라고를 이기고 돌아온 록키는 몸에 이상이 생긴 것을 알고 은퇴하려고 한다. 그런데 자신이 집을 비운 사이 회계사가 자신의 전재산을 가로챘음을 알고 할 수 없이 교활한 권투 흥행주 듀크가 주선한 캐인과의 시합을 치르려고 한다. 그러나 의사로부터 뇌에 이상이 생긴 것으로 진단이 나와 출전 자격을 박탈당한다. 무일푼 신세로 슬럼 가의 옛집으로 돌아와 허름한 권투 도장에서 트레이너 일을 하는 록키에게 듀크가 출전자격증을 꾸며주겠다며 유혹하나 아내 애드리안이 급구 만류한다. [스포일러] 그러던 어느날 록키에게 토미란 신인이 찾아와 매니저를 해달라고 부탁한다. 토미가 맘에 든 록키는 그를 훈련시켜 연승 무패의 막강한 선수로 키워나간다. 그런데 듀크가 토미에게 접근, 돈으로 그를 유혹하자 토미는 록키를 배신하고 듀크에게 간다. 듀크는 시합을 조작해 토미를 챔피언으로 만든 후 교묘히 토미를 부채질해 록키에게 싸움을 걸도록 한다. 토미와 록키가 시합을 하도록 해서 큰 돈을 벌려는 속셈이다. 그러나 록키에게 도전을 하러 갔던 토미는 성미를 못 참고 길거리에서 록키와 한판 싸움을 벌리게 된다. 비겁하게 뒤에서 공격한 토미의 난펀치에 록키는 위기에 몰리나 귓전에 울리는 미키의 격려에 정신을 되찾아 토미를 완전히 다운시키고 진정한 챔피언의 영광을 되찾는다.