1917년, 뉴욕의 빈민가. 10대들이 패싸움을 벌이는 장면으로부터 영화는 시작된다. 이들 네 명의 청년 중 찰리 루치아노(Charlie "Lucky" Luciano: 크리스찬 슬레이터 분)와 프랭크 코스텔로(Frank Costello: 코스타 맨딜러 분)는 이태리계 이민이고, 마이어 랜스키(Meyer Lansky: 패트릭 뎀프시 분)와 벅시 시걸(Bugsy Siegel: 리차드 그리코 분)은 유태계 이민이다. 그중 찰리는 뉴욕을 장악하려는 두 보스 사이에 끼여 모욕을 당하는 아버지의 모습을 보고 꼭 성공하리라 다짐한다. 의기투합한 이들 네명은 서로 다른 혈통과 문화를 외면한 채 아메리칸 드림을 이루기 위해 갱단을 조직하고 점차 활동력을 키워간다. 때마침 미국에는 금주령이 내려있던 시기였고, 이들은 위스키를 밀수입하여 밀매 사업에 착수하면서 성공을 거둔다. 이러한 성과로 그들에게 뉴욕을 장악하려는 두보스 패런자노(Don Salvatore Maranzano: 마이클 갬본 분)와 마세리아(Don Giuseppe "Joe the Boss" Masseria: 안소니 퀸 분)의 손길이 뻗친다. 그러나 이들은 두 거물 중 누구를 택하든 실컷 이용만 당한뒤 제거될 것임을 알고 한판 승부를 벌이려 계획을 세운다. 네 명 중 리더인 찰리의 애인이 패런자노의 음모에 의해 찰리 대신 살해되자 찰리는 마침내 두 거물을 모두 처치하고 아버지의 원수를 갚는다. 그는 이후 암흑 세계의 전통인 남을 해치고 왕좌에 오르는 오랜 악습을 없애고 각 보스에게 동등한 지휘권을 주어 민주적인 방법으로 최고의 자리에 오르게 하는 투표방식을 채택하여 미갱단 역사상 처음으로 만장일치에 의한 갱단이 사회장으로 탄생하게 된다. "당신이 하시오. 시저(Ceasar)는 투표따윈 안했소." 보스들 중 마지막 한 사람이 기권을 하면서 시저 이야기로 은근히 자신의 힘을 표출하자, 리더인 '럭키' 루치아노는 대답한다. "그래서 그는 거리에서 비명횡사했소" 마지막 멋진 비유로 그를 꺽은 루치아노가 만장일치로 보스의 자리에 오르면서 영화는 끝을 맺는다.