Misdaadbaas Anjo wordt vermoord, waarna zijn lichaam zorgvuldig wordt opgeruimd door een groep mensen geleid door Jijii. Zonder sporen van het lijk of het misdrijf, gaan Anjo's bende en rivalen ervan uit dat hij gevlucht is met een prostituee. Kakihara, Anjo's rechterhand, is ervan overtuigd dat Anjo nog leeft. Jijii verspreid het gerucht dat Suzuki, een lid van een rivaliserende bende, Anjo ontvoerd heeft.

Terwijl Kakihara op zoek gaat naar Suzuki en later de moordenaar van Anjo, blijkt dat Jijii bezig is meer bendes tegen elkaar op te zetten. Hierbij wordt hij geholpen door Ichi, een moordenaar wiens favoriete wapens zijn met messen uitgeruste laarzen zijn. Hij heeft een zwakke persoonlijkheid, waar Kakihara dankbaar gebruik van maakt en hem zo tot moorden aanzet. Ichi doodt onder andere een pooier en redt een jongen genaamd Takeshi van een groep pestkoppen.