Giống như các tổ chức mafia phương Tây, Yakuza hiện diện ở hàng loạt các lĩnh vực khác nhau của đời sống xã hội. Những tổ chức này đứng sau hàng loạ hoạt động tội phạm trên các lĩnh vực khác nhau từ tống tiền, bảo kê đánh bạc, buôn lậu, cho vay nặng lãi, rửa tiền, buôn ma túy, mại dâm, buôn vũ khí tới kinh doanh bất động sản, thể thao hay giải trí.
Góp mặt trong mọi mặt của đời sống, các băng đảng Yakuza bén rễ sâu và trở nên vô cùng khó đánh bật. Không những vậy, Yakuza nhanh chóng thành lập băng đảng ở những vùng đất mới, gia tăng đáng kể phạm vi ảnh hưởng.
Tính đến hiện tại, chưa tài liệu nào chứng minh được nguồn gốc Yakuza. Giả thuyết được nhiều người ủng hộ nhất cho rằng, Yakuza là hậu duệ của những chiến binh samurai tàn ác, hình thành vào giữa thế kỷ 17. Dễ dàng nhận biết những người này qua kiểu tóc kỳ quái cùng một thanh trường kiếm ngang lưng.
Đánh mất tinh thần thượng võ, những người này hành động với mục đích duy nhất là kiếm tiền. Không những vậy, sự tàn ác cùng với bản chất xấu biến họ trở thành ác quỷ thực sự dưới sự sai khiến của đồng tiền. Không ít trong số đó trở thành những “binh sĩ hắc ám” dưới tay quan phủ, chuyên giải quyết những kẻ cứng đầu hoặc bất đồng.
Tuy nhiên, khi lượng “binh sĩ hắc ám” không còn được quan phủ sử dụng dưới thời vua Tokugawa (1543 – 1616), họ trở thành đội quân cướp phá khổng lồ, sẵn sàng tàn phá, cướp bóc bất kể vùng đất nào mà họ đi qua. Đây chính là tiền thân cho mafia Nhật Bản sau này.
Khi trở thành tổ chức và hoạt động quy củ, Yakuza đẩy mạnh các hoạt động cướp bóc, bảo kê và tống tiền. Khi tới thời điểm này, tinh thần thượng võ hoàn toàn biến mất bên trong những chiến binh tàn bạo. Thậm chí, họ còn tự hào khi nhận cái tên Yakuza – những kẻ thất bại, bị xã hội ruồng bỏ.
Tuy nhiên, những kẻ cặn bã của xã hội không dễ dàng được dung nạp vào hàng ngũ Yakuza. Không đơn thuần chỉ là sự tàn ác và manh động, những kẻ muốn gia nhập Yakuza phải thực sự mang trong mình bản lĩnh hơn người. Thử thách đầu tiên đối với những kẻ được chọn vào hàng ngũ Yakuza là việc xăm mình. Những hình xăm cầu kỳ chiếm phần lớn diện tích cơ thể khiến khổ chủ vô cùng đau đớn. Nếu không thể vượt qua thử thánh này, kẻ đó không có tư cách gia nhập Yakuza.
Do hoạt động theo phương thức gia đình mà ông chủ chính là người cha, các thành viên của Yakuza phải tuyệt đối trung thành với người thủ lĩnh. Khi lễ kết nạp kết thúc, những thành viên của Yakuza có nghĩa vụ gắn bó cả cuộc đời với tổ chức và phải tuyệt đối trung thành. Không những vậy, cả gia đình của Yakuza đều phải có nghĩa vụ phục vụ tổ chức, phục tùng ông trùm. Nếu một Yakuza không may thiệt mạng, cả băng nhóm có trách nhiệm giúp đỡ, bao bọc gia đình của người đó.
Bàn tay không còn nguyên vẹn vì bị trừng phạt.
Mặt khác, hình phạt đối với các Yakuza mắc lỗi không hề nhẹ nhàng. Nếu phạm lỗi lần đầu, kẻ mắc tội sẽ bị chặt đốt cuối cùng của ngón tay út. Phạm lỗi lần 2, đốt thứ 2 của ngón tay đó sẽ bị chặt bỏ. Những lần phạm lỗi tiếp theo sẽ được đánh đổi bằng các đốt nằm trên những ngón tay còn lại. Nếu tự nhận ra mình có lỗi, hình phạt không có gì thay đổi nhưng kẻ đó sẽ được đưa một sợi dây để băng bó vết thương.
Vì hoạt động theo hình thức gia đình nên mâu thuẫn giữa các thành viên trong cùng một băng nhóm gần như không xảy ra. Tuy nhiên, với số lượng lên tới hàng trăm ngàn thành viên cùng hàng ngàn gia đình, việc chém giết tranh giành địa bàn của Yakuza xảy ra khá thường xuyên. Do mâu thuẫn về lãnh thổ, các băng nhóm buộc phải tàn sát đối phương để giành quyền kiểm soát địa bàn làm ăn lân cận.
Những cuộc tranh giành địa bàn đẫm máu nhất của các băng đảng mafia Nhật Bản xảy ra vào những năm giữa thế kỷ 20. Với con số 184.000 người, việc chém giết giành lãnh thổ giữa các gia đình Yakuza diễn ra gần như hàng ngày. Người có công lập lại hòa bình và trật tự trong gia đình Yakuza Nhật Bản vào những năm cuối nửa đầu thế kỷ 20 là bố già Yoshio Kodama.
Nổi tiếng nhờ mưu mẹo và thủ đoạn, bố già Yoshio Kodama đứng giữa và cân bằng được sự mâu thuẫn giữa các băng đảng mafia. Tuy mục đích của việc làm này là thâu tóm quyền lực và kiếm tiền nhưng bố già Kodama đã giúp chấm dứt cuộc chém giết khốc liệt trên đất nước Mặt trời mọc.
Một kẻ đầu sỏ khác trong giới Yakuza là Kazuo Taoka, thủ lĩnh nhóm Yamaguchi-gumi, gia đình tội phạm lớn nhất Nhật Bản. Trong suốt 35 năm nắm quyền, Taoka đã giúp Yamaguchi-gumi phát triển lên tới 13.000 thành viên, hoạt động khắp 36/47 đô thị Nhật Bản, kiểm soát 2.500 doanh nghiệp cùng hàng loạt sòng bài và những cơ sở cho vay nặng lãi cùng những khoản đầu tư không nhỏ vào ngành công nghiệp giải trí.
Nhờ vị trí địa lý, mafia Nhật Bản nhanh chóng lan sang đất nước láng giềng Hàn Quốc nhờ những khoản đầu tư cho ngành công nghiệp giải trí của nước này. Ngay sau khi thâm nhập, Yakuza nhanh chóng bén rẽ tại Hàn Quốc và trở thành một phần của giới xã hội đen nước này. Không những vậy, mafia Nhật Bản còn nhanh chóng lan sang các nước châu Âu và châu Mỹ, gia tăng mạnh mẽ ảnh hưởng và tầm hoạt động của Yakuza. Tính tới thời điểm hiện tại, Yakuza Nhật Bản vẫn là tổ chức mafia đông đảo nhất thế giới.