Происхождение джиу-джитсу неизвестно. Первые сведения о джиу-джитсу относятся к 1650 году. В то время в Японии жил китаец по имени Гембин, который владел искусством самозащиты без оружия. Он научил этим техникам трех самураев, чтобы они могли без оружия побеждать противников и арестовывать преступников. Они назвали эту систему джиу-джитсу.
В 1885 году немецкий профессор доктор Баэльц заново открыл в Японии этот забытый вид самообороны. Он добился того, чтобы его снова стали преподавать в университетах. Кано, который позже разработал дзюдо на основе джиу-джитсу, был одним из первых последователей этого вновь открытого вида спорта.