W folklorze opowiada się, że Bokkenrijders zawarli pakt z diabłem. W zamian otrzymali latające kozły, na których mogli przelatywać nad domami, ogrodami i granicami krajów. Według popularnej wersji mieli wykrzykiwać zaklęcie: „Over huis, over tuin, over staak, en dat tot Keulen in de wijnkelder!” (pol. tłum. Przez domy, przez ogrody, przez palisady, aż do Kolonii, do piwnicy z winem!). Nocą mieli zjawiać się jak zjawy. Znikąd, na czarnych kozłach, z płonącymi oczami, po czym znikać w ciemności. Niektóre wersje legendy mówią o sabatach w jaskiniach i kaplicach przydrożnych, gdzie jeźdźcy odnawiali pakt z diabłem i dzielili łupy.
Za legendą stoi jednak bardzo konkretna historia. W XVIII wieku w Limburgii i okolicznych regionach działały brutalne bandy rabusiów, które zaczęły posługiwać się nazwą Bokkenrijders. Napadali na samotne gospodarstwa, probostwa i kościoły, bili i torturowali ofiary, żeby wydobyć ukryte pieniądze. Źródła opisują przypalanie stóp, twarzy i genitaliów, groźby podpaleń i zabójstw. Używanie nazwy „jeźdźcy na kozłach” było świadomym zabiegiem. Zbójnicy podkręcali atmosferę strachu, podkreślając rzekomy związek z satanizmem i czarami.
Badania historyków, jak Anton Blok, Theo Engelen czy Wim van Meurs, pokazują, że obraz jednej wielkiej, zorganizowanej „nadnaturalnej” bandy jest w dużej mierze konstrukcją aparatu sądowego. Część Bokkenrijders faktycznie była niebezpiecznymi bandytami, ale inni padli ofiarą fali paniki, plotek i tortur, które produkowały kolejne zeznania. Z czasem w historiografii pojawiły się dwa przeciwstawne ujęcia. Jedni widzieli w jeźdźcach na kozłach realną, wyjątkowo brutalną bandę przestępców. Drudzy zaś chłopskich drobnych złodziei, na których władza nałożyła demoniczną maskę.