Wie seine drei Brüder wurde Johannes Hermanus Barend, genannt Jan H.B. Koekkoek, vom Vater Hermanus Koekkoek d.Ä. ausgebildet. In seinem Vornamen trägt er die künstlerische Tradition mehrerer Generationen. Der junge Künstler entscheidet sich, als Marinemaler in die Fußstapfen seines Vaters zu treten.
Er beginnt zunächst im Stile altmeisterlicher Feinmalerei. Das Frühwerk unterscheidet sich nur wenig von dem seines Bruders Hermanus d.J. Mit seinem Umzug nach Hilversum wendet er sich den Malern der Larense School und der Haager Schule zu. Diese halten am Strand von Scheveningen das Leben der Fischer und Seeleute und die Meereslandschaft mit flottem Pinsel fest, inspiriert durch den französischen Impressionismus.
Zwischen 1860 und 1864 arbeitet der Künstler in Nieuwer Amstel, dann in Hilversum. 1865 heiratet er in Hilversum Antje Muller (oder Mulder). Dem Paar werden 1871 in Hilversum die Tochter Elisabeth und der Sohn Gerard Johannes geboren. 1877 nach dem Tod seiner ersten Frau heiratet der Künstler erneut Johanna Dorothea Ham aus Hilversum. Ein Sohn Frederik Koekkoek stirbt 1899 mit 18 Jahren. Eine Reise in die Normandie inspiriert den Künstlern zu stimmungsvollen Gemälden mit südlich warmen Farbtönen.
Koekkoek ist Lehrer seines Sohnes Gerard Johannes und des in Auschwitz ermordeten Lion Schulman (1841-1943). Er ist Mitglied der Künstlervereinigung „Arti et Amicitiae“ in Amsterdam. Er stellt regelmäßig (seit 1859) auf den Ausstellungen der „Levende Meesters“ (Lebende Meister) aus.
In der Sammlung des B.C. Koekkoek-Haus befinden sich einige Seestücke von seiner Hand sowie ein Skizzenbuch.