Der Stammvater der Künstlerfamilie wird in eine wirtschaftliche Blütezeit der Provinz Zeeland hineingeboren. Veere auf der damaligen Insel Walcheren gelegen, unweit von Middelburg, ist eine vom Handel mit England und Schottland im 15./16. Jahrhundert reich gewordene Hafenstadt. Erst die Kontinentalsperre Anfang des 19. Jahrhunderts schmälert die wirtschaftliche Blüte.
Der als Anstreicher ausgebildete Johannes Hermanus geht in die nahe gelegene Hafenstadt Middelburg, um bei der Tapetenfabrik des Thomas Gaal Dekorationsmalerei zu erlernen. Er wird auch Schüler der 1778 gegründeten Middelburger Zeichenakademie (Teeken Akademie Middelburg) und erhält dort 1803 eine Auszeichnung. In dem von ihm eingereichten Formular zu Befragung des nationalen Künstlerlexikons von Christiaan Immerzeel 1841 trägt er als Lehrmeister ein: Die Natur.
Um 1806 macht er sich in Middelburg selbstständig als Marinemaler (Maler von Seestücken). Als 1815 nach dem Sieg über Napoleon das niederländische Königreich begründet wird, erhält Middelburg zwei Jahre später einen neuen Hafen. Der Besuch König Willem I. ist der Anlass zu einer Kunstausstellung, an der Johannes Hermanus mit Gemälden, aber auch schon sein noch jugendlicher ältester Sohn Barend Cornelis mit Zeichnungen teilnimmt.
1826 verlässt Johannes Hermanus Zeeland und geht in das Fischerdorf Durgerdam bei Amsterdam, wo er bis 1833 lebt. Die letzten Lebensjahre verbringt der Maler in Amsterdam, 1838 ist er vorübergehend in Medemblik. In Amsterdam lassen sich seine Gemälde besser verkaufen und der Maler beteiligt sich ab 1810 an den jährlichen Salons. Die Königliche Akademie Amsterdam und die Künstlervereinigung „Arti Sacrum“ ernennen ihn zu ihrem Mitglied.
Johannes Hermanus Koekkoek ist einer der besten maritimen Maler seiner Zeit. Er zeichnet Stadtansichten und historische Ereignisse, die teilweise als Drucke verlegt werden. Er gibt Zeichenunterricht. Seine qualitätvollen Aquarelle sind heute selten. Sein Werk verkauft er vor allem in den Niederlanden und in England. Seine Malerei ist der Tradition des niederländischen 17. Jahrhunderts verbunden. Er zeigt in seinen Gemälden die Naturgewalt der Zuiderzee (heute Ijsselmeer), die erst 1932 eingedeicht wird, der aber im 19. Jahrhundert die Menschen noch ausgeliefert sind.
Aus seiner 1803 geschlossenen Ehe mit der aus Middelburg stammenden Anna van Koolwijk gehen drei Töchter (Tochter Alida stirbt als Säugling, Tochter Anna Koekkoek, geboren 1811, Zwilling mit Johannes, Tochter Maria Koekkoek geb. 1817) und vier Söhne hervor: Barend Cornelis Koekkoek, Marinus Adrianus Koekkoek der Ältere, Johannes Koekkoek und Hermanus Koekkoek der Ältere. Die Söhne erhalten im Atelier des Vaters den ersten Malunterricht.
Der Amsterdamer Buchhändler, Verleger und Schriftsteller Jacob Wijbrand Ijntema würdigt den angesehen Maler anlässlich seines Todes in einem Gedicht. (Archiv B.C. Koekkoek-Haus)