Родился в Копенгагене, был седьмым сыном в семье тенора Королевской Оперы Конрада Бертельсена и Доротеи Карен Бертельсен. В 1890 г. мать (к тому времени супруги уже развелись) перевезла детей в США, в Манитевок (Висконсин). Подростком Йоханн пел в хоре, он с детства любил рисовать, однако, довольно продолжительное время своей жизни отдавал предпочтение именно музыке. С 1901 г. по 1905 г. он обучался в Чикагском Музыкальном Колледже, по классу пения. Он пять лет провел в концертных турах по США и Канаде, исполняя различные оперные партии и тренируя свой баритон.. В 1910 г. стремление Бертельсена занятся живописью поддержал норвежский художник С. Свендсен, который специализировался на написании снежных пейзажей с почти фотографической точностью. В 1913 г. Бертельсен переехал в Индианаполис, где начал заниматься живописью под руководством У. Адамса, портретиста, члена Нью-Йоркской Академии Дизайна, кисти которого принадлежит множество портретов известных людей того времени, в том числе и самого Бертельсена. Их дружба была настолько близкой, что они сыграли свадьбы в один день. Дружба с Адамсом повлияла на переезд Бертельсена в Нью-Йорк. Бертельсен приехал в Нью-Йорк в 1920 г. и открыл студию, где занимался постановкой голоса и где мог писать. Он считался одаренным учителем вокала и несколько его учеников добились успехов. В середине 1920 г. вместе с Адамсом он открыл студию на West 57th Street. Артистическая поддержка, которую Йоханну оказали вначале Свендсен, а затем Адамс, была важна для поворота творческой карьеры Бертельсена от преподавателя вокала до живописца.

Бертельсен оказался вовлечен в New Deal Art Projects в середине 30-х гг. Он выставлялся на различных выставках, организованных муниципальным комитетом по изобразительному искусству Нью-Йорка в 1936 г. В 1926 г. Бертельсен вступил в Общество американских акварелистов. Его акварели выполнены в пастельных тонах, с мягкими размытыми краями объектов и уходом от формы. В этот период Бертельсен продолжает писать маслом, его работы этого периода отображают переход к импрессионизму: для изображения объектов он использует мазки чистого цвета, которые принимают определенную форму только при взгляде на картину с расстояния.

Бертельсен был очень плодотворным художником, его всегда можно было застать за окном его студии на 57 улице, пишущем с раннего утра и до позднего вечера. Снежные сцены Нью-Йорка стали любимой темой в его творчестве, хотя он писал и жанровые сцены, и натюрморты. Пейзажи Нью-Йорка не было новшеством Бертельсена, такие выдающиеся американские художники как Ф. Чайлд Хассам, Г.К. Виггинс, Э.Лоусон и раньше использовали эту тему в качестве объекта для своих работ. Многие писали снежные сцены и использовали флаг как центральную точку – символ, часто использовавшийся ранее. В зависимости от желаемого эффекта, его картины иногда были написаны тонко, малым количеством красок, другие же наоборот представляют собой нагромождение мазков цвета. Его картины всегда подписаны, но очень редко датированы, что усложняет процесс изучения и систематизации его творчества. Особый художественный стиль Бертельсена представляет собой сплав влияний Свендсена и Адамса и своеобразно воспринятого им французского импрессионизма. Очарование зимним пейзажем передалось сквозь весь его творческий путь и восходит к Свендсену, его чикагскому учителю.

Бертельсена часто называют последним американским импрессионистом. Он не обучался во Франции, но у него были возможности посещать выставки французских импрессионистов в США. Его нью-йоркские работы более созвучны с французским импрессионизмом, чем творчество многих американских художников, обучавшихся во Франции. Американские импрессионисты во многом заимствовали свободу в написании пейзажей у французских, например, условное изображение людских фигур Бертельсен перенял у «отца» импрессионизма Клода Моне. Так же как и передачу нюансов освещения в различное время, которое отражалась в многократном воспроизведении одного и того же мотива в различных состояниях, что также являлось «фирменным» знаком и других художников-импрессионистов. Большинство импрессионистов использовали флаги или другие цветовые эффекты в городских пейзажах. И кажется логичным предположить, что Моне, а не Виггинс, в целом или в частности, оказал важнейшее влияние на творчество Бертельсена.

В 1971 г. на Манхэттене после посещения галереи Бертельсен был сбит неизвестным водителем, который скрылся с места происшествия. Шок, который он перенес, привел к скорому ухудшению здоровья. Весь следующий год он провел в постели, перенося тяжелые боли. Но до самого конца он отдавал себя живописи: его последняя картина – «Центральный Парк весной», была закончена им кистью, привязанной к руке. Йоханн Бертельсен умер в Пасхальное Воскресенье 1972 г. Следуя завещанию его пепел был развеян над Манхэттаном и Центральным Парком. Сейчас в Центральном парке, недалеко от места где Бертельсен любил писать, в память о нем установлена мемориальная скамейка.