Народився 11 вересня1976 року в місті Лейпциг. Розпочав займатись футболом в клубі «Ротатіон»[de] з рідного міста, а 1987 року перейшов до «Локомотива» (Лейпциг). Після об'єднання Німеччини на базі цього клубу був відновлений «Лейпциг», в академії якого і продовжив навчання Розе.
У дорослому футболі дебютував 1995 року виступами за команду «Лейпциг», в якій провів п'ять сезонів, взявши участь у 57 матчах чемпіонату. Перші три сезони команда грала у Другій Бундеслізі, а 1998 року вилетіла до Регіоналліги. Після того, як 200 року команда знову понизилась у класі, цього разу до Оберліги, Розе покинув клуб і у 2000—2002 роках грав у Другій Бундеслізі за «Ганновер 96».
2002 року перейшов до клубу «Майнц 05», за який відіграв 8 сезонів. У сезоні 2003/04 він вийшов з командою до Бундесліги, де і дебютував 8 серпня 2004 року грі проти «Штутгарта» (2:4). 2 жовтня 2004 року у поєдинку з «Фрайбургом» (2:1) Розе забив перший гол у Бундеслізі. У сезоні 2006/2007 він зайняв 16-те місце в лізі з командою і вилетів назад у Другу Бундеслігу. У сезоні 2008/09 Роуз знову вийшов з «Майнцем» в Бундеслігу. Завершив професійну кар'єру футболіста виступами за команду «Майнц» у 2010 році, але грав до літа 2011 року за другу команду Майнца в Регіоналлізі, де продовжував виходити на поле і став асистентом головного тренера. Загалом за «Майнц 05» він провів в цілому 199 офіційних матчів (перша і друга команда) і забив сім голів, три з них у Бундеслізі.
У липні 2013 року Розе перейшов у зальцбурзький «Ред Булл»[3], де в майбутні роки був головним тренером юнацьких команд до 16, 18 і 19 років. З командою до 19 років у квітні 2017 року він виграв Юнацьку лігу УЄФА 2016/17. У 2015 році закінчив тренерські курси в Академії Геннеса Вайсвайлера під керівництвом Франка Вормута і отримав ліцензію Про УЄФА[4].
У червні 2017 року Розе став головним тренером першої команди «Ред Булла»[5]. У першому ж сезоні Розе привів команду до перемоги в чемпіонаті, вивів її у фінал кубка країни і півфінал Ліги Європи. У травні 2018 року «Ред Булл» продовжив з ним контракт до 2020 року[6]. У своєму другому сезоні з «Ред Булл» Розе виграв перші 10 ігор у лізі і тим самим встановив новий рекорд старту Бундесліги[7]. Зрештою, титул був захищений, в результаті чого клуб вперше потрапив напряму до групового етапу Ліги чемпіонів, після того, як не пройшов кваліфікацію до цього змагання одинадцять разів поспіль. У травні 2019 року Розе та команда також виграли Кубок Австрії, здолавши у фіналі столичний «Рапід» (2:0). Загалом за два сезони Марко як головний тренер не програв жодної домашньої гри з командою[8].
10 квітня 2019 року було оголошено, що з початку сезону 2019/20 Марко Розе стане головним тренером менхенгладбахської «Боруссії», яка виступала в Бундеслізі[9][10]. Разом з ним в «Боруссію» вирушили помічники Александер Ціклер, Рене Маріч і Патрік Айбенбергер. У першому ж сезоні Бундесліги Розе посів з командою високе четверте місце і таким чином вийшов з командою напряму до групового етапу Ліги чемпіонів УЄФА.