州刺史嚴象，廬江梅乾、雷緒、陳蘭等聚眾數萬在江、淮間，郡縣殘破。曹操剛與袁紹關係惡化，認為劉馥可以負責東南的事務，於是上表任劉馥為揚州刺史。劉馥受命後。單馬來到合肥空城，建立州治。南面安撫雷緒等人，使他們安心駐紮，繳納貢賦。劉馥在幾年中廣泛施行恩惠與教化，百姓非常滿意他的治理，流民跨山過河來歸順的有幾萬人。劉馥又匯聚讀書人，設立學校。大規模屯田，興修治理芍陂、茄陂、七門、吳塘等堤堰陂塘灌溉稻田，使官府和百姓都有了糧食儲備。劉馥又修建城牆，堆積木石，編作草苫數千萬枚。儲存魚膏數千斛，準備做戰時防守用。

公元208年劉馥去世，後來孫權率兵十萬圍攻合肥城百餘日，時天連雨，城欲崩，於是用苫蓑覆蓋城牆，又在晚上燃魚膏照亮城外，觀察敵人的舉動來作防備，於是敵人敗走。經過此戰，揚州的軍民更加追念他，認為古時董安於守晉陽的功勞也比不過他，而所修陂塘的好處，後世仍在受用。

呂布此時也有些頭痛漸漸有些桀驁的孫策，剛剛平定袁術，便向劉馥問計，該如何平定揚州。

劉馥細細地說起自己的想法：“江西江東同屬揚州，孫策舉淮泗之眾，專務江東，揚州六郡中五郡陷其手。而江西之地流寇橫行，百姓流離，生產荒廢。黎民豎子思得能吏，士人豪強欲歸明主，此乃可治。專治有三：廬江地方，豪強割據縣城，既不北入朝廷，亦不合作於江東，彼觀望朝廷風向，動機未明，此一。江東孫氏，欲割據揚州，然廬江今安在，何故？唯其根基不牢，立足未穩，江東士人之心不服。若盡棄江西之地，孫吳紮根江東，立足漸穩，徐圖江西，使吳越之兵以抗中國，我等西與袁紹爭鋒，東防孫策陰襲青、徐二州，若此則不知葬身何所，此二。現江西尚有百餘萬眾，若委以能吏，專治一所，進可威脅江東孫氏，出兵南征，退可遏守長江上游，孫吳不得北上侵奪徐州。此三。又有一節，若朝廷棄守江西之地，則示弱於孫吳，助長其氣焰！”

呂布現在還無法完全肯定孫策的心思，所以他要防著孫策，聽到劉馥這樣分析，非常欣喜，示意劉馥繼續說下去。

談到治理揚州江西之地，劉馥有自己獨到的見解：“江西之地，南北通塞，物產豐饒，今雖一時疲敝，但其復原指日可待。原揚州治所壽春，無險可守，四戰之地也，更兼數番大戰，城郭毀壞殆盡，不可復修。壽春以南，一地曰合肥，此地實乃淮右襟喉，江南唇齒，南接巢湖，東西連山跨險。若新遷治所於合肥，行良政，樹恩德，囤穀米，築高城。進可南下江東，退可扼守江西咽喉，使吳寇不得橫行北方，江西之地遂得全。”

呂布見劉馥既瞭解當地民情，又素有賢能之稱，總是處處把天下放在心頭，肯擔事，肯挺先，於亂事中懷悲憫之心，望蒼生疾苦，申萬民之願，便任命劉馥為九江郡太守，命他在合肥造城。

劉馥受命後，單馬來到合肥空城，便開始實行他的安民政策。

第一是恢復生產，劉馥號召周邊的流民到合肥定居，他上書給呂布，要求撥給種子、耕牛與農具。在他的鼓勵支援下，數年間，合肥地區的人口逐漸增多，生產迅速恢復。

第二興修水利，劉馥召集百姓與工匠在農閒時修建水利工程，他親自指揮建設。建造了芍陂、七門、吳塘等數項工程，這些灌溉設施引淝水與巢湖水入周邊農田，大大提高了農作物的產量，他還疏通了巢湖入長江的一段河路，防止夏天暴雨導致河水氾濫為害地方。

第三是廣開教育，劉馥遵照呂布全民教育的方針。召集地方上知書名士，開辦學校，凡願意學習之人，不分年齡，不問地位，皆可以入學讀書。由於教育的普及，合肥的年輕人大都識得些字。在劉馥的教化下，合肥地區民風淳樸，百姓安居。人人孝悌有禮，風化肅然。