Pierwsza wiadomość źródłowa pochodzi z dokumentu wystawionego w Gnieźnie 15 maja 1364 roku. Wymienia się w nim kościół w Margoninie (ecclesia de Margonino cum villis) z przyległymi wsiami. Dokument kończył spór pomiędzy arcybiskupem gnieźnienskim Jarosławem Bogorią Skotnickim, a biskupem poznańskim Janem Doliwą o granice diecezji. Na mocy dokumentu parafię margonińską włączono do diecezji poznanskiej. Ówczesna parafia liczyła 8 wsi: Margonin, Kowalewo, Lipiny, Konary, Sułaszewo, Sypniewo, Laskowo, Szamocin. Wieś Margonin istniała na długo przedtem i musiała być znaczną osadą w XIII w., skoro znajdował się tutaj drewniany kościół parafialny. Granice parafii (przetrwały do 1922 roku, kiedy to wydzielono parafię w Szamocinie) pokrywały się z granicą dawnego opola, tj. terytorium zamieszkałego przez jeden ród.
    Gród margoniński pełnił w XI, XII wieku funkcję grodu opolnego. Do początku XIV w. Margonin należał do kasztelani w Ujściu, a następnie po zjednoczeniu państwa do powiatu kcyńskiego i województwa kaliskiego. W roku 1768 powstało województwo gnieźnieńskie złożone z powiatów gnieźnieńskiego, nakielskiego, kcyńskiego, a wraz z nim znalazł się Margonin w województwie gnieźnieńskim.
    Pod koniec XIV w. Margonin był już miastem, bowiem w 1402 roku wymienia się wójta Mikołaja (advocatus de Margonino), do którego należała władza sądownicza w mieście i reprezentowanie interesów właściciela.
   Najstarszymi właścicielami miasta byli Grzymalici, którzy władali nim w XIV i XV wieku. Stąd pochodzili Grzymalici Margońscy jak sędzia poznański Przecław, Janko Przecławic, Jakub i Teodoryk z Margonina, Zygmunt i Adam z Margonina (Zygmunt piastował w 1456 roku godność stolnika poznańskiego). Ślad Grzymalitów w Margoninie urywa się w roku 1469 na Domarcie.
   Grzymalici Margońscy wzięli w latach 1383 - 1384 w wojnie domowej miedzy Grzymalitami i Nałęczami w Wielkopolsce. Jednym z przywódców stronnictwa Grzymalitów na Pałukach był Teodoryk z  Margonina. Grzymalici zdobyli na Nałęczach zamek w Nakle, skąd ich zagony łupiły dobra arcybiskupie w okolicach Żnina. W wojnie domowej zginął Janko Przecławic, który został pochowany w Nakle.
   W XVII wieku Margonin wraz z przyległymi dobrami przeszedł w posiadanie Rozdrażewskich, z których najwybitniejszą postacią był kasztelan międzyrzecki Hieronim. Spadkobierczyni majętności margonińskiej wyszła za mąż za kasztelana nakielskiego Pawła Gembickiego (26 lipca 1655 roku podpisał akt dobrowolnego poddania się Szwedom pod Ujściem). W ten sposób Margonin stał się własnością Gembickich. W XVIII wieku przeszedł w ręce Ciecierskich, a następnie wraz z ręką Marianny, w ręce Skórzewskich.
    W 1404 roku został erygowany kościół parafialny pod wezwaniem św. Wojciecha przez Andrzeja biskupa poznańskiego (akt erekcyjny zaginął). Pierwotny kościół był drewniany. Jedne źródła mówią, że na skutek starości uległ zniszczeniu, inne, że strawił go pożar. Na przełomie XIV i XV wieku proboszczami w Margoninie byli: Marek, Mikołaj, Marcin Czugarys, Andrzej.
    W latach 1432 - 1435 dziedzic Sypniewa koło Margonina Runge łupił okoliczną szlachtę, kmieci, okradał kościoły, rabując srebrne i złote  naczynia liturgiczne.
    W zapiskach z 1450 roku wspomniane są fortyfikacje miejskie.
   Podczas wojny trzynastoletniej, na mocy uchwały sejmiku szlachty wielkopolskiej w Środzie,  z roku 1458 Margonin jako własność szlachecka, miała wystawić, uzbroić, wyżywić, wysłać 6 żołnierzy pieszych, celem "niesienia pomocy grodowi malborskiemu". Świadczy to o wielkości i zamożności miasta (dla porównania Chodzież wystawiła tyko 2 piechurów, Ujście - 10, Rogoźno - 15, Wągrowiec - 10).  Pod względem wielkości Margonin zaliczał się do miast średnich w Wielkopolsce. W XV wieku liczył 80 obywateli, to jest mieszczan posiadających prawa miejskie (w 1510 liczba ich spadła do 56).
    W drugiej połowie XVI w. miasto zostało zniszczone przez pożar.
   Na początku XVII wieku z fundacji Rozdrażewskich wzniesiono kościół murowany, jednak budowli tej nie ukończono. W 1737 roku w czasie gwałtownej burzy kościół został zniszczony (w dzień św. Agnieszki). 
   Klęski żywiołowe jakie dotknęły miasto w pierwszej połowie XVII w. oraz najazd szwedzki, doprowadziły do zupełnego upadku miasta. Margonin utracił prawa miejskie i ponownie stał się wsią. Na trasie przemarszu spod Ujścia w głąb Wielkopolski, bezkarnej 17-tysięcznej armii szwedzkiej feldmarszałka Wirttenberga, były okolice Chodzieży, a dalsze jej oddziały penetrowały Margonin, Gołańcz, Szamocin. Wiosną 1656 roku na obszarze Wielkopolski północnej pojawiły się wojska Jerzego Lubomirskiego i Stefana Czarnieckiego. W pogoni za tym ostatnim, w dniu 4 maja 1656 roku do miasta wkroczyły wojska szwedzkie pod dowództwem księcia Adolfa Jana, w sile 8 tys. ludzi. Mszcząc się za opór zamku gołanieckiego, Szwedzi splądrowali miasto  mordując przy tym wielu mieszkańców, a następnie je podpalili.
   Po zawierusze wojennej i zniszczeniach, z woli ówczesnej właścicielki Joanny z Krasińskich Gembickiej, kasztelanowej płockiej, Margonin otrzymał ponownie prawa miejskie, potwierdzone dokumentem z 20 lipca 1696 roku (pierwotna lokacja przetrwała do najazdu szwedzkiego, jeszcze w dokumentach z 1653 roku Margonin nazywany jest miastem).
   W XVIII wieku istniała szkoła i szpital, w roku 1725 Barbara z Ponińskich Gembicka kasztelanowa nakielska założyła szkołę dla sierot, wyznaczając 2100 złotych na utrzymanie bakałarza i nagrody dla pilnych uczniów. Bakałarzem był każdorazowo organista. 
   Wiek XVIII doprowadził do dalszego upadku i zniszczenia miasta.
   W czasie wojny północnej (1700 - 1721) przechodzące przez miasto w latach 1704, 1708 wojska szwedzkie zdewastowały miasto nakładając na mieszkańców kontrybucje, rekwirując żywność i pasze dla koni. Przez następne trzy lata szalała na tym terenie śmiercionośna zaraza.
    W latach 1715, 1719, 1739 miasto dotknęły dotkliwe pożary, z których najgroźniejszy był ostatni. W księdze grodzkiej czytamy "Był poniedziałek 1739 r. godz.9 wieczorem, kiedy wielu ludzi już spało /.../, jakby kara boża wybuchł gwałtowny pożar w mieście. Spaliło się 67 domów żydowskich i 12 zamieszkałych szop z przyległymi do nich chlewami i stodołami, z całym żywym i martwym inwentarzem. /.../ Mieszkańcy uciekali bez odzienia, ratując tylko życie i dusze. Na przedmieściu nad jeziorem (Nowe Miasto) spłonęło 15 domów".
   W latach 1753 - 1755 staraniem i nakładem Anny z Malechowskich Ciecierskiej cześnikowej podlaskiej  wzniesiono w stylu późnobarokowym obecny kościół (zwłoki fundatorki spoczywają w podziemiach kościoła).
   Wojna siedmioletnia (1756 - 1763) przyniosła przemarsze wojsk pruskich i rosyjskich. Dla miasta były to kolejne kontrybucje, rekwizycje żywności i paszy.
     W okresie konfederacji barskiej (1768 - 1772) w okolicach Margonina działał oddział pułkownika Pawła Skórzewskiego za którym uganiały się wojska pruskie i rosyjskie często "goszczące" w mieście.
     Lata nieszczęść i zamętu wykorzystywały różnego rodzaju bandy rabunkowe gnębiące mieszczan i mieszkańców okolicznych wsi, z których najgłośniejsza była banda Żbikowskiego (został pojmany w Gołańczy przez pruskich huzarów).
     W wyniku pierwszego rozbioru w 1772 r. Margonin wraz całym okręgiem nadnoteckim został włączony do Prus, wbrew pierwotnym układom. Fryderyk pruski spełniał w ten sposób prośbę generałowej Marianny Skórzewskiej, właścicielki miasta, której bardzo zależało, aby wszystkie jej majątki znalazły się pod jednym panowaniem (Fryderyk pruski był ojcem chrzestnym jej syna, także Fryderyka). Tuż za Próchnowem wbito słupy graniczne, na których Fryderyk kazał wyryć napis "suum cuigue" (każdemu co się mu należy).