Das über 800 Jahre alte Gräfendorf wurde als "super villa Grevendorf" im Jahr 1205 erstmals urkundlich erwähnt und ist damit eines der ältesten Orte in der Gemeinde Niederer Fläming, wobei die Gründung des Dorfes noch bis in die Slawen-Zeit zurückreichen könnte. Über die Herkunft des damaligen Ortsnamen "Grevendörp" gibt es unterschiedliche Angaben. Am wahrscheinlichsten ist die mittelniederdeutsche Bedeutung: "Dorf eines Grafen oder eines Mannes Namens Greve". Jedoch gibt es auch folgende Versionen: Zum einen die sorbische Form "Grabnye" (niedersorbische Einzahl - "Grabina") lautet "Weißbuchenwald", welches vielleicht an den deutschen Namen angelehnt worden ist. Zum anderen ist es auch denkbar, dass der altsorbische Name "Grabin" als mittelniederdeutscher Ortsname "Grevendörp" eingedeutscht wurde. Über die vielen Jahrhunderte führte die Ortschaft die verschiedensten Schreibweisen (z.B. "Grevendorp", "Greuendorp", "Grefendorff", "Gräffendorff", "Gräfendorff".

Nach mündlichen Überlieferungen soll der aus Gräfendorf stammende Schäfer Thomas Koppehele um 1230, dessen Familie um 1160 aus Flandern einwanderte, einen Goldschatz (Schäfer-Goldschatz-Sage) gefunden haben, den er für den Weiterbau des Magdeburger Doms stiftete. Für die Nachwelt sind der Schäfer, sein Knecht und die Hütehunde als Steinfiguren über der Paradiespforte an der Nordfassade des Doms verewigt.

Als erstes teilte der Lokator jedem Siedler eine Hofstelle zu, deren Größe in Hufen ausgedrückt und persönliches Eigentum wurde, wobei der Acker grundsätzlich Eigentum des Landesherrn blieb. Die neuen Hufner mit Erbrecht legten als erfahrene Wasserbauer ihrer Heimat Teiche an, um bei Feuerbrünsten ihre mit Stroh gedeckten Häuser retten zu können, denn der Fläming ist eine wasserarme Landschaft. Diese Teiche findet man noch heute im Flämingdorf. Sie bauten Brunnen für die Trinkwasserversorgung und sammelten die Steine auf den urbar gemachten Feldern ab. Während ein Teil zu Kopfsteinpflaster verarbeitet wurde, diente der Andere für den Aufbau der Dorfkirche. Im Jahr 1221 verfügte das Dorf bereits über eine Mühle. Eine große Hungersnot herrschte im Fläminger Land 1298.

Das Amtsdorf entrichtete ab 1492 keine Gemeindeabgaben und zum Ort gehörte eine eigene Pfarrstelle, die nach Einführung der Reformation ab 1535 bis 1539 zum Nachbardorf Werbig gelangte.

Im Flämingdorf lebte um 1500 bis etwa 1560 der Bauer und Richter Johann Koppehele. Dessen Sohn Georgius Koppehele, der im Jahr 1538 in Gräfendorf geboren wurde, widmete sich der Kirche. Er besuchte die Lateinschule in Jüterbog und begann 1559 ein Studium an der Universität Wittenberg. Ein weiteres Studium folgte 1598. Georgius Koppehele verstarb 1604 hoch geehrt als Kanonikus am erzbischöflichen Hof in Magdeburg. Durch sein Testament legte Georgius Koppehele den Grundstock zu einer Stiftung (Koppehelische Stiftung), die bis zur Nachkriegszeit existierte und derzeit wiederbelebt werden soll.

1533 veräußerte der geldbedürftige Erzbischof Albrecht das Amtsdorf an den Amtshauptmann Georg von Thümen, der es zu einem schriftsäßigen Gut machte. Er war der erste eigentümliche bzw. ordentliche Besitzer des Gutshofes. Sein Sohn Moritz übernahm diesen um 1562. Ein gewisser Ernst von Thümen verkaufte das Gut im Jahr 1583 an Hans-Joachim von Seelen, dessen Vorfahren aus einem alten Adel entsprossen. Wegen seiner Gelehrsamkeit wurde er als Stadtrichter zu Jüterbog im Jahr 1573 angestellt. 1547 plünderten spanische Soldaten im Rahmen des Schalkaldischen Krieges die Gegend aus. In der Zeit von 1584 bis 1598 herrschte in den Dörfern des Flämings die Pest, die viele Menschen im Jüterboger Land verschlang. Ob Hans-Joachim von Seelen aufgrund der Pest im Jahr 1598 verstarb, ist nicht überliefert, jedoch hinterließ er seiner Familie (Gattin mit zwei Knaben und ein Mädchen) ein stattliches Vermögen. Seine beiden Söhne hatten von dem Vater nur Untugenden geerbt. Schnell war das Gut sehr hoch verschuldet. Philipp, ein unbändiger Jüngling, schändete 1604 eine edle Dirne. Bald darauf wurde er von einem Sattler in seinem Hause erstochen und liegt in der Mönchenkirche zu Jüterbog begraben. Der zweite Sohn Joachim zog unterdessen nach Ungarn in den Krieg gegen die Türken, focht tapfer, aber seine Wildheit und Rohheit erhielt neue Nahrung. Bei seiner Heimkehr drückte er seine Untertanen mit neuen Steuern und Diensten. Die Einwohner hielten diese Unterdrückung nicht mehr aus und beschwerten sich bei dem Domkapitel, welches auch 1607 dem Hauptmann Saagast gebot, ihn zu verhaften, dass allein durch Errichtung eines Rezesses (Vergleichs) mit den Untertanen verhütet wurde.

Mit Beginn des Dreißigjährigen Krieges 1618 war Brandenburg vor allem Durchzugsland der Söldnerscharen. Sie nahmen sich was sie brauchten. Es kam zu einer erneuten Pestseuche. Gräfendorf musste das Wallensteinsche Herr im Jahr 1627 mit Brote, Stroh und Hafer beliefern. Das erzstiftische Amt Jüterbog, dem auch Gräfendorf einverleibt war, gelangte 1635 in kursächsischen Besitz, weil der Kurfürst von Sachsen einen Separatfrieden mit dem Kaiser schloss. Durch Verwahrlosung der alten Witwe wurde dem Rittergutshof 1636 infolge eines Großbrandes schwerer Schaden zugefügt und im darauf folgenden Jahr -1637- von schwedischen Söldnern so verwüstet bzw. schwer geplündert , dass niemand mehr daselbst wohnen konnte. Unter diesen Umständen nahm Joachim von Seelen wiederum Kriegsdienste an und starb zu Schöna bei Dahme im Jahr 1648. Seine beiden Söhne Joachim Caspar und Adam Leopold waren nicht besser als der Vater. Der erste trieb die Unmenschlichkeit aufs höchste, misshandelte die Bauern, beleidigte den Hauptmann Schlomach und trieb Blutschande mit seiner Stiefmutter. Diese Verbrechen zogen ihm die gefängliche Haft zu. Der Amtmann Sättler leitete den Kriminalprozess mit einer Strenge, welche an die Barbarei des Mittelalters erinnert. Die Hinrichtung des Gutsbesitzers Joachim Caspar von Seelen folgte mit dem Schwert. Sein Blut floss 1651 auf dem Markplatz zu Jüterbog und sein Körper ruhet in einem Winkel des Nikolaikirchhofes. Die Stiefmutter wurde statt Verlust der Hand mit einer lebenslänglichen Verweisung bestraft. Sein Bruder, Adam Leopold, nachheriger Besitzer von Gräfendorf, setzte das gottlose Leben fort, versuchte seine Frau und Kinder zu vergiften, welches aber der Himmel verhütete. Er entfloh und wurde als gemeiner Raubmörder bei Hameln erschossen. Lange irrte sein einziger Sohn Adam Ernst unstet und flüchtig herum, bis ihn stille Melancholie verzehrte. Finanzielle Nöte zwangen die von Seelen, 1670 einen Teil des Dorfes zu verkaufen. Zwei Jahre später -1672- verloren sie auch Besitz. Das Gut wurde unter Administration gestellt und das Geschlecht der von Seelen endete.

Beide Dorfteile gelangen 1673 für die nächsten Jahrzehnte in bürgerliche Hände. Die Herren Krause und Wollersheim (ein Rechtsgelehrter) aus Torgau bauten die Dorfkirche im Jahr 1697 wieder auf. Auf dem Rittergut wurde 1700 Bier für den Eigenbedarf gebraut. 1705 verkauften die Herren das Gut an die Akzise-Einnehmer Sortefleisch in Luckenwalde, der es jedoch wegen Mangel an Lehnsbelehung nicht behaupten konnte und es 1713 dem Kreisdirektor- /hauptmann Christian Wilhelm von Thümen überließ, dessen Familie es in Erblehn verwandelte. Seine Gemahlin kümmerte bis etwa 1720 allein um die Bewirtschaftung. Erst zu diesem Zeitpunkt zog Christian Wilhelm von Thümen auf das Gut. Einige Jahre später - 1727 - entdeckte man im großen Pfuhl einen von Eichenholz ausgeschälten Brunnen, der auf die ehemalige Siedlung stieß. Das zweigeschossige barocke Adelswohnhaus, genannt Schloss, wurde 1727 fertig gestellt. Trotz dieses ansehnlichen Neubaus blieb Gräfendorf auch in den folgenden Jahren immer nur vorübergehend Sitz eines Thümenschen Familienzweiges. Nach dem erblosen Tode Christian Wilhelms fiel das Gut an seinen Bruder August Christian von Thümen, dieser 1774 die finanziellen Mittel stiftete, um die gesprungene Kirchglocke zu erneuern. Kurz darauf -1776- folgte die Anschaffung einer kleinen Orgel. Zuvor -1756- besetzte der Preußenkönig Friedrich II die sächsische Grenzgegend. Es begann der 7jährige Krieg (1756-1763) und neues Leid entstand. Im Jahr 1800 wurde der preußische Major Carl Hermann von Thümen ansässig. Dieser bemühte sich, vor allem die wirtschaftliche Grundlage des Rittergutes zu verbessern. In den Jahren zwischen 1800 und 1807 war der in späterer Zeit sehr bekannte Landwirtschaftsexperte Johann Gottlieb Koppe als Stellvertreter des Gutsverwalters auf Gräfendorf tätig. Der bedeutende Reformer der Landwirtschaft wurde am 21.01.1782 in Beesdau geboren und starb am 01.01.1863 daselbst. Durch neue Methoden der modernen Fruchtwechselwirtschaft konnte die Getreideproduktion in dieser Zeit um das Sechsfache gesteigert werden.

Seit dem Wiener Kongress 1815 und der damit verbundenen territorialen Verkleinerung Sachsens kam das Flämingdorf wieder zurück an Preußen. Gräfendorf gehört fortan zum neuen preußischen Landkreis Jüterbog-Luckenwalde. Als Verwaltungssitz wurde die Stadt Jüterbog gewählt. Der Südwesten der Mark Brandenburg (Fläming) war ein über mehrere Jahrhunderte umstrittenes Grenzland zwischen den Territorialmächten Brandenburg/Preußen, Kursachsen und dem Erzstift Magdeburg.

Im Jahr 1816 gab es wieder eine Windmühle, Hufschmiede sowie die Brauerei mit Branntweinbrennerei, Schänke und eine Ziegelei. Der preußische Staat löste in der Zeit von 1830-1849 die Frondienste ab. In Gräfendorf entsteht 1840 eine Schneiderei und die Schmiede, die 1885 in Besitz der Familie Schröder übergeht und noch heute ein handwerklicher Familienbetrieb ist. Nach dem Tode Carl Herrmanns und seiner Witwe wurde das Rittergut 1851 laut Erbrezess dem noch unmündigen Albert Felix von Thümen überlassen. Nach erlangter Volljährigkeit machte dieser sich an die Umgestaltung der gutswirtschaftlichen Verhältnisse in Gräfendorf. Die herrschaftliche Wohnung wurde im Innern völlig ausgebessert und verschönert. Gleichzeitig wurde die Dorfstraße leicht nach Westen verlegt und der kleine Teich im Jahr 1853 um die Hälfte verkleinert, um damit vor dem Herrenhaus mehr Platz zu schaffen. Die Brennerei und der dazugehörige Schlot finden 1856 erstmals bauliche Erwähnung. Um 1880 erhielt das Gutshaus eine in die Bausubstanz eingreifende neobarocke Umgestaltung. Seitlich wurde der Bau um drei Achsen erweitert, eine neue Auffahrtsrampe führte zu dem straßenseitigen Eingang und die Fassadenmitte erhielt durch das riesige Rundbogenfenster, flankierende gekuppelte Klossalpilaster sowie einen aufwendigen Dachturm einen neuen Akzent. Südlich des fast viereckigen Gutshofes, welcher selbst mit neuen Wirtschaftgebäuden erweitert wurde, erstreckte sich der ungefähr einen Hektar große landschaftlich gestaltete Park. Dieser ist heute noch erhalten und liegt dem Dorfteich genau gegenüber. Er wurde in der Mitte des 19. Jahrhunderts vom damaligen Besitzer (Carl Herrmann von Thümen) angelegt und besaß ein kleines Teehaus.

Nach der Familie von Thümen war ein Herr Ernst Brumhard bis 1897 Besitzer des Kirchendorfes mit Rittergut und Schäferei, dessen Grab mit Gedenkstein auf dem Friedhof noch immer gut erhalten ist. Eine große Vorliebe zur Jagd hatte Franz Salomon, der das Gut ab 1900 übernahm. Ebenfalls 1900 erfolgt die Eröffnung der Kreiskleinbahn Dahme-Jüterbog-Luckenwalde, deren Betrieb 1965 eingestellt wurde. Diese Streckenführung führte ca. 700 Meter nördlich an Gräfendorf vorbei. Der Spritzenverband von Gräfendorf gründete sich im Jahr 1909. Ein Jahr später -1910- schafft der Gutsherr für die Feuerwehr eine Handdruckspritze an. Nach dem ersten Weltkrieg (1914-1918) nahmen die Siegermächte die Entmilitarisierung von Deutschland vor. In Gräfendorf wurden diese Abrüstungsmaßnahmen bis 1920 behindert. Beim Gutsbesitzer war ein Kampfflugzeug untergebracht. Des Weiteren fanden sich MGs mit Munition an. Auch Karabiner sollen dort gelagert haben. Das gesamte Kriegsmaterial zog die so genannte Ermittlungsbehörde ein. In den 20er und 30er Jahren des 20. Jahrhunderts existierten ein Reiter- sowie Radfahrerverein in Gräfendorf, welches ab 1931 Landgemeinde wurde. Der Familienname des Gutsbesitzers Salomon änderte sich laut Grundbucheintrag von 1928 auf Salm. Infolge der Wiederaufrüstung Deutschlands beginnt 1935 die Militärfliegerei auf zwei langen Graspisten vor dem Wald (ca. 1 km südlich von Gräfendorf). Die Errichtung von Militärbaracken folgte und der Feldflugplatz diente bis 1944 als Fliegerschule/Luftkriegsschule. In den Kriegsjahren gab es eine eigenständige Frauenfeuerwehr im Flämingdorf. Vor dem Ende des 2. Weltkrieges war der Ersatzflughafen Ziel einiger Jägerangriffe, bei denen Bomben zwischen Höfgen und Gräfendorf nieder gingen. Die Ortschaft Gräfendorf wurde nicht von Bomben getroffen. Zum Anfang des Jahres 1945 erhielt die Fluganlage eine betonierte Start- und Landebahn ("Rollbahn"). Im nahen Hochwald getarnt, sollten Raketenjäger vom Typ Me 262 (Düsenflugzeug) zur Verteidigung der Reichshauptstadt eingesetzt werden. Dies geschah nicht mehr, denn im Frühjahr zog das Jagdgeschwader ab. Im April 1945 nahmen sowjetische Panzer, aus Richtung Werbig kommend, den Ort Gräfendorf ein. Der letzte Besitzer vom Gut hieß Herbert Salm, dessen Familie durch die Rote Armee enteignet wurde. Die Besetzung des Schlosses folgte, dass bis 1947 unter russischer Verwaltung stand. Die Provinzialregierung der Mark Brandenburg forderte (auf Befehl der sowjetischen Militäradministration) ihre Bürger auf, Guts- und Herrenhäuser abzureißen. Für fast 100 Umsiedler, die einst jenseits der Oder und Neiße ihre Heimat besaßen, sie verlassen müssten und in Gräfendorf ein neues zu Hause fanden, wurde das Schloss zum Abriss freigegeben. Mit den teilweise gewonnenen Steinen entstanden 36 Neubauernhöfe bzw. Siedlerhäuser. Restlos vernichtet wurde der Bau nicht, ein Seitenflügel, der wenig daran erinnert, steht noch und gehört der Gemeinde. Der Seitenflügel diente bis zur Wende als Konsum und wird heute für Veranstaltungen aller Art genutzt. Auch das Jagdschloss im Wald, welches noch mit einem Stromanschluss versehen werden sollte, fiel um 1947 nach Beschädigung dem Abriss zum Opfer. In der Nachkriegszeit folgten ettliche Veränderungen. So nutzte man ab 1950 die ehemalige Gutshoffläche als Gärtnerei für Gemüsepflanzen. Auch verkleinerte Verwaltungseinheiten entstanden im Jahr 1952. Durch diese Reform zählte Gräfendorf über 40 Jahre zum Kreis Jüterbog und dem Bezirk Potsdam.

Mindestens seit Ende der 50er Jahre des 20. Jahrhunderts findet das in der Umgebung beliebte Parkfest statt, welches zum Anfang als Kinderfest konzipiert wurde. Zuvor war auch noch das Stollenreiten im Dorf bekannt, dass später an Tradition verlor. Sogar zu Zeiten des alten Gutsbesitzers gab es bereits verschiedene Festlichkeiten. 1956 gründeten 6 Bauern die LPG Typ I namens "Fortschritt", die sich zum Typ III erweiterte und später mit den Bauern des Nachbarortes Werbig zusammenging. Der erste Kindergarten öffnete 1957 in Gräfendorf und die Verlängerung des südlich gelegenen Flugplatzes erfolgte im Jahr 1959. Zuvor erhielt das Objekt ein Tank- und Munitionslager. Ein Neubau des Kindergartens wurde 1962 in Angriff genommen. Im Jahr 1971 gründete sich der Dorfjugendklub. Es wurde ein neuer Sportplatz hinter dem Park angelegt, der kleine Dorfteich entschlammt und der Betrieb des Wasserwerks eingestellt. Der große Dorfteich erhält im Jahr 1977 ein schöneres Aussehen und der Rat des Bezirkes Potsdam zeichnet Gräfendorf beim Wettbewerb "Mach mit!" aus. Zwei Jahre zuvor -1975- entstand das Trappenschongebiet Jüterbog, zu dem auch die Gemarkung Gräfendorf gehört. Das Artenschutzgebiet ist etwa 4000 ha groß und war schon lange Lebensraum der seltenen, wildlebenden Großtrappen, die die größten flugfähigen Vögel unserer Heimat sind. Zum Parkfest 1987 wird die historische Feuerwehr-Handdruckspritze (Baujahr 1910) aus Gutsbesitzerzeiten präsentiert. Den Titel "Schönes Dorf" erringt Gräfendorf 1988. Im darauf folgenden Jahr gelingt die erfolgreiche Verteidigung des Titels. In der Wendezeit nutzen mehrere Gräfendorfer den Schritt in die Selbständigkeit (auch Wiedereinrichter). In dieser Zeit kommt die Planung und Durchführung des traditionellen Parkfestes zu kurz. Es fällt 1990 das erste Mal aus. Zum Ende des Jahres 1993 werden Großkreise geschaffen, die die bisherige Struktur im Bundesland Brandenburg ablösen. Gräfendorf gehört nunmehr zum neu gegründeten Landkreis Teltow-Fläming, der den Verwaltungssitz in Luckenwalde hat. Als weiteres entsteht im Jahr 1997 die Großgemeinde Niederer Fläming. Davon bildet Gräfendorf einen der 23 Ortsteile. Für die Kinder gründeten die Kameraden eine Jugendfeuerwehr, die gleich mit zwei Teams im darauffolgenden Jahr beim Amtsausscheid 1998 "Löschangriff nass - Kinder" antraten und den 1. und 3. Platz erkämpften. Seit 1998 gibt es eine Farm, die den seltenen und wertvollen Ginseng auf ökologischer Art anbaut.

Das neue Jahrtausend war der Startschuss für viele neue Projekte im Flämingdorf. Die Freiwillige Feuerwehr erhielt im Jahr 2000 eine bessere Löschtechnik zur Ausstattung. Das Gemeindehaus (ehemaliges Schloss) wurde 2001 durch einen Anbau (Feuerwehrkomplex mit integrierter Bushaltestelle) erweitert. Für die Jugend entstand ein Beach-Volleyball-Feld auf dem Sportplatz hinter dem Park. Zur Anlage gehört noch ein Streetball-Platz. Der Umbau der Wasserwerks- bzw. Brennereiruine zu einem Wohn- und Geschäftshaus begann. Im Laufe des Jahres 2002 ging der Ausbau des Straßennetzes nach Welsickendorf und Reinsdorf voran. Es folgten weitere Außen- und Innenarbeiten am Gemeindezentrum sowie an der Feldsteinkirche. Eine neue Trinkwasserleitung installierte man 2004 für die Anwohner im Reinsdorfer Weg.

Das Jahr 2005 ist ein Außergewöhnliches in der Gräfendorfer Geschichte, nicht nur weil der erste ökologische Ginseng von Deutschland hier geerntet wurde und das dazugehörige Geschäftshaus, welches nunmehr als Verarbeitungs- und Verkaufsstelle sowie Informations- und Präsentationsstätte dient, seine Pforten öffnete, sondern auch weil das achthundertste Bestehen des Dorfes gefeiert wurde. Im Vorfeld warb man mit großen Transparenten, welche durch Schüler der Grundschule „Ludwig-Achim-von-Arnim“ gefertigt wurden. An drei Festtagen (17.-19. Juni 2005) begangen die Gräfendorfer das Jubiläum. Freitag bildete der Seniorentag „Tag des älteren Bürgers" den Auftakt mit etwa 400 Gästen. Sehr viele Besucher kamen Samstag zur Mittagszeit, um sich den Festhöhepunkt anzuschauen. Der Jubiläumsumzug unter dem Motto „Landwirtschaft früher und heute" mit seinen vielen Schaubildern und etwa 120 Beteiligten quer durch die Geschichte wurde geboten. Danach standen viele Aktivitäten für Groß und Klein auf dem Programm. Es erschien die erste Festschrift mit der Komplettierung zur Gräfendorfer Geschichte. Mit dem Jubiläumstanz fand der zweite Festtag seinen Abschluss. Zeitig begann der Sonntag mit Frühschoppen und Blasmusik. Partylaune entstand beim Beachvolleyball-Turnier "Pokal des Jugendclubs". Insgesamt fanden über 1000 Besucher und Einheimische den Weg zur grandiosen 800-Jahrfeier. Zur Krönung des Jubiläumsjahres gelang es den Feuerwehrkameraden erstmals den Titel beim Gemeindeausscheid "Löschangriff nass - Männer" zu erringen. Des Weiteren erhielt der Jugendclub einen neuen Anstrich und am Gemeindekomplex fanden die restlichen Arbeiten an der Fassade ihren Abschluss. Eine Komplettsanierung des Reinsdorfer Weges folgte. In der Grünstraße, Dorfstraße und am Wasserwerk begannen die ersten Arbeiten für eine neue Trinkwasserleitung. Nach monatelanger Schließung öffnete zum Jahresende die Discothek "New Bajazzo".

Für die Gräfendorfer Feuerwehrgeschichte war das Jahr 2009 ein Besonderes. Der 100jährige Geburtstag stand an. Zuvor brach im Dorf das "Puppenfieber" aus. Viele liebevoll gestaltete Feuerwehrpuppen standen in der Ortschaft. Der Höhepunkt des dreitägigen Jubiläumsfestes vom 04. bis 06. September 2009 war der Feuerwehrfestumzug, an dem u.a. Brandenburgs Innenminister Jörg Schönbohm teilnahm.

- - - Für die Zukunft ist ein Anschluss an den Flaeming-Skate® (Deutschlands längste Inline-Skaterbahn) vorgesehen. Die Realisierung des Streckenabschnittes soll bis spätestens 2013 vollzogen sein. - - -