1685. aastal asutati talurahvakool tolleaegse Järva-Jaani kiriku pastori Christian Kelchi eestvedamisel. Christian Kelch on tuntud ka “Liivimaa kroonika” autorina. Eesti keeles on ilmunud tema Järva-Jaanis kirjutatud „Liivimaa ajalugu” 2004. aastal ning hiljem kokkupandud „Liivimaa kroonika järg” 2009. aastal (Kirjastus Eesti Ajalooarhiiv, Tartu).
1850. aastal rajati Orina vallakool, mis asus Orina mõisa maadel. Sellest ajast on järjepidev teave kooli olemasolu kohta Järva-Jaani piirkonnas.
1870. aastal ehitati esimene koolimaja Järva-Jaani Soo tänavale. Koolis töötas kolm jagu (klassi), kes kõik õppisid ühes klassiriuumis. Samale kohale ehitati uus koolihoone 1903. aastalkoolijuhataja Jüri Saare (koolijuhataja 1893- 1931) eestvõttel, kes oli 19. sajandi lõpus ja 20. sajandi algul tugev kohaliku elu edendaja ja ühistuste asutaja. 1902 rajati kooli juurde Järva-Jaani kihelkonna õpetajatele raamatukogu.
Aastatel 1902 – 1918 töötas Järva-Jaanis veel õigeusu Kangru kihelkonnakool.
1916 avati Järva-Jaani Kõrgem Algkool (V kl) ,
1921. aastal nimetati Orina vallakool Järva-Jaani algkooliks. 1922. aastast paigutati Järva-Jaani algkool Orina mõisa II korrusele, mõisa kööki ja mõisavalitseja majja. 1921-1924 oli Järva-Jaanis kaks algkooli: üks neist Järva-Jaani algkool, teine Järva-Jaani kõrgem algkool, mida kohalikud kutsusid Orina kõrgemaks algkooliks.
Aastatel 1924- 1939 tegutses Järva-Jaanis I Algkool (I ja II klass) Soo tänaval ja II Algkool (III ja VI klass) Orina mõisahoones. 1939. aastal liideti koolid kokku ja õppeasutuse ametlikuks nimeks sai Järva-Jaani 6-klassiline Algkool.
1939 sõlmiti koolimaja ehitamise leping. 1940. aasta märtsi lõpul anti valminud uus koolihoonevastuvõtukomisjonile üle ning sügisel alustasid õpilased seal õppetööd. Kooli juurde avati ka internaat (Pikk 1).
1944. aastal reograniseeriti kool Järva-Jaani mittetäielikuks keskooliks, mis oli 7-klassiline. Kooli direktoriks määrati Linda Altorg. 1955.aastast alustas kool Järva-Jaani Keskkoolina. 1957. aastal asus keskkooli juhtima direktor Aksel Annuk (kuni 1986).
1959 lõpetas Järva-Jaani Keskkooli I lend (klassijuhataja Selve Reispass).
1960. aastal alustas koolimaja ruumides tööd Tallinna Kaugõppe Keskkooli Järva-Jaani konsultatsioonipunkt, mille juhatajaks määrati matemaatikaõpetaja Vilmi Möll. Pärast õhtukooli rajamist Paides, jätkas Järva-Jaani konsultatsioonipunkt selle filiaalina.
1959/60- 1962/63. õa toimus üleminek kohustuslikule 8-klassilisele kooliharidusele, kasutusele tuli kollane aabits, keskkoolides hakati teostama 10- 12-tunnist teoreetilist ja praktilist tootmisõpetust. Kuna koolimajas oli ruumipuudus, siis paigutati algklassid ja keskkooli viimane klass endisesse kohtumajja ja MTJst tühjaks jäänud ruumidesse Pikk 19. Aktiivselt tegutses puhkpill õpetaja Voldemar Jürise juhendamisel, koore juhatas Ellen Kärmik, tegeldi spordiga (jalgrattasport ja suusatamine), kõrgel tasemel oli pioneeriorganisatsiooni tegevus Paide rajoonis.
1964 – 1968 ehitati 1940. aastal valminud koolihoonele juurdeehitust, misjärel alustati õppetööd ühes vahetuses. Juurde saadi 9 klassiruumi, kuid aulat ja võimlat ei ehitatud. Võimlemistunnid toimusid õues või koridoris. Pidulikumad üritused viidi läbi kultuurimajas.
1975. aastal alustati koolis üleminekut kabinetsüsteemile. Kooli puhkpilliorkester lõpetas tegevuse. Direktori asetäitjana kooli- ja klassivälise töö alal töötas Anu-Urve Lomp. Koolis oli aktiivne komsomolitegevus. Osaleti koolinoortele mõeldud sõjalistes-sportlikes mängudes "Põuavälk" ja "Kotkapoeg".
1976.aastal direktori asetäitjana õppe-kasvatusatöö alal Kirsti Hommik ( kuni aastani 2000).
1983. aasta sügisel asfalteeriti koolimaja esine. 1984 asendati peahoone katus.Direktori asetäitjana kooli- ja klassivälise töö alal töötas Piret Nigul (1981-1984), sügisest 1984 võttis töö üle Silva Kärner (1984 - 1991, huvijuht 1994 - 1999)
1985 värviti peahoone fassaad. Sügisel suleti keskkooli internaat, mis oli asunud endise pastoraadi ruumides.
1985. aasta detsembris tähistati suurejooneliselt Järva-Jaani hariduselu 300. aastapäevakutsekooli aulas.
1986. aasta koolireformi käigus tuli avada 6-aastaste I klass (direktori kt Silva Kärner 1986- 1987). Endise internaadi ruumides alustatai klassivälise töö maja renoveerimistöödega Järva-Jaani kolhoosi kaasabil. Juba kevad – talvel oli võimalik seal läbi viia kolme kooli (Aravete, Järva-Jaani, Koeru) tootmisõpetust (lüpsjad ja traktoristid). Kooskõlastati ka võimla projekt, mida aitas finantseerida Järva-Jaani kolhoos.
1987- 1994 oli kooli direktoriks Eduard Elbrecht. 1988 ehitati välja koolimaja garderoobid, teostati elektrisüsteemi remont ning seni puuküttel olev pliit köögis viidi elektriküttele, korrastati kooli vihmaveetorud. Värviti vana koolimaja fassaad. 1988. aastal muutus klasside numeratsioon, kohustuslikuks muutus 9-klassiline põhiharidus ning 12-klassiline keskharidus. Kool läks tervenisti üle 5-päevasele töönädalale.
1989 võeti Järva-Jaani Keskkool asutajaliikmena Bengt Gottfried Forseliuse Seltsi (vanade koolide ühendus).
1989/90 toimusid muudatused õppekorralduses. Kadus ära tootmisõpetus ning tütarlastel oli võimalus omandada B-kategooria juhiluba. Direktor Elbrechti eestvõttel loodi sõprussidemed Soome Vabariigi Kälviä valla kooliga, kelle direktoriks oli Vesa- Matti Niskanen.
1989/90 kooli pioneeriorganisatsioon lakkas töötamast ning asemele tuli Eesti Lasteorganisatsioon (ELO), mille elujõud Järva-Jaani koolis hääbus juhi puudumise tõttu.
1991. aastal viidi haridusasutused haldusreformi käigus üle kohalike omavalitsuste alluvusse. 5.veebruarist 1992 muudeti Järva-Jaani keskkool munitsipaalkooliks. 1992 anti klassivälise töö maja (endine pastoraat) üle EELK Järva-Jaani kogudusele.
1993. aasta sügisel toodi 6-aastaste I klass koolimajja, kuna LPK „Noorus” suleti.
1994. aastast võis kooliteed alustada taas 7-aastaselt. Direktori kohusetäitjana jätkas oktoobris õppealajuhataja Kirsti Hommik.
1995 tuli kooli direktoriks Toomas Põldma (kuni 2003). 1995. aasta 1. septembril püstitati mälestusmärk esimese talurahvakooli ja selle asutaja Christian Kelchi auks praeguse kooli ette, kuna koolis tähistati hariduselu 310. aastapäeva.
1996.aastal ilmus uus riiklik õppekava, mis nõudis mitmeid ümberkorraldusi ka kooli siseselt. I klassi tuli kaks klassitäit õpilasi, kes olid sündinud Eestis laulva revolutsiooni järgselt (lõpetasid 2008).
1997 remonditi kooli I ja II korruse põikkoridoride klassiruumid, jätkati töid poiste tööõpetuse klassi renoveerimisel ja mõisas alustati tütarlaste kodundusklassi remonti.
1998 lõpetas 40. lend, kes oli läbinud esimesena 12-aastase õppekava.
1999. aasta juunis peeti vilistlaspäeva koolimajas. Oli möödunud 40 aastat I lennu lõpetamisest. Mõisa II korrusele pandi üles kooliajaloo toad ning kodundusklassis oli õpetajate koosviibimine.
2000. aastal alustas õppealajuhatajana Kersti Kertsmik. Huvijuhina asus ametisse Astrid Liiv- Külaots, kelle eestvedamisel loodi sõprussidemed 4K koolidega (Luunja, Tsirguliina, Puhja ja Järva-Jaani).
2001. aasta kevadel korraldati esimesed kooliolümpiamängud ning detsembris toimus I jõuluball (huvijuht Meelis Külaots). Ehitati välja soojustrass Järva-Jaani meiereist koolimajja.
2002. aastal võeti vastu uus riiklik õppekava. Direktori asetäitjana õppe-kasvatustöö alal alustas Silva Kärner uue kooliõppekava kokkupanemist. Huvijuhina asus ametisse Heli Kark.
Novembris 2002 alustas Järva-Jaani kooli juures tegevust õpilaskodu sotsiaalsete probleemide perede lastele, lapsed asusid õppima tavaklassides (kuni aastani 2013).
2003. aasta septembris alustas täiskasvanute konsultatsioonipunkti asemel tegutsemist kaugõppeosakond Järva-Jaani Keskkooli juures. Suvel lahkus direktori ametist Toomas Põldma ning direktori kohusetäitjana alustas õppeaastat õppealajuhataja Silva Kärner.
2003. aasta 1. oktoobrist tuli direktoriks Sirje Pehk.
25. märtsist 2004 registreeriti seni kooliajaloo toana tegutsenud ruumid Orina mõisas mittetulundusühinguna Järva-Jaani Muuseum.
2004. aasta 1. septembrist muudeti kooli nimi Järva-Jaani Gümnaasiumiks.
2005. aastal astus Järva-Jaani Gümnaasium Mõisakoolide Ühingusse.
21. - 22. oktoober 2005 toimusid hariduselu 320. aastapäeva üritused. Hariduskonverentsi ettekanded ilmusid uurimistööde kogumikus "Järva-Jaani elust ja haridusloost" (koost Silva Kärner ja Helgi Veemaa).
2006. aasta II veerandist jätkas õpilaskodu uutes ruumides Lai tn 2a. Koolis hakkas tööle psühholoog Ülle Alev.
2007. ja 2008. aasta suvel osaleti mõisakoolide külastusmängus "Unustatud mõisad", mille käigus tutvustati Orina mõisas asuvat koduloomuuseumit. 2007. aasta suveks valmis kooli aula fujee poiste tööõpetuse maja põhjapoolsesse külge ehk endisesse mõisavalitseja majja.
2008 lõpetas gümnaasiumi Järva-Jaani kooli 50. lend. Sama aasta sügiseks valmis kooli aulaendise mõisavalitseja maja II korrusele
2009. aasta Koolitantsu festivalil sai Järva-Jaani noorterühm Vabariigis laureaadiks (juhendaja Ülle Vaas).
2009 algatati maakondlik omaloominguliste tööde (muistendite) konkurss, mis pühendati kodukandi kirjanikule Ansomardile alias Peäro August Pitkale ( toimusid ka aastatel 2011, 2013, 2015)
2010. aastal toimus maakondlik omaloominguliste luuletuste konkurss, mis oli pühendatud Leili Andre mälestuse jäädvustamisele (toimusid veel aastatel 2012, 2014)
2010. aasta suvel tähistati hariduselu 325. aastapäeva vilistlaste kokkutulekuga 12.06 ning kihelkonnapäevadel osalemisega. Novembris peeti temaaatiline õpilaskonverents „Läbi kolme sajandi“, kus ettekandeid esitasid õpilased. Anti välja kooli almanahh „Loov mõte“.
2010. aasta sügisel alustati gümnaasiumis kaheaastase kutseõppesuunaga „Arvutid ja arvutivõrgud“, mis viidi läbi koostöös Järvamaa Kutsehariduskeskusega.
2011. aastal jõustus uus riiklik õppekava nii põhikoolile kui gümnaasiumile. Õppekava kohaselt oli gümnasistidel võimalus valida erinevate õppesuundade vahel: loodusteaduslik, traditsiooniline või kutseõppesuund.
2011 detsember osaleti koolinoorte messil „Teeviit“ oma kooli tutvustava boksiga. Gümnasistide võistkond alustas sügisel osalemist televiktoriinis „Loodustark” (juhendaja Anu Nurk) ja võitis ning sai preemiareisi Norrasse.
2012 soojustati ja värviti koolimaja fassaad.
2013 toimusid VI temaatilised kooliolümpiamängud, mis kandsid talupojamängude ideed. Sügisel alustas koolis tööd sotsiaalpedagoog Greete Treial.
2014 toimusid koolis kaks mängu „Me armastame Eestit”, millest esimene oli pühendatud Eesti Vabariigi aastapäevale ning teine lihavõttepühade tähistamisele. Mängud valmistati ette gümnaasiumiõpilaste poolt projekti Ettevõtlik kool raames. Algklassidele viidi EV aastapäeva puhul läbi „Eesti mäng”, mille valmistasid ette klassiõpetajad.
2014 aastal saavutasid Järva-Jaani mudilas- ja lastekoorid Kalli Vainula juhendamisel piirkondlikul ülevaatusel esimese koha. Koorid on laulnud end vabariiklikele laulupidudele ja koolinoorte laulupidudele alates 1980- aastast ning osalenud ka maakondlikel laulu- ja tantsupäevadel.
2014. aasta sügisel sai kool uued arvutid ning tööle sai rakendatud kaks arvutiklassi (infojuht Kristjan Kruus).
2015 Koolis viidi läbi maakondlik kolmas Ansomardi-nimeline omaloominguvõistlus. Korraldati maakondlik originaalsete osaoskuste olümpiaad III- IV klasside õpilastele. Viidi läbi VII kooliolümpiamängud. 13. juunil toimus vilistlaspäev.
Koolimaja vana osa vundamendi ümbrus muudeti niiskuskindlaks ning paigaldati vee äravooli kannud.
2015. aasta sügisest asus kooli juhtima direktor Raigo Prants. 13.-20. november toimus oma kooli nädal, millega tähistati hariduselu 330. aastapäeva, pideva koolihariduse 165. aastapäeva ja keskhariduse andmise 60. aastapäeva. Toimus õpilaskonverents, mälumängud ning ümberpööratud tunniplaaniga koolipäev.
2016 aasta sügisest alustati temaatiliste projektipäevadega, mida korraldatakse kolm korda aastas. Projektipäevad toimuvad teemade kaupa: sügisel loovus, talvel uurimis ja kevadel liikuvus.
2017 alustasid tööd Järva-Jaani Gümnaasiumis kaks õppejuhti, Maris Piirojast sai õppejuht MÕK alal ja Agnes Kaiost digipädevuste alal.
Jätkub koostöö Soome sõprusvalla Kokkolo koolidega.
2017 sügisel alustati rahvusvahelise koostööprojektiga: Erasmus+ raames koostöö Rootsi kooliga Bernadottegymnasietis ja Sloveenia kooliga Cirius Kamnik. Projektide käigus oli tegemist õpilasvahetustega, mille raames praktiseeriti kultuuride vahelist koostööd.
Järva-Jaani Gümnaasiumit tunnustati 12.10 2017 Haapsalu Kutsehariduskeskuses Hariduskonverentsil "Ettevõtliku kooli" Standardiga Baastase.
2018 septembrist on ühise juhtimise all Järva-Jaani Gümnaasium ja Peetri Kool.
2018. aastast pakutakse kolm korda aastas valikainete kursuseid III ja IV kooliastmele. I ja II kooliaste jätkavad temaatiliste projektinädalatega.
2019 septembrist lõimitakse õppeained ja nii on koolis tunniplaanis looveneseväljendus ( kunst, muusika ja rütmika) ning inseneeria (tehnoloogia, informaatika ja liikumine). Inglise keelt õpetatakse alates esimesest klassist.
2020 septembrist on Järva-Jaani gümnaasiumi ainetunni pikkuseks 65 minutit ja tunniplaanis maksimaalselt viis tundi. Meie kollektiiviga liitus saksa keele õpetaja Sigurd Fohs ja nüüd on võimalus õppida kolme võõrkeelt.
2021/22. õppeaastast saab Järva-Jaani Gümnaasiumis õppida viiel erineval suunal: jõu, loovuse, spordi, teaduse või tehnoloogia suunal.
2022 kevadel avati omanäoline tehnoloogiaklass, kus antakse võimaluse CNC-pinki, trei- ja graveerimispinke, samuti Eesti üht vingeimat metallipuhastit ja laserkeevitust tundma õppida nii oma kooli tehnoloogia suuna õppuritel kui ka teistel Järva valla koolide õpilastel.
8. augustist 2022 asus Järva-Jaani Gümnaasiumi juhtima meie kooli vilistlane Annela Tammiste.
2023 sügisest liitus meiega soome keele õpetaja Margti Ahti.
Järva-Jaani Gümnaasiumit tunnustati 19.12. 2023 Ettevõtliku Kooli kvaliteetmärgisega hõbetase