Van der Weele ging na de lagere school naar de HBS en trad in september 1931 als volontair in dienst bij het Rotterdamse gemeente-archief. Op een onderbreking van enkele maanden na, in verband met militaire oefeningen, bleef hij in die hoedanigheid werkzaam tot 1934. Omdat de kans op een vaste aanstelling in die crisisjaren zeer klein was, vertrok Jan Pieter min of meer tegen zijn zin naar de administratie van de politie. Daar kreeg hij namelijk wel een vast dienstverband. Op 15 juli 1936 keerde hij evenwel terug bij het gemeente-archief in de rang van schrijver. Drie jaar later werd hij bevorderd tot klerk en kort voor zijn dood tot adjunct-commies.

Bij genealogen genoot Van der Weele groot aanzien. Voor hen was hij een vraagbaak, omdat hij op meer zaken lette dan alleen op namen en data. Ook de sociale positie van een geslacht met zijn ups en donws schonk hij veel aandacht. Er staan verschillende publicaties op zijn naam. Zo beschreef hij onder andere de geschiedenis van het Gereformeerde Weeshuis in Rotterdam, de Rotterdamse schermmeesters en de Rotterdamse manege. Verder was hij bestuurslid en secretaris van de Vereeniging Oud-Hillegersberg. Ondanks zijn drukke werkzaamheden hield hij van het verenigingsleven en bezocht hij veelvuldig concerten en tentoonstellingen; veel zaken hadden zijn belangstelling. Op aanraden van zijn collega's was Van der Weele begonnen met een juridische opleiding. Door allerlei omstandigheden kon hij deze studie niet afronden.

Op 29 augustus 1939 rukte de algemene mobilisatie hem plotseling uit zijn werk. De winter bracht hij met zijn makkers door in stallen en feestzalen in de Peelstelling rond de plaatsen Zeeland en Mill. Gedurende deze periode onderwezen paters Kruisheren van het Udense gymnasium hem de klassieke talen Grieks en Latijn. 'De klassieken werden mij daar een troost, terwijl zij mij tot dusverre een gruwel waren geweest,' schreef Jan Pieter aan zijn ouders.

Bij het uitbreken van de vijandelijkheden op 10 mei 1940 lag Van der Weele in de voorste linies. Al na een half uur was de strijd voor hem voorbij, want de Duitsers namen hem gevangen na de verovering van zijn stelling. Samen met vele anderen werd hij overgebracht naar Magdeburg.

In juli 1940 keerde hij huiswaarts. Pas toen vernam hij dat zijn vader, een hoofdinspecteur van politie, bij het bombardement van 14 mei 1940 op Rotterdam om het leven was gekomen. Daar heeft hij het heel moeilijk mee gehad, evenals met het feit dat zijn geboortestad in puin lag. Daarnaast treurde de historicus Van der Weele over de vernietiging van het weeshuis met zijn dierbare archief.

Toen de jodenvervolging begon, heeft Van der Weele ervoor gezorgd dat doop- trouw-en afstammingsregisters in veiligheid zijn gebracht. Verder heeft hij vele joodse landgenoten voorzien van een 'Ariërverklaring'. Na de toenemende luchtaanvallen op het westelijke havengebied van Rotterdam, waarbij links en rechts bommen vielen, zijn de diverse doop-en trouwregisters in veiligheid gebracht in een kelder van het stadhuis. Van der Weele werd op die plek 'de ongekroonde koning'. Slechts een deur scheidde hem van het archief van de afdeling bevolking. Daar was hij snel evengoed thuis als in zijn eigen domein. Van der Weele heeft daar ten behoeve van de verdrukte landgenoten dankbaar gebruik van gemaakt.

Tijdens de kerstdagen van 1943 bereikte de familie Van der Weele het overlijdensbericht van Jan Pieter. Hij was de eerste die in het krijgsgevangenenkamp Colditz stierf aan de gevolgen van vlektyphus. Zijn kameraden en ook Franse lotgenoten zorgden voor een stijlvolle begrafenis op het Friedhof van Colditz. Zelfs kransen ontbraken niet op zijn voorlopige graf in vak G, rij 2. 'Wonderlijk einde, dat graf in Duitse aarde bedekt met Franse bloemen voor een Rotterdamse jongen,' schreef jaren later gemeentearchivaris

Dr. A.Th.C. van Kersbergen in een 'In Memoriam'' over Van der Weele. Een Brabantse medegevangene van Van der Weele schreef: 'Hij kreeg een statievolle begrafenis.'

De Rotterdammer had als oud-militair op 11 juni 1943 de opdracht gekregen terug te keren in krijgsgevangenschap. Plannen om onder te duiken kwamen niet bij hem op. Hij was als oudste zoon bezorgd voor het gezin, dat namelijk financieel geheel van hem afhankelijk was. In Duitsland viel het leven hem aanvankelijk mee. Maar na zijn tewerkstelling in een keramiekfabriek te Oschatz sloeg dit volledig om. Voor het lossen werd hij afgekeurd en daarom moest hij aardewerkprodukten schoonmaken. Het kampregime was hard en streng, vooral nadat enkele medegevangenen de vlucht hadden genomen. Uit zijn brieven naar huis bleek dat Jan Pieter heimwee had en maar moeilijk kon wennen aan de ijzeren tucht in het kamp. Voor hem was het ook minder prettig dat hij er weinig of geen geestverwanten vond met wie hij een diepgaand gesprek kon voeren. Al die zaken zijn waarschijnlijk mede oorzaak geweest van zijn afnemende weerbaarheid.

Overgebracht naar Nederland werd zijn stoffelijk overschot op 4 augustus 1949 herbegraven op het ereveld in Loenen, vak A 167.

Bron: Boek Ereveld Loenen, Laatste rustplaats van Nederlandse oorlogsslachtoffers. ISBN 90 12 08756 2

Jan Pieter van der Weele was als krijgsgevangene tewerkgesteld in het Arbeitskommando "Colditz Steingut A.G." dat administratief resorteerde onder het Stalag IV-g Oschatz (zie E. van der Most "Personalkarte III, Nederlandse krijgsgevangenen in Duitsland 1943-1945 en hun Arbeitskommando's",Gouda 2018). Colditz Steingut was dus geen krijgsgevangenenkamp, maar een Arbeitskommando. Het stond ook volledig los van het bekende krijgsgevangenenkamp voor officieren in de burcht van Colditz. Achter op het terrein van Colditz Steingut AG heeft zich ook een vestiging van HASAG bevonden voor de fabikage van de Pantzerfaust, waar concentratiekampgevangenen tewerkgesteld waren. Met die concentratiekampgevangenen hadden de Nederlandse krijgsgevangenen geen contact. De circa 77 Nederlanders die tewerkgesteld waren bij Colditz Steingut werden gehuisvest in een zaal van het Schützenhaus, dat op de andere oever van de rivier de Mulde stond, schuin tegenover de fabriek. De werkdagen in Colditz Steingut waren lang, het werk was zwaar en het eten weinig. Veel tijd voor het bijhouden van dagboeken of het schrijven van brieven was er niet.

In het dagboek van korporaal Luuk Kuijk (Kgf 98535), die op dat moment tewerkgesteld was in een Arbeitskommando te Nerchau (hemelsbreed 16 km van Colditz), valt het volgende te lezen:

Dinsdag 14 december1943

Nog moet ik vermelden dat er Dinsdagmiddag vijf mensen van ons naar Colditz moesten om daar een Hollandse krijgsgevangene te begraven. Die was daar gestorven aan vlektyfus. Hij heette Pieter van de Weele (kgf. 107203) uit Rotterdam en hij woonde in Rijswijk. Het was een prachtige begrafenis geweest en bij thuiskomst van de jongens hebben we een ogenblik stilte gehouden ter nagedachtenis van de dode.