Nato a Réclère, nel Giura bernese, da Henri, piccolo contadino, e Ida Voisin, frequentò la scuola magistrale di Porrentruy dove nel 1848 conseguì il diploma di maestro elementare; a seguito del diploma insegnò a Epauvillers dal 1848 al 1850, a Réclère nel 1851 e a Le Noirmont nel 1852, dove venne licenziato dal governo conservatore bernese a causa delle sue idee di stampo liberale. Quell'anno entrò a fare parte dello studio notarile Charmillot di Saint-Imier, intraprendendo studi giuridici Strasburgo, Berna e Parigi, arrivando a conseguire il brevetto di notaio nel 1855 e quello di avvocato nel 1859. Dal 1858 al 1864 lavorò come cancelliere del tribunale distrettuale di Courtelary, prima di aprire un proprio studio legale a Saint-Imier.
Esponente del movimento radicale bernese, fu deputato al Gran Consiglio del Canton Berna dal 1864 al 1866, dal 1873 al 1878 e dal 1882 al 1892; inoltre, dal 1866 al 1873, fece parte del governo cantonale nel dipartimento delle ferrovie, mentre a livello federale fu membro del Consiglio nazionale dal 1869 al 1878 e nuovamente dal 1884 fino alla morte. Inizialmente legato alle posizioni del liberalismo radicale progressivamente gli ideali di Jolissaint si avvicinarono alle istanze del movimento operaio arrivando nel 1866 a presiedere la sezione di Saint-Imier dell'Associazione internazionale dei lavoratori.
Nel settembre 1867 fu tra i parecipanti del primo congresso internazionale della pace che si svolse Ginevra e che fu caratterizzato dalla presenza di numerosi esponenti del movimento democratico e socialista europeo, tra i quali Giuseppe Garibaldi e Michail Bakunin. Durante i lavori congressuali, di fronte al tentativo di alcuni delegati svizzeri di escludere dal dibattito le questioni politiche previste dal programma, Jolissaint contribuì con il proprio atteggiamento risoluto a far confermare dall'assemblea il testo originario0 venendo anche eletto presidente del congresso al termine della prima giornata, con Jules Barni vicepresidente, dovendo intervenire durante le contestazioni suscitate dal discorso dell'internazionalista italiano Carlo Gambuzzi, contrario al potere temporale del papato, sottoponendo all'assemblea una votazione che consentì all'oratore di proseguire il proprio intervento. Al termine del congresso fu costituita la Lega internazionale della pace e della libertà. L'anno successivo Jolissaint presiedette anche il congresso internazionale della pace tenutosi a Berna.
Nato in una famiglia cattolica e successivamente entrato a fare parte della comunità dei vecchi cattolici, durante il Kulturkampf sostenne gli interessi di quest'ultimi, pronunciandosi a favore della sorveglianza statale sulle istituzioni ecclesiastiche e successivamente, nel 1867, appoggiò il decreto del Gran Consiglio bernese che proibiva ai membri degli ordini religiosi di esercitare l'insegnamento. Parallelamente all'attività politica si impegnò nello sviluppo della rete ferroviaria cantonale, soprattutto nel Giura, dirigendo la ferrovia Giura-Berna-Lucerna dal 1873 al 1890 e la Ferrovia Giura-Sempione dal 1890 al 1896. Oltre a queste attività Jolissaint pubblicò anche dei testi dedicati a questioni politiche, giuridiche e religiose, fu membro dell'associazione studentesca Helvetia e, dal 1874, cittadino onorario di Saint-Imier.
