La collection offre un libre accès en ligne à des documents de divers types (contes et légendes, récits de vie, témoignages d'artisans, enquêtes lexicales ou phonologiques,etc.) dans des langues de tous les continents. Elle accueille également des dictionnaires.
En , la collection Pangloss contenait 5 925 enregistrements dans 220 langues et dialectes.
Principes
Une archive sonore avec transcriptions synchronisées
La collection Pangloss donne accès à des enregistrements originaux. Certains d'entre eux possèdent des transcriptions (phonétique, phonologique, et/ou orthographique, selon les cas) et traductions. Chaque document est enregistré dans son contexte culturel, et transcrit en collaboration avec des locuteurs natifs, selon les méthodes d'enquête et description de langues à tradition orale.
Dictionnaires
Outre les enregistrements sonores, la collection Pangloss héberge également des dictionnaires depuis 2002. En 2017, la collection de dictionnaires de la collection Pangloss a adopté le nom «Lexica».
Architecture de l'archive ouverte
Les données archivées sont structurées dans un format ouvert, et peuvent être téléchargées (pour certaines, sous licence Creative Commons). Le logiciel utilisé pour préparer et diffuser les ressources est en libre accès (code open-source). "La Collection Pangloss s’est appuyée très tôt sur les technologies – comme l’écosystèmeXML – qui sont maintenant au cœur des humanités numériques".
La collection Pangloss est un membre du réseau OLAC d'archives linguistiques et du réseau DELAMAN(en) d'archives de langues en danger.
La collection Pangloss est définie comme une des collections de CoCoON (pour «COllections de COrpus Oraux Numériques»), plate-forme technique qui accompagne les producteurs de ressources orales dans la création, la structuration et l'archivage de leurs corpus. Les données sont archivées dans l'archive de l'Infrastructure de Recherche (IR*) Huma-Num.
Historique
En 2001, le «programme Archivage du LACITO» comptait une centaine de documents dans une vingtaine de langues. En 2011, la collection Pangloss comptait environ 1 000 enregistrements en 67 langues, dont 350 documents transcrits et annotés. En 2014, elle comptait 1 400 enregistrements, dont environ 400 documents transcrits et annotés. En , elle comptait 132 langues. En , la collection Pangloss atteignait 3 559 enregistrements en 170 langues, début 2024 5 714.
En 2021, un logiciel de traitement automatisé du langage doit faciliter la tâche de transcription, de l'ordre d'une heure devant désormais suffire pour entraîner un modèle acoustique, et quelques heures pour entraîner un modèle de langage (au lieu d'une centaine antérieurement),. Cette innovation est relatée dans des travaux de Traitement Automatique des Langues qui détaillent la chaîne de traitement utilisée,.
12(en) Michel Jacobson, Boyd Michailovsky et John B. Lowe, «Linguistic documents synchronizing sound and text», Speech Communication, vol.33, nos1-2, , p.79–96 (DOI10.1016/s0167-6393(00)00070-4, lire en ligne, consulté le )
↑Bouquiaux, Luc & Jacqueline Thomas. 1971. Enquête et description des langues à tradition orale. Deuxième édition 1976. Paris: Société d’études linguistiques et anthropologiques de France.
↑Jacobson, Michel & Boyd Michailovsky. 2002. Linking linguistic resources: time aligned corpus and dictionary. International Workshop on Resources and Tools in Field Linguistics. Las Palmas.
↑Michailovsky, Boyd, Alexis Michaud & Séverine Guillaume. 2011. A simple architecture for the fine-grained documentation of endangered languages: the LACITO multimedia archive. Keynote speech at Oriental-COCOSDA 2011, October 26th-28th, 2011. Hsinchu, Taiwan.
↑(en) Séverine Guillaume, Guillaume Wisniewski, Benjamin Galliot et Minh-Châu Nguyên, «Plugging a neural phoneme recognizer into a simple language model: a workflow for low-resource setting», Interspeech 2022 - 23rd Annual Conference of the International Speech Communication Association, Séoul, , p.4905–4909 (DOI10.21437/Interspeech.2022-11314, lire en ligne, consulté le )
↑(en) Séverine Guillaume, Guillaume Wisniewski, Cécile Macaire et Guillaume Jacques, «Fine-tuning pre-trained models for Automatic Speech Recognition, experiments on a fieldwork corpus of Japhug (Trans-Himalayan family)», CrossRef, Association for Computational Linguistics, , p.170–178 (DOI10.18653/v1/2022.computel-1.21, lire en ligne, consulté le )