Premier article d’une série de 3 sur Geotribu, consacrée à l’utilisation d’ODK avec PostGIS.
Merci à l’équipe pour l’accueil, les conseils, la relecture et les outils mis en place pour la publication.
https://static.geotribu.fr/articles/2021/2021-06-08_odk_postgis_1/
Suite aux discussions sur le formualire « 2020 » une série d’améliorations ont été apportées au formulaire « Sicen ». Le détail est à voir ici (en anglais) :
Et c’est la version 14 de TAXREF qui est intégrée et que vous retrouverez dans les listes.
Voici donc un tutoriel, sous forme de captures d’écrans, allant de la configuration d’ODK Collect à la fin de la saisie d’une donnée dans le formualire.
Avant de commencer, un (tout petit) peu de contexte technique.
ODK a remplacé le serveur Aggregate par un serveur plus moderne appelé Central. Cela est transparent pour vous mais entraîne quelques changements dans l’usage que vous faites de Collect. La mise à jour des formulaires sur votre téléphone est désormais automatique, tout comme l’envoi des données finalisées au serveur.
Pour ce qui concerne les géomaticiens, Central nous permet de gérer des groupes d’utilisateurs qui accèdent à différents formulaires (Bénévoles, prestataires, partenaires…).
Enfin, un des gros avantages de Central réside dans le fait que les formulaires réalisés pour vos téléphones sont aussi diffusés sous la forme de formulaires web (grâce à Enketo), utilisables eux aussi en mode déconnecté.
Nous pouvons donc désormais utiliser ODK pour lancer des enquêtes web participatives, ou des sondages relatifs à un évènement particulier, en remplacement des framaforms et autres limesurvey.
Depuis le « playstore » d’Android ou depuis le fichier .apk mis à disposition sur le site du projet : https://github.com/getodk/collect/releases/latest
Tout d’abord, la connexion au serveur de formulaires (nommé Central) se fait par le scan d’un QRcode qui vous a été ou vous sera fourni
Une fois le code scanné, votre application est configurée et interroge le serveur pour savoir quels formulaires sont disponibles, et les télécharge.
Il nous faut maintenant renseigner les données d’identification qui permettront de vous faire connaitre une fois pour toutes dans les différents formulaires et de vous attribuer correctement vos données.
→ Veillez à renseigner l’adresse mail en minuscules.
De retour sur l’écran des paramètres, vous pourrez modifier :
Vous êtes maintenant prêts à saisir votre premier formulaire.
ODKCollect est configuré pour proposer systématiquement les dernières versions des formulaires disponibles sur le serveur.
Sur la page d’accueil de l’application, cliquons sur Remplir un formulaire
Choisissons Sicen
Les 3 premiers écrans vous présentent le paramétrage de l’application. A la première utilisation, les fonctionnalités seront toutes activées par défaut. Libre à vous de désactiver celles qui vous semblent provisoirement ou définitivement inutiles.
A l’utilisation suivante, chacune des fonctionnalité sera proposée dans l’état d’activation ou elle était lors de votre dernière utilisation. Vous pourrez là encore valider ou modifier chacun de ce choix.
Les fonctionnalités désactivées ici seront masquées pendant votre utilisation du formulaire.
Les champs sont remplis par défaut avec les valeurs saisies dans les paramètres généraux de l’application (voir début de ce tutoriel)
La dernière question vous permet de choisir le nombre de caractères à saisir dans le recherche des espèces avant de déclencher l’interrogation du référentiel. 3 est le minimum, 7 le maximum (pour permettre l’utilisation du « code taxon » par exemple « ERI RUB »)
Une fois les paramétrages vérifiés et ou modifiés vous pouvez
A terme nous aimerions générer dynamiquement et régulièrement cette liste d’études pour ne faire apparaître que les études en cours et pourquoi pas que celles qui concernent l’utilisateur de l’application
Ici aussi, nous devrions pouvoir limiter la liste des protocoles selon l’étude choisie ou l’utilisateur de l’application.
Une fois ces paramètres de « session » renseignés, nous pouvons commencer la saisie de données proprement dite.
Il s’agira d’un point, d’une ligne ou d’un polygone.
Le GPS peux vous aider à dessiner automatiquement lignes et contours, que vous pouvez aussi dessiner à la main sur l’écran.
Une fois l’emplacement créé, nous allons pouvoir y créer autant d’observation que nous le souhaitons, de chacun des types d’observations autorisés dans les paramétrages du formulaire. Screenshot_2021-03-15-16-20-591080×1920 124 KB
Commençons par une espèce végétale. Vous pouvez saisir le nom de l’espèce ou son « code » composé des 3 lettres du genre suivies d’un espace et des 3 lettre de l’espèce (ex. ERI RUB).
D’abord les taxons de rangs supérieurs puis les espèces et sous espèces.
On peut aussi utiliser un code espèce compose ds 3 premières lettres du Genre et des 3 premières de l’espèce et le cas échéant des 3 premières de la sous-espèce :
Pour clarifier la collecte de données d’absence, nous avons ajouté une question explicite :Si le taxon n’a pas été vu, c’est qu’il était recherché et absent. Dans ce cas les questions relatives à la saisie de l’effectif ne seront pas affichée.
Mais si l’espèce a été observée, les écrans suivant (ou leurs homologues pour la Faune sont affichés)
Ici pour les espèces végétales il s’agit d’un effectif par classes d’abondance
Notez que l’observation pourra être retrouvée dans la navigation du formulaire, avec l’heure de l’emplacement et l’espèce observée.
Cela peut être utile pour les photos de site dans le cas d’observations de type pression/menace
Photos mobilisables dans QGIS par la suite
Si oui on revient à la saisie d’une observation sur l’emplacement courant.
Si non il nous est proposé d’ajouter une nouvelle localité
Si oui on revient à l’ajout d’une localité (point, ligne ou polygone)
Si non, on finalise le formualire en renseignant la présence d’éventuels accompagnateurs
Au fur et à mesure de la saisie, n’hésitez pas à utiliser l’icône de la disquette pour enregistrer le formulaire en cours sur votre téléphone.
L’icône représentant une flèche montrant un point permet de naviguer dans les observations déjà saisie pour les vérifier ou les modifier.
Une fois ceci fait on peut aller au bout du formulaire et le marquer comme finalisé.
Depuis le « playstore » d’Android ou depuis l’APK mise à disposition sur le site du projet :
https://github.com/getodk/collect/releases
Tout d’abord, la connexion au serveur de formulaires (nommé Central) se fait par le scan d’un QRcode qui vous a été fourni
Une fois le code scanné, votre application est configurée et interroge le serveur pour savoir quels formulaires sont disponibles, et les télécharger.
Il nous faut maintenant renseigner les données d’identification qui permettront de vous identifier dans le formulaire, de vous proposer vos lagunes et vos stations de suivis et de vous attribuer vos données dans la base de données.
Attention, l’adresse email doit bien être renseignée en minuscules.
De retour sur l’écran des paramètres, vous pourrez modifier :
Vous êtes maintenant prêts à saisir votre premier formulaire.
C’est parti !
Le premier écran reprend vos informations d’identité, renseignées lors de l’initialisation de l’appareil, et vous présente la date du jour.
L’adresse email doit bien être renseignée en minuscules (attention notamment à la première lettre que les correcteurs ont tendance à mettre en majuscule).
Voulez vous saisir les informations relatives à la météo ?
Si oui on saisira ensuite les mesures effectuées.
Des alertes apparaissent si vous tentez de saisir des valeurs en dehors des plages de valeurs « autorisées »
Pour effacer une réponse, appuyer longtemps dessus :
Une fois renseignées les valeurs pour la station en cours, il vous sera proposé d’ajouter une nouvelle station ou non. Soit vous serez ramené au choix du cadre, soit à la fin du formulaire que vous pourrez finaliser et enregistrer.
En cliquant sur la flèche inclinée en haut de l’écran
Vous pouvez ainsi revenir sur chacun de vos enregistrements
De même tout au long de la session vous pouvez forcer l’enregistrement des données en cours de saisie en cliquant sur la disquette de la barre d’outils.
Les versions récentes d’ODK envoient automatiquement les formulaires finalisés au serveur « Central » quand une connexion est détectée.
Les versions récentes de QGIS permettent d’utiliser des photos comme symbole de point.
Nous allons voir ici comment afficher sur une carte les photos don les chemins sont stockés dans la table attributaire.
Nous utiliserons la couche **points_obs_pressions_menaces_jalons** du service WFS du CEN
Attention, si vous ne réglez pas les échelles auxquelles doit s’afficher la couche, toutes les images seront téléchargées, ce qui peut-être très très lourd, faire planter QGIS et impacter la bande passante !
Nous allons donc limiter l’échelle à partir de laquelle qgis affichera la couche :
1 : nous choisissons la couche concernée
2 : nous activons la fenêtre **rendu** symbolisée par un pinceau-brosse
3 : nous définissons que la symbologie sera rendue (affichée) entre le 1/1 et le 1/150000ème
Nous pourrions en plus définir une symbologie pour toutes les échelles inférieures au 1/150000 qui représenterait par exemple un appareil photo.
Nous pouvons maintenant régler la symbologie pour faire apparaître les photos prises sur le terrain.
1 : Choix de la couche dont on veut modifier la symbologie (elle est déjà sélectionnée normalement)
2 : Le type de symbole à choisir est **Symbole image raster**
3 : Pour le chemin de l’image, nous utiliserons un champ de la table
4 et 5 : C’est le champ **photo** qui contient l’url de l’image sur le serveur
Voilà le rendu final, à améliorer en utulisant des règles de symbologies liées à l’échelle de la carte par exemple :
Aprés la version initiale Bourguignone, sa mise à jour Picarde, voici la dernière version du guide d’utilisation de QGIS 3.4 par Nathalie Moreira et Charles Bouteiller du CEN Normandie 🙂
Bravo et merci à eux.
Pour l’archivage de nos documents fonciers nous souhaitons standardiser leur stockage sur le réseau ainsi que rendre facile une lecture synthétique du document.
Pour cela nous allons générer une première page contenant le texte synthétique en pdf, la fusionner avec le document initial et produire le document final.
convert -extent 2100x2970 -background white -fill black -pointsize 80 -font Sawasdee \ label:' contrat n° 554 \ndate signature : 2016/09/28\nsignataire : Commune Douzens & ONF & CENLR \ntype contrat : Conv. Part. Gestion\nduree : 5 ans\ntacite conduction : oui ' -bordercolor white -border 10 couv.pdf pdfjam --outfile out.pdf --paper a4paper test4.pdf pdftk couv_a4.pdf 11_Douzens_Convention\ gestion_Douzens_CEN_ONF.pdf cat output 554_douzens_onf_cenlr_CPG_5ans_rt.pdf
WITH data AS (
SELECT 10312 AS id_obs, 'tetrax tetrax' as espece, 'mathieu' as observateur, '{"mâles": 12, "femelles": 3, "oeufs": 7}'::jsonb AS effectif
UNION
SELECT 15021 AS id_obs, 'zerynthia rumina' as espece, 'paul' as observateur, '{"mâles": 3, "immatures": 3, "larves": 7}'::jsonb AS effectif
UNION
SELECT 15897 AS id_obs, 'tetrax tetrax' as espece, 'paul' as observateur, '{"mâles": 4, "immatures": 15}'::jsonb AS effectif
)
/* les données qui contiennent des obs de mâles */
--SELECT id_obs, observateur, effectif->'larves' AS nb_larves, effectif->'mâles' AS nb_males from data --WHERE effectif ? 'larves'
/* les effectifs des différents objets observés (mâles, femelle, immature, oeufs) en colonne */
--SELECT id_obs, observateur, effectif, (effectif->>'larves')::integer AS nb_larves, (effectif->>'mâles')::integer AS nb_males, (effectif->>'femelles')::integer AS nb_femelles, (effectif->>'oeufs')::integer AS nb_oeufs from data --WHERE effectif ? 'larves'
/* des agrégations */
SELECT count(id_obs), espece, string_agg(DISTINCT observateur,',' ORDER BY observateur), sum((effectif->>'larves')::integer) AS nb_larves, sum((effectif->>'mâles')::integer) AS nb_males from data GROUP BY espece --WHERE effectif ? 'larves'
Le formulaire « ABC » est destiné aux étudiant du Master IEGB de Montpellier dans le cadre du projet Colibri. Il peut être utilisé pour saisir les observations naturalistes réalisées sur le terrain, que l’on soit connecté ou non.
Il a été développé par un étudiant d’IEGB de 1ere année – Jean Baïsez – en 2019.
Le tutoriel ci-dessous a été rédigé pour un second formulaire, seules les captures d’écran diffèrent. Vous pouvez donc le suivre pas à pas pour le formulaire ABC
Au delà de l’ABC, les données collectées contribueront à la connaissance du CEN L-R et à la mise en oeuvre des ses actions de conservation des espaces naturels et des espèces. Vous porrez collecter des données d’observations naturalistes relatives aux espèces, aux habitats naturels, ainsi que des données de pression sur le milieu et des notes illustrées géoréférencées.
Elles seront également instantanément redistribuées et mises à disposition de l’ensemble des pôles thématiques du SINP :
Ce formulaire utilise l’application ODK Collect.
ODK (Open Data Kit) est une solution libre (opensource) permettant la mise en place de formulaires sur mobile (uniquement pour Android !) et l’intégration des données récoltées par ces formulaires dans une base de données.
Nous allons voir ici comment utiliser l’application puis le fonctionnement du formulaire « ABC ».
Quelques étapes rapides de configuration sont nécessaires pour installer le formulaire sur votre téléphone :
Téléchargez l’application ODK Collect sur le Playstore (recommandé); ou bien téléchargez directement l’APK sur le github du projet (dérouler le sous menu « Assets ».
La dernière version (supérieure ou égale à 1.22 est nécessaire)
Une fois téléchargée, installée et lancée, il vous faudra configurer ODKCollect afin d’avoir accès au formulaire en question.
a) Depuis l’écran d’accueil cliquez sur les 3 points en haut a droite de votre écran
b) sélectionnez » Paramètres administrateur »
c) puis « Importer/Exporter les paramètres »
d) enfin cliquez sur » SCANNER UN CODE DEPUIS UN AUTRE APPAREIL » et scannez le QR Code ci-dessous :
L’application est maintenant correctement configurée pour pouvoir télécharger le formulaire et y envoyer vos données par la suite
e) Vous pouvez maintenant retourner sur la page d’accueil et cliquer sur » Modifier les Paramètres »
f) puis cliquez sur » Identité de l’utilisateur et de l’appareil «
g) pour pouvoir avoir accès aux » Métadonnées du formulaire «
h) Ici il vous faut entrer votre adresse mail (qui servira d’identifiant au moment de saisir les données dans le formulaires) ainsi que vos nom et prénom séparés par un espace (ex: « Baisez Jean ») ; vous pouvez également indiquer l’un des 3 règnes » 1 » pour Animal, » 2 » pour Végétal ou « 3 » pour Champignon; dans » Numéro de téléphone » suivant celui que vous utilisez le plus;
cela permettra une pré-sélection du règne lors de la saisie.
i) Choix du mode de navigation :
Dans l’onglet » Interface utilisateur « , il est possible de choisir comment vous souhaitez naviguer entre les différents écran du formulaires,
j) Choix du moteur cartographique : nous préconisons l’utilisation de Mapbox, plus rapide pour vous géolocaliser, et du fond de carte « Sattelite ».
Maintenant que l’application est configurée, vous pouvez accéder aux formulaires disponibles sur le serveur
k) cliquer sur » Télécharger un formulaire vierge «
l) télécharger le formulaire » ABC » (vous pouvez aussi télécharger le questionnaire de satisfaction, il est très rapide à compléter et me permettra, d’avoir des retours sur le formulaires et d’exploiter les résultats de ce formulaire de statisfaction dans mon rapport de stage et ma soutenance (merci !)
m) cliquer sur » Remplir un formulaire » et sélectionner » ABC «
n) une fois à la fin d’un questionnaire, validez l’écran qui vous propose de le « sauvegarder et de le marquer comme finalisé ». Vous pourrez toujours l’éditer par la suite.
o) quand vous le souhaiterez, si vous avez du réseau (téléphone ou wifi) vous pourrez envoyer le formulaire finalisé pour pouvoir observer vos données en ligne par la suite.
Voila, vous savez à présent vous servir de l’application ODK Collect
* utilisez le bouton « retour arrière » de votre téléphone pour sortir d’une interface clavier
* utilisez le bouton « retour arrière » de votre téléphone pour sortir d’un formulaire
* utilisez la flèche en haut a droite de n’importe quel formulaire pour revenir à n’importe quel endroit du formulaire
* restez appuyez sur une réponse pour pouvoir la supprimer ou supprimer le groupe dans laquelle elle est contenue (groupe = observation ou emplacement)
Le premier chargement du formulaire prendra un peu de temps car l’application doit intégrer les référentiels taxonomiques. Les lancements ultérieurs seront instantanés.
Les questions comportant des * sont des questions obligatoires qui ne peuvent être passées. Si la question ne comporte pas cette * alors vous pouvez passer à l’écran suivant sans même y répondre (ex: prendre une photo n’est pas une question obligatoire vous pouvez l’ignorez totalement)
La localisation se fait sur la carte automatiquement sur votre emplacement (le GPS doit etre activé), cependant il vous est possible de rester appuyez sur un autre endroit de la carte pour changer les coordonnées. Une fois les coordonnées sélectionnées vous pouvez les supprimer avec l’icône de poubelle ou les enregistrer et passer à la suite avec l’icone représentant une disquette.
Rappel : vous pouvez à tout moment cliquer sur les 3 points en haut a droite pour vous rendre dans l’interface utilisateur et changer le fond de carte ; cette fonctionnalité est également disponible si vous cliquez sur le bouton « couche » au dessus de poubelle (mais encore indisponible avec mapbox dans la version 1.22 d’odkCollect).
Les noms latins et vernaculaires sont acceptés dans le champs de recherche d’espèce, cependant certaines espèces sont enregistrées avec leur nom latin uniquement
L’url vous permet de visiter la page de l’espèce sélectionnée sur le site de l’INPN et ainsi pouvoir confirmer ou infirmer votre observation si vous aviez des doutes. Il se peut que l’espèce ait changé de nom ou de code et que la page soit introuvable. Une fois sur le site, appuyez sur le bouton retour de votre téléphone pour revenir au formulaire.
Les photos prisent dans le formulaire seront visibles sur l’interface en ligne Redash.
Une fois la 1ère observation saisie, le formulaire vous demande » Ajouter un nouveau groupe ? » : » Ajouter une observation ? « , si vous cliquer sur » AJOUTER UN GROUPE « , vous pourrez ajoutez une espèce pour les mêmes coordonnées sans avoir besoin de retourner sur la carte. Si vous sélectionner » NE PAS AJOUTER » alors le questionnaire vous re-propose d’ajouter un groupe mais cette fois pour entrer une nouvelle localité.
Par exemple, vous observez 2 espèces sur un même site, vous pouvez sélectionner l’emplacement sur la carte, sélectionner la 1ere espèce puis ajouter une observation pour ajouter la 2nde espèce pour la même localité ; ensuite vous vous déplacez un peu plus loin et observez une 3ème espèce, vous pouvez alors ajouter une nouvelle localité pour ensuite ajouter un groupe « espèce » et saisir votre observation.
Rappel : si vous désirez supprimer un groupe créé par erreur, il vous faut rester appuyez sur une question de ce groupe et sélectionner : » Supprimer le groupe «
Mise à jour du formulaire : il est possible que nous mettions à jour le formulaire, par exemple pour reformuler une question ou en ajouter une nouvelle…
Si c’est le cas, cela sera signalé en vert dans la section « télécharger un formulaire vierge ». Vous pouvez paramétrer l’application pour qu’elle charge automatiquement les nouvelles versions des formulaires.
Vous connaissez maintenant le fonctionnement du formulaire « ABC »
Vos données seront intégrées automatiquement à l’interface web « SICEN« , qui est l’interface utilisée par le CEN.
Le mode d’emploi de l’interface SICEN est disponible sur le site du CEN Centre-Val de Loire ici (ou en vidéos ici). Lors de votre première connexion, il vous faudra faire une demande de nouveau mot de passe. Vous recevrez alors un mail avec un mot de passe généré par l’application : http://cenlr.sicen.fr
Vous avez ici accès à l’ensemble des donénes colelctées par l’équipe du CEN LR, elle n’ont pas vocation à être diffusée par vos soins. Les diffusions exterieures doivent faire l’objet d’une demande auprés de Mathieu Bossaert, qui s’occupe techniquement de cet export.
En parallèle, nous travaillons à la mise en place d’un tableau de bord personnel de vos observations. Cette interface utilise l’outil nommé Redash.
Elle vous permettra de localiser les observations sur une carte et d’accéder à des graphiques statistiques, à des photos (celles prise avec l’application) et et aux détails que vous aurez ajoutés.
Vous pouvez accéder à cette interface en cliquant ici.
Cette interface est encore en développement, à l’heure actuellel les observations de tout-un-chacun sont visibles en même temps sur la carte et ne sont pas dissociables (bien qu’ en cliquant dessus on puisse tout de même savoir qui a fait l’observation).
au cours de l’automne, ce tableau de bord sera personnalisé et offrira à l’observateur la synthèse de ses seules observations.
Il sera en outre possible de trier les observations par taxon, par date, par commune, etc…
Petit script fort utile, trouvé ici : https://gis.stackexchange.com/questions/22175/adding-field-with-filename-when-merging-shapefiles-with-ogr2ogr
!/usr/bin/bash
for f in *.shp
do
base=${f%.shp}
ogrinfo $f -sql "ALTER TABLE "$base" ADD COLUMN espece character(40)"
ogrinfo $f -dialect SQLite -sql "UPDATE "$base" SET espece = '$base'"
ogr2ogr -update -append merged.shp $f
done