L’OREME a choisi de parler d’ODK à l’occasion de son vingtième « apéro technique ».
J’y étais invité pour présenter la solution. Pierre Balzergue (G-EAU), Amélie Fargevieille (CEFE), et Bruno Bonté (G-EAU) ont quant à eux présenté 3 cas d’utilisation très différents (suivi d’impact des inondations, suivi de piézomètres en Algérie, suivie nichoir de mésanges charbonnières et mésanges bleues).
Voilà un mois que j’ai eu la chance de participer au sommet ODK organisé à Londres grâce au soutien de la Fondation Bill & Melinda Gates.
J’étais très excité, impressionné et je dois l’avouer un petit peu stressé à l’idée de rencontrer d’autres utilisateurs assidus de la solution, ainsi que l’équipe de développement.
Excité car voila 8 ans que j’utilise la solution au CEN Occitanie, 6 ans que je suis actif au sein de la communauté ODK , que je m’y implique bénévolement (traduction, forum, réunion du TAB), et que j’y côtoie et apprécie de nombreuses personnes. J’allais pouvoir les rencontrer « en vrai », discuter avec elles, échanger.
Impressionné pour les mêmes raisons et aussi par les structures représentées et les échelles auxquelles elles utilisent ODK dans tant de domaines différents.
Un peu stressé enfin car le sommet se tenait en anglais… que je lis et écris sans trop de difficulté mais écouter et parler ne sont pas lire et écrire. Ma pratique orale de l’anglais se limite au réunions mensuelles du TAB et aux séries en VO…
Merci donc à Aurelio et Tino pour l’immersion progressive le soir de notre arrivée 😉
Merci à toutes et tous pour votre indulgence, votre bonne humeur et nos échanges.
Merci à Hélène L. et Hélène M. pour les discussions off en français… Vous avez sauvé de la surchauffe une partie de mes neurones 🙂
Merci à Gareth, Florian et Andrew pour vos retours d’expériences sur la [vege|mar]mite
Merci bien sûr à l’équipe de nous avoir concocté un tel programme.
Les discussions furent à l’image de ce qu’elles sont sur le forum : riches, ouvertes, concrètes, attentives.
Ce fut vraiment passionnant de découvrir les différents cas d’utilisation présentés par des institutions de divers domaines : santé, accès aux soins, lutte contre la malnutrition, cartographie d’urgence, lutte contre la pollution plastique, santé vétérinaire, qualité de l’air, maintenance d’installations industrielles, cartographie de sentiers de randonnée…
La présentation de la feuille de route d’ODK et le focus sur les entités ont permis à tous les participants de pouvoir discuter ensuite en ayant le même niveau d’information et la même perspective.
Au delà de ma motivation à participer plus encore à cette communauté et à promouvoir ODK, ces 3 jours m’ont donné envie de continuer à pratiquer l’anglais pour pouvoir plus facilement discuter avec tous et mieux saisir les détails des discussions. Je vais donc certainement retourner dépenser ce qu’il me reste de CPF au French American Center de Montpellier qui m’avait aidé l’an dernier à préparer mon arrivée au sein du TAB.
3 jours c’est long mais c’est court aussi quand on veut prendre le temps de discuter avec tout le monde. Ce que je n’ai pas pu faire. Donc si une prochaine occasion se présente j’espère avoir le temps de discuter avec Dan avec Kevin ainsi qu’avec les membres de l’équipe de GetODK qui nous aident tant dans nos missions quotidiennes.
La synthèse publiée par l’équipe reflète la richesse de nos échanges et la complémentarité de nos usages divers d’ODK.
Nous avons eu des discussions passionnantes sur de nombreux sujets : les entités, les aspects « géo » et « carto », les bonnes pratiques, leur partage au plus grand nombre, la formation, les sciences citoyennes…
De nombreuses discussions qui nous concernaient finalement tous, que nous travaillions dans le domaine de la conservation de la nature, de la santé ou de l’industrie. Ces différences nous ont permis de sortir de ces moments d’échange avec des objectifs et des expressions de besoins les plus étayées possibles dont l’équipe va s’emparer.
Enfin un dernier merci pour le post-it de remerciements à mon attention sur l’un des panneaux de brainstorming.
Un nouvel ensemble de fonction pour récupérer automatiquement les données de vos formulaires ODK dans votre base de données #PostgreSQL.
Ce nouvel ensemble de fonctions utilise pyODK (https://github.com/getodk/pyodk) dans des fonctions pl/python et permet l’utilisation de filtres (ex les données envoyées il y a moins de 48h). Le principe est le même qu’avec Central2PG, une tâche planifiée interroge à la fréquence voulue le serveur ODK Central.
Lors du premier appel les tables qui accueilleront les données sont créées dans la base de destination et sont remplie. Lors des appels suivants, si de nouvelles questions ont été ajoutées au formulaire, les colonnes correspondantes sont ajoutées aux tables, et les nouvelles données intégrées.
Vous trouverez dans ce dépôt un exemple complet : – une image docker (de test) d’un serveur PostgreSQL avec les fonctions – un formulaire ODK vierge – les instructions pour récupérer les données dans PostgreSQL – les instructions pour créer une tâche planifiée – les instructions pour afficher les afficher dans QGIS)
Comme pour l’article de Florian Mayer publié sur le forum d’ODK, il est question ici de suivi de tortues,
mais en France et sur une espèce d’eau douce, la Cistude d’Europe, Emys Orbicularis.
Même si la tortue Caouanne fait son retour sur nos plages de méditerranée, un suivi tel que celui mis en place en Australie n’est pas encore nécessaire 😉
Pour suivre le populations de cistude, les collègues posent les pièges le premier jours de la semaine, qu’ils relèvent les 3 jours suivants.
Les individus capturés sont marqués (s’ils ne le sont pas déjà) et mesurés. L’ensemble des information est actuellement noté sur une fiche papier.
Au cours du printemps 2022, Vivian Millet, en stage de formation Idgéo a developpé un formulaire dédié à ce protocole.
Au cours des discussions avec les collègues en charge du terrain, ils nous ont expliqué que les pièges changent de place toutes les semaines, et qu’un suivi plus fin de leur emplacement serait utile.
Jusqu’à maintenant, le numéro du piège était reporté sur la fiche de capture. Et les pièges localisés à la main sur une carte.
Nous avons proposé de gérer ce référentiel de pièges dans ODK, et de mettre à jour la liste des pièges mobilisables dans le formualire de capture quand ils sont déplacés.
Nous avons donc développé un formualire dédié à la pose des pièges.
Une fois ce formualire fonctionnel, nous avons voulu adapter ce test et le rendre aussi automatique que possible.
L’idée générale est la suivante :
si les pièges sont déplacés (= si on utilise le formulaire de pose de pièges)
alors on met à jour le référnetiel des pièges utilisés dans le formulaire de capture (= on génère ce référentiel avec les nouvelles données et on l’envoi à ODK Central)
et on met à jour le formulaire (= on publie une nouvelle version)
Mise ne oeuvre
C’est parti !
Nous avons donc développé deux formulaires :
_CMR_Cistude_pose_pieges_ utilisé pour la pose des pièges
et _CMR_Cistude_captures_ utilsisé pour le suivi des individus capturés
Toutes les requêtes SQL présentées ci-dessous sont executées dans notre base de données "métier". Rien n’est exécuté dans la BDD de Central à laquelle nous ne touchons jamais.
Nous utilisons une tâche cron (tous les jours à 22h) qui exécute les requêtes suivantes :
Nous utilisons pour cela les fonctions de central2pg, placées dans le schéma _data_fromcentral schema pour récupéréer les données relatives aux pièges :
SELECT data_from_central.data_from_central_to_pg(
'my_login','my_password','my.central.fdqn',5,
'CMR_Cistude_pose_pieges', -- form ID
'data_from_central', -- schema where to create tables and store data
'point,point_auto' -- columns to ignore in json transformation to database attributes (geojson fields of GeoWidgets)
);
Nous avons créé une vue appelée _cmr_cistude_pose_pieges_sessioncourante qui retourne seulement les pièges posés lors de la dernière sessions (max(date)).
Le resultat de cette vue est copié dans un fichier geojson, dans un endroit accessible en écriture à l’utilisateur postgres. (commande COPY TO…)
Pour le moment, cette requête est executée même s’il n’y a pas de nouveau piège.
COPY (
WITH places AS (
SELECT id_piege, label, value, geometry
FROM data_from_central.cmr_cistude_pose_pieges_session_courante
)
SELECT
json_build_object(
'type', 'FeatureCollection',
'features', json_agg(ST_AsGeoJSON(t.*)::json)
)
FROM places AS t
) to '/home/postgres/medias_odk/pieges.geojson';
Nous utilisons un numéro de version de formulaire que nous avons souhaité "porteur d’information".
Il est composé de l’année sur 4 caractères à laquelle nous concaténons le numéro du jour dans l’année (DOY) sur 3 caractères (complété par des 0 à gauche).
concat(extract(YEAR FROM date_max),lpad(extract(DOY FROM date_max)::text,3,’0′))
Nous comparons ensuite la version courante du formulaire avec son "hypothétique" nouvelle version.
Si cette dernière est plus grande que l’actuelle, nous créons un brouillon de formulaire.
Pour cela et pour les autres étapes, nous avons ajouté de nouvelles fonctions à la bibliothèque "central2pg"..
SELECT data_from_central.create_draft('my_login','my_password','my.central.fdqn',5,'CMR_Cistude_captures')
FROM data_from_central.cmr_cistude_pose_pieges_session_courante
WHERE concat(extract(YEAR FROM date_max),lpad(extract(doy FROM date_max)::text,3,'0')) > data_from_central.get_form_version('my_login','my_password','my.central.fdqn',5,'CMR_Cistude_captures')
LIMIT 1;
Une fois le brouillon créé, nous poussons le geojson comme pièce jointe à ce brouillon.
SELECT data_from_central.push_media_to_central('my_login','my_password','my.central.fdqn',5,'CMR_Cistude_captures', '/home/postgres/medias_odk', 'pieges.geojson')
FROM data_from_central.cmr_cistude_pose_pieges_session_courante
WHERE concat(extract(YEAR FROM date_max),lpad(extract(doy FROM date_max)::text,3,'0'))::integer > data_from_central.get_form_version('my_login','my_password','my.central.fdqn',5,'CMR_Cistude_captures')::integer
LIMIT 1;
Et nous publions la nouvelle version 😉
SELECT data_from_central.publish_form_version('my_login','my_password','my.central.fdqn',5,
'CMR_Cistude_captures', concat(extract(YEAR FROM date_max),lpad(extract(doy FROM date_max)::text,3,'0'))::integer )
FROM data_from_central.cmr_cistude_pose_pieges_session_courante
WHERE concat(extract(YEAR FROM date_max),lpad(extract(doy FROM date_max)::text,3,'0')) > data_from_central.get_form_version('my_login','my_password','my.central.fdqn',5,'CMR_Cistude_captures')
LIMIT 1;
Suite aux discussions sur le formualire « 2020 » une série d’améliorations ont été apportées au formulaire « Sicen ». Le détail est à voir ici (en anglais) :
Et c’est la version 14 de TAXREF qui est intégrée et que vous retrouverez dans les listes.
Voici donc un tutoriel, sous forme de captures d’écrans, allant de la configuration d’ODK Collect à la fin de la saisie d’une donnée dans le formualire.
Évolution technique d’ODK
Avant de commencer, un (tout petit) peu de contexte technique. ODK a remplacé le serveur Aggregate par un serveur plus moderne appelé Central. Cela est transparent pour vous mais entraîne quelques changements dans l’usage que vous faites de Collect. La mise à jour des formulaires sur votre téléphone est désormais automatique, tout comme l’envoi des données finalisées au serveur.
Pour ce qui concerne les géomaticiens, Central nous permet de gérer des groupes d’utilisateurs qui accèdent à différents formulaires (Bénévoles, prestataires, partenaires…).
Enfin, un des gros avantages de Central réside dans le fait que les formulaires réalisés pour vos téléphones sont aussi diffusés sous la forme de formulaires web (grâce à Enketo), utilisables eux aussi en mode déconnecté.
Nous pouvons donc désormais utiliser ODK pour lancer des enquêtes web participatives, ou des sondages relatifs à un évènement particulier, en remplacement des framaforms et autres limesurvey.
Tout d’abord, la connexion au serveur de formulaires (nommé Central) se fait par le scan d’un QRcode qui vous a été ou vous sera fourni
Paramètres
Configurer par QRCode
Une fois le code scanné, votre application est configurée et interroge le serveur pour savoir quels formulaires sont disponibles, et les télécharge.
Identité de l’utilisateur
Il nous faut maintenant renseigner les données d’identification qui permettront de vous faire connaitre une fois pour toutes dans les différents formulaires et de vous attribuer correctement vos données.
→ Veillez à renseigner l’adresse mail en minuscules.
Cartes → Choisir Mapbox
Autres paramètres utiles
De retour sur l’écran des paramètres, vous pourrez modifier :
la taille de la police qui sera utilisée dans les formulaires
la manière de naviguer d’un écran à l’autre
en faisant glisser le doigt sur l’écran de gauche à droite pour avancer et de droite à gauche pour reculer
en affichant des boutons en bas de l’écran
en utilisant les deux méthodes
Vous êtes maintenant prêts à saisir votre premier formulaire. ODKCollect est configuré pour proposer systématiquement les dernières versions des formulaires disponibles sur le serveur.
Saisie de données
Sur la page d’accueil de l’application, cliquons sur Remplir un formulaire
Choisissons Sicen
Les 3 premiers écrans vous présentent le paramétrage de l’application. A la première utilisation, les fonctionnalités seront toutes activées par défaut. Libre à vous de désactiver celles qui vous semblent provisoirement ou définitivement inutiles. A l’utilisation suivante, chacune des fonctionnalité sera proposée dans l’état d’activation ou elle était lors de votre dernière utilisation. Vous pourrez là encore valider ou modifier chacun de ce choix. Les fonctionnalités désactivées ici seront masquées pendant votre utilisation du formulaire.
Écran de paramétrage n°1 → l’identité de l’utilisateur
Les champs sont remplis par défaut avec les valeurs saisies dans les paramètres généraux de l’application (voir début de ce tutoriel)
Écran de paramétrage n°2 → types de géométries créées
points
lignes
polygones
Écran de paramétrage n°3 → Types de données (thématiques) et paramétrage de l’autocomplétion
La dernière question vous permet de choisir le nombre de caractères à saisir dans le recherche des espèces avant de déclencher l’interrogation du référentiel. 3 est le minimum, 7 le maximum (pour permettre l’utilisation du « code taxon » par exemple « ERI RUB »)
Une fois les paramétrages vérifiés et ou modifiés vous pouvez
Choisir l’étude
A terme nous aimerions générer dynamiquement et régulièrement cette liste d’études pour ne faire apparaître que les études en cours et pourquoi pas que celles qui concernent l’utilisateur de l’application
Choisir le protocole
Ici aussi, nous devrions pouvoir limiter la liste des protocoles selon l’étude choisie ou l’utilisateur de l’application.
Une fois ces paramètres de « session » renseignés, nous pouvons commencer la saisie de données proprement dite.
Création d’une localité
Il s’agira d’un point, d’une ligne ou d’un polygone.
Le GPS peux vous aider à dessiner automatiquement lignes et contours, que vous pouvez aussi dessiner à la main sur l’écran.
Saisie d’une ou plusieurs observation à cet endroit
Une fois l’emplacement créé, nous allons pouvoir y créer autant d’observation que nous le souhaitons, de chacun des types d’observations autorisés dans les paramétrages du formulaire. Screenshot_2021-03-15-16-20-591080×1920 124 KB
Commençons par une espèce végétale. Vous pouvez saisir le nom de l’espèce ou son « code » composé des 3 lettres du genre suivies d’un espace et des 3 lettre de l’espèce (ex. ERI RUB).
Propositions des taxons de référence et des synonymes qui correspondent aux lettres tapées
D’abord les taxons de rangs supérieurs puis les espèces et sous espèces.
On peut aussi utiliser un code espèce compose ds 3 premières lettres du Genre et des 3 premières de l’espèce et le cas échéant des 3 premières de la sous-espèce :
Renseignement de l’effectif observé
Pour clarifier la collecte de données d’absence, nous avons ajouté une question explicite :Si le taxon n’a pas été vu, c’est qu’il était recherché et absent. Dans ce cas les questions relatives à la saisie de l’effectif ne seront pas affichée.
Mais si l’espèce a été observée, les écrans suivant (ou leurs homologues pour la Faune sont affichés)
Ici pour les espèces végétales il s’agit d’un effectif par classes d’abondance
Informations sur la « qualité » de la donnée
Notez que l’observation pourra être retrouvée dans la navigation du formulaire, avec l’heure de l’emplacement et l’espèce observée.
Renseignement de détails optionnels, prise de photo
Si oui on revient à la saisie d’une observation sur l’emplacement courant.
Si non il nous est proposé d’ajouter une nouvelle localité
Si oui on revient à l’ajout d’une localité (point, ligne ou polygone) Si non, on finalise le formualire en renseignant la présence d’éventuels accompagnateurs
Renseignement des accompagnateurs éventuels
Au fur et à mesure de la saisie, n’hésitez pas à utiliser l’icône de la disquette pour enregistrer le formulaire en cours sur votre téléphone.
Revenir sur des données précédemment saisies :
L’icône représentant une flèche montrant un point permet de naviguer dans les observations déjà saisie pour les vérifier ou les modifier.
Une fois ceci fait on peut aller au bout du formulaire et le marquer comme finalisé.
Depuis le « playstore » d’Android ou depuis l’APK mise à disposition sur le site du projet :
https://github.com/getodk/collect/releases
Configuration de l’application
Tout d’abord, la connexion au serveur de formulaires (nommé Central) se fait par le scan d’un QRcode qui vous a été fourni
Une fois le code scanné, votre application est configurée et interroge le serveur pour savoir quels formulaires sont disponibles, et les télécharger.
Il nous faut maintenant renseigner les données d’identification qui permettront de vous identifier dans le formulaire, de vous proposer vos lagunes et vos stations de suivis et de vous attribuer vos données dans la base de données.
Attention, l’adresse email doit bien être renseignée en minuscules.
De retour sur l’écran des paramètres, vous pourrez modifier :
la taille de la police qui sera utilisée dans les formulaires
la manière de naviguer d’un écran à l’autre
en faisant glisser le doigt sur l’écran de gauche à droite pour avancer et de droite à gauche pour reculer
en affichant des boutons en bas de l’écran
en utilisant les deux méthodes
Vous êtes maintenant prêts à saisir votre premier formulaire.
C’est parti !
Écran n°1 : identité et date
Le premier écran reprend vos informations d’identité, renseignées lors de l’initialisation de l’appareil, et vous présente la date du jour.
L’adresse email doit bien être renseignée en minuscules (attention notamment à la première lettre que les correcteurs ont tendance à mettre en majuscule).
Écran n°2
Voulez vous saisir les informations relatives à la météo ?
Renseignement des données météo du jour et de la veille
Choix du cadre de suivi
Choix de la lagune puis de la station
La station est-elle en eau ?
Si oui on saisira ensuite les mesures effectuées.
Des alertes apparaissent si vous tentez de saisir des valeurs en dehors des plages de valeurs « autorisées »
Suppression d’une valeur
Pour effacer une réponse, appuyer longtemps dessus :
Une fois renseignées les valeurs pour la station en cours, il vous sera proposé d’ajouter une nouvelle station ou non. Soit vous serez ramené au choix du cadre, soit à la fin du formulaire que vous pourrez finaliser et enregistrer.
Revenir sur vos mesures
En cliquant sur la flèche inclinée en haut de l’écran
Vous pouvez ainsi revenir sur chacun de vos enregistrements
De même tout au long de la session vous pouvez forcer l’enregistrement des données en cours de saisie en cliquant sur la disquette de la barre d’outils.
Envoi des données au serveur
Les versions récentes d’ODK envoient automatiquement les formulaires finalisés au serveur « Central » quand une connexion est détectée.
Les versions récentes de QGIS permettent d’utiliser des photos comme symbole de point.
Nous allons voir ici comment afficher sur une carte les photos don les chemins sont stockés dans la table attributaire.
Nous utiliserons la couche **points_obs_pressions_menaces_jalons** du service WFS du CEN
Attention, si vous ne réglez pas les échelles auxquelles doit s’afficher la couche, toutes les images seront téléchargées, ce qui peut-être très très lourd, faire planter QGIS et impacter la bande passante !
Nous allons donc limiter l’échelle à partir de laquelle qgis affichera la couche :
1 : nous choisissons la couche concernée
2 : nous activons la fenêtre **rendu** symbolisée par un pinceau-brosse
3 : nous définissons que la symbologie sera rendue (affichée) entre le 1/1 et le 1/150000ème
Nous pourrions en plus définir une symbologie pour toutes les échelles inférieures au 1/150000 qui représenterait par exemple un appareil photo.
Nous pouvons maintenant régler la symbologie pour faire apparaître les photos prises sur le terrain.
1 : Choix de la couche dont on veut modifier la symbologie (elle est déjà sélectionnée normalement)
2 : Le type de symbole à choisir est **Symbole image raster**
3 : Pour le chemin de l’image, nous utiliserons un champ de la table
4 et 5 : C’est le champ **photo** qui contient l’url de l’image sur le serveur
Voilà le rendu final, à améliorer en utulisant des règles de symbologies liées à l’échelle de la carte par exemple :