Archives par étiquette : ODK

Formulaire mobile généraliste 2021

Suite aux discussions sur le formualire « 2020 » une série d’améliorations ont été apportées au formulaire « Sicen ». Le détail est à voir ici (en anglais) :

https://forum.getodk.org/t/odk-to-collect-species-and-habitats-localities-as-pressure-and-threats-to-ecosystems/26332/4?u=mathieubossaert

Et c’est la version 14 de TAXREF qui est intégrée et que vous retrouverez dans les listes.

Voici donc un tutoriel, sous forme de captures d’écrans, allant de la configuration d’ODK Collect à la fin de la saisie d’une donnée dans le formualire.

Évolution technique d’ODK

Avant de commencer, un (tout petit) peu de contexte technique.
ODK a remplacé le serveur Aggregate par un serveur plus moderne appelé Central. Cela est transparent pour vous mais entraîne quelques changements dans l’usage que vous faites de Collect. La mise à jour des formulaires sur votre téléphone est désormais automatique, tout comme l’envoi des données finalisées au serveur.

Pour ce qui concerne les géomaticiens, Central nous permet de gérer des groupes d’utilisateurs qui accèdent à différents formulaires (Bénévoles, prestataires, partenaires…).

Enfin, un des gros avantages de Central réside dans le fait que les formulaires réalisés pour vos téléphones sont aussi diffusés sous la forme de formulaires web (grâce à Enketo), utilisables eux aussi en mode déconnecté.

Nous pouvons donc désormais utiliser ODK pour lancer des enquêtes web participatives, ou des sondages relatifs à un évènement particulier, en remplacement des framaforms et autres limesurvey.

Revenons à Sicen.

Installation et configuration d’ODK Collect

Installation

Depuis le « playstore » d’Android ou depuis le fichier .apk mis à disposition sur le site du projet : https://github.com/getodk/collect/releases/latest

Capture d’écran du 2021-03-18 16-50-05

Configuration de l’application

Tout d’abord, la connexion au serveur de formulaires (nommé Central) se fait par le scan d’un QRcode qui vous a été ou vous sera fourni

Paramètres

Configurer par QRCode

Une fois le code scanné, votre application est configurée et interroge le serveur pour savoir quels formulaires sont disponibles, et les télécharge.

Identité de l’utilisateur

Il nous faut maintenant renseigner les données d’identification qui permettront de vous faire connaitre une fois pour toutes dans les différents formulaires et de vous attribuer correctement vos données.

→ Veillez à renseigner l’adresse mail en minuscules.

Cartes → Choisir Mapbox

Autres paramètres utiles

De retour sur l’écran des paramètres, vous pourrez modifier :

  • la taille de la police qui sera utilisée dans les formulaires
  • la manière de naviguer d’un écran à l’autre
    • en faisant glisser le doigt sur l’écran de gauche à droite pour avancer et de droite à gauche pour reculer
    • en affichant des boutons en bas de l’écran
    • en utilisant les deux méthodes

Vous êtes maintenant prêts à saisir votre premier formulaire.
ODKCollect est configuré pour proposer systématiquement les dernières versions des formulaires disponibles sur le serveur.

Saisie de données

Sur la page d’accueil de l’application, cliquons sur Remplir un formulaire

Choisissons Sicen

Les 3 premiers écrans vous présentent le paramétrage de l’application. A la première utilisation, les fonctionnalités seront toutes activées par défaut. Libre à vous de désactiver celles qui vous semblent provisoirement ou définitivement inutiles.
A l’utilisation suivante, chacune des fonctionnalité sera proposée dans l’état d’activation ou elle était lors de votre dernière utilisation. Vous pourrez là encore valider ou modifier chacun de ce choix.
Les fonctionnalités désactivées ici seront masquées pendant votre utilisation du formulaire.

Écran de paramétrage n°1 → l’identité de l’utilisateur

Les champs sont remplis par défaut avec les valeurs saisies dans les paramètres généraux de l’application (voir début de ce tutoriel)

Écran de paramétrage n°2 → types de géométries créées

  • points
  • lignes
  • polygones

Écran de paramétrage n°3 → Types de données (thématiques) et paramétrage de l’autocomplétion

La dernière question vous permet de choisir le nombre de caractères à saisir dans le recherche des espèces avant de déclencher l’interrogation du référentiel. 3 est le minimum, 7 le maximum (pour permettre l’utilisation du « code taxon » par exemple « ERI RUB »)

Une fois les paramétrages vérifiés et ou modifiés vous pouvez

Choisir l’étude

A terme nous aimerions générer dynamiquement et régulièrement cette liste d’études pour ne faire apparaître que les études en cours et pourquoi pas que celles qui concernent l’utilisateur de l’application

Choisir le protocole

Ici aussi, nous devrions pouvoir limiter la liste des protocoles selon l’étude choisie ou l’utilisateur de l’application.

Une fois ces paramètres de « session » renseignés, nous pouvons commencer la saisie de données proprement dite.

Création d’une localité

Il s’agira d’un point, d’une ligne ou d’un polygone.

Le GPS peux vous aider à dessiner automatiquement lignes et contours, que vous pouvez aussi dessiner à la main sur l’écran.

Saisie d’une ou plusieurs observation à cet endroit

Une fois l’emplacement créé, nous allons pouvoir y créer autant d’observation que nous le souhaitons, de chacun des types d’observations autorisés dans les paramétrages du formulaire. Screenshot_2021-03-15-16-20-591080×1920 124 KB

Commençons par une espèce végétale. Vous pouvez saisir le nom de l’espèce ou son « code » composé des 3 lettres du genre suivies d’un espace et des 3 lettre de l’espèce (ex. ERI RUB).

Propositions des taxons de référence et des synonymes qui correspondent aux lettres tapées

D’abord les taxons de rangs supérieurs puis les espèces et sous espèces.

On peut aussi utiliser un code espèce compose ds 3 premières lettres du Genre et des 3 premières de l’espèce et le cas échéant des 3 premières de la sous-espèce :

Renseignement de l’effectif observé

Pour clarifier la collecte de données d’absence, nous avons ajouté une question explicite :Si le taxon n’a pas été vu, c’est qu’il était recherché et absent. Dans ce cas les questions relatives à la saisie de l’effectif ne seront pas affichée.

Mais si l’espèce a été observée, les écrans suivant (ou leurs homologues pour la Faune sont affichés)

Ici pour les espèces végétales il s’agit d’un effectif par classes d’abondance

Informations sur la « qualité » de la donnée

Notez que l’observation pourra être retrouvée dans la navigation du formulaire, avec l’heure de l’emplacement et l’espèce observée.

Renseignement de détails optionnels, prise de photo

Annotation de la photo

Cela peut être utile pour les photos de site dans le cas d’observations de type pression/menace
Photos mobilisables dans QGIS par la suite

Ajout d’une observation

Si oui on revient à la saisie d’une observation sur l’emplacement courant.

Si non il nous est proposé d’ajouter une nouvelle localité

Si oui on revient à l’ajout d’une localité (point, ligne ou polygone)
Si non, on finalise le formualire en renseignant la présence d’éventuels accompagnateurs

Renseignement des accompagnateurs éventuels

Au fur et à mesure de la saisie, n’hésitez pas à utiliser l’icône de la disquette pour enregistrer le formulaire en cours sur votre téléphone.

Revenir sur des données précédemment saisies :

L’icône représentant une flèche montrant un point permet de naviguer dans les observations déjà saisie pour les vérifier ou les modifier.

Une fois ceci fait on peut aller au bout du formulaire et le marquer comme finalisé.

Finalisation du formulaire

Screenshot_2021-03-15-16-23-51

Suivi des paramètres physico-chimiques des lagunes : un formulaire de terrain avec ODK

Installation

Installation et configuration d’ODK Collect

Depuis le « playstore » d’Android ou depuis l’APK mise à disposition sur le site du projet :

https://github.com/getodk/collect/releases

Configuration de l’application

Tout d’abord, la connexion au serveur de formulaires (nommé Central) se fait par le scan d’un QRcode qui vous a été fourni

paramètres
Paramètres

Configurer par QRCode

Une fois le code scanné, votre application est configurée et interroge le serveur pour savoir quels formulaires sont disponibles, et les télécharger.

Il nous faut maintenant renseigner les données d’identification qui permettront de vous identifier dans le formulaire, de vous proposer vos lagunes et vos stations de suivis et de vous attribuer vos données dans la base de données.

Attention, l’adresse email doit bien être renseignée en minuscules.

De retour sur l’écran des paramètres, vous pourrez modifier :

  • la taille de la police qui sera utilisée dans les formulaires
  • la manière de naviguer d’un écran à l’autre
    • en faisant glisser le doigt sur l’écran de gauche à droite pour avancer et de droite à gauche pour reculer
    • en affichant des boutons en bas de l’écran
    • en utilisant les deux méthodes

Vous êtes maintenant prêts à saisir votre premier formulaire.

C’est parti !

Écran n°1 : identité et date

Le premier écran reprend vos informations d’identité, renseignées lors de l’initialisation de l’appareil, et vous présente la date du jour.

L’adresse email doit bien être renseignée en minuscules (attention notamment à la première lettre que les correcteurs ont tendance à mettre en majuscule).

Écran n°2

Voulez vous saisir les informations relatives à la météo ?

Renseignement des données météo du jour et de la veille

Choix du cadre de suivi

Choix de la lagune puis de la station

La station est-elle en eau ?

Si oui on saisira ensuite les mesures effectuées.

Des alertes apparaissent si vous tentez de saisir des valeurs en dehors des plages de valeurs « autorisées »

Suppression d’une valeur

Pour effacer une réponse, appuyer longtemps dessus :

Une fois renseignées les valeurs pour la station en cours, il vous sera proposé d’ajouter une nouvelle station ou non. Soit vous serez ramené au choix du cadre, soit à la fin du formulaire que vous pourrez finaliser et enregistrer.

Revenir sur vos mesures

En cliquant sur la flèche inclinée en haut de l’écran

Vous pouvez ainsi revenir sur chacun de vos enregistrements

De même tout au long de la session vous pouvez forcer l’enregistrement des données en cours de saisie en cliquant sur la disquette de la barre d’outils.

Envoi des données au serveur

Les versions récentes d’ODK envoient automatiquement les formulaires finalisés au serveur « Central » quand une connexion est détectée.

Saisie de données naturalistes avec ODK

Le formulaire « ABC » est destiné aux étudiant du Master IEGB de Montpellier dans le cadre du projet Colibri. Il peut être utilisé pour saisir les observations naturalistes réalisées sur le terrain, que l’on soit connecté ou non.

Il a été développé par un étudiant d’IEGB de 1ere année – Jean Baïsez – en 2019.

Le tutoriel ci-dessous a été rédigé pour un second formulaire, seules les captures d’écran diffèrent. Vous pouvez donc le suivre pas à pas pour le formulaire ABC

Au delà de l’ABC, les données collectées contribueront à la connaissance du CEN L-R et à la mise en oeuvre des ses actions de conservation des espaces naturels et des espèces. Vous porrez collecter des données d’observations naturalistes relatives aux espèces, aux habitats naturels, ainsi que des données de pression sur le milieu et des notes illustrées géoréférencées.

Elles seront également instantanément redistribuées et mises à disposition de l’ensemble des pôles thématiques du SINP :

  • reptiles,
  • amphibiens,
  • mammifères,
  • invertébrés,
  • oiseaux
  • Flore et habitats naturels…

Ce formulaire utilise l’application ODK Collect.

ODK (Open Data Kit) est une solution libre (opensource) permettant la mise en place de formulaires sur mobile (uniquement pour Android !) et l’intégration des données récoltées par ces formulaires dans une base de données.

Nous allons voir ici comment utiliser l’application puis le fonctionnement du formulaire « ABC ».

Comment installer le formulaire sur votre téléphone ?

Quelques étapes rapides de configuration sont nécessaires pour installer le formulaire sur votre téléphone  :

Étape 1 : Téléchargez la dernière version de l’application

Téléchargez l’application ODK Collect sur le Playstore (recommandé); ou bien téléchargez directement l’APK sur le github du projet (dérouler le sous menu « Assets ».

La dernière version (supérieure ou égale à 1.22 est nécessaire)

Étape 2 : Configurez l’application

Une fois téléchargée, installée et lancée, il vous faudra configurer ODKCollect afin d’avoir accès au formulaire en question.

a) Depuis l’écran d’accueil cliquez sur les 3 points en haut a droite de votre écran

b) sélectionnez  » Paramètres administrateur  »   

c) puis «  Importer/Exporter les paramètres  »   

d) enfin cliquez sur  » SCANNER UN CODE DEPUIS UN AUTRE APPAREIL  » et scannez le QR Code ci-dessous :

              

L’application est maintenant correctement configurée pour pouvoir télécharger le formulaire et y envoyer vos données par la suite

e) Vous pouvez maintenant retourner sur la page d’accueil et cliquer sur  » Modifier les Paramètres  » 

f) puis cliquez sur  » Identité de l’utilisateur et de l’appareil « 

g) pour pouvoir avoir accès aux  » Métadonnées du formulaire « 

h) Ici il vous faut entrer votre adresse mail (qui servira d’identifiant au moment de saisir les données dans le formulaires) ainsi que vos nom et prénom séparés par un espace (ex: « Baisez Jean ») ; vous pouvez également indiquer l’un des 3 règnes  » 1  » pour Animal,  » 2  » pour Végétal  ou « 3  » pour Champignon; dans  » Numéro de téléphone » suivant celui que vous utilisez le plus;

cela permettra une pré-sélection du règne lors de la saisie.

              

 

i) Choix du mode de navigation :
Dans l’onglet  » Interface utilisateur « ,  il est possible de choisir comment vous souhaitez naviguer entre les différents écran du formulaires,

j) Choix du moteur cartographique : nous préconisons l’utilisation de Mapbox, plus rapide pour vous géolocaliser, et du fond de carte « Sattelite ».

    

 

Étape 3 : Télécharger et remplir un formulaire, puis l’envoyer

Maintenant que l’application est configurée, vous pouvez accéder aux formulaires disponibles sur le serveur

k) cliquer sur  » Télécharger un formulaire vierge « 

l) télécharger le formulaire  » ABC  » (vous pouvez aussi télécharger le questionnaire de satisfaction, il est très rapide à compléter et me permettra, d’avoir des retours sur le formulaires et d’exploiter les résultats de ce formulaire de statisfaction dans mon rapport de stage et ma soutenance (merci !)

m) cliquer sur  » Remplir un formulaire  » et sélectionner  » ABC « 

n) une fois à la fin d’un questionnaire, validez l’écran qui vous propose de le « sauvegarder et de le marquer comme finalisé ».  Vous pourrez toujours l’éditer par la suite.

o) quand vous le souhaiterez, si vous avez du réseau (téléphone ou wifi) vous pourrez envoyer le formulaire finalisé pour pouvoir observer vos données en ligne par la suite.

 

                   

 

Voila, vous savez à présent vous servir de l’application ODK Collect

Astuces :

* utilisez le bouton « retour arrière » de votre téléphone pour sortir d’une interface clavier

* utilisez le bouton « retour arrière » de votre téléphone pour sortir d’un formulaire

* utilisez la flèche en haut a droite de n’importe quel formulaire pour revenir à n’importe quel endroit du formulaire

* restez appuyez sur une réponse pour pouvoir la supprimer ou supprimer le groupe dans laquelle elle est contenue (groupe = observation ou emplacement)

 

Fonctionnement du formulaire ABC

Informations :

Le premier chargement du formulaire prendra un peu de temps car l’application doit intégrer les référentiels taxonomiques. Les lancements ultérieurs seront instantanés.

Les questions comportant des * sont des questions obligatoires qui ne peuvent être passées. Si la question ne comporte pas cette * alors vous pouvez passer à l’écran suivant sans même y répondre (ex: prendre une photo n’est pas une question obligatoire vous pouvez l’ignorez totalement)

La localisation se fait sur la carte automatiquement sur votre emplacement (le GPS doit etre activé), cependant il vous est possible de rester appuyez sur un autre endroit de la carte pour changer les coordonnées. Une fois les coordonnées sélectionnées vous pouvez les supprimer avec l’icône de poubelle ou les enregistrer et passer à la suite avec l’icone représentant une disquette.

Rappel : vous pouvez à tout moment cliquer sur les 3 points en haut a droite pour vous rendre dans l’interface utilisateur et changer le fond de carte ; cette fonctionnalité est également disponible si vous cliquez sur le bouton « couche » au dessus de poubelle (mais encore indisponible avec mapbox dans la version 1.22 d’odkCollect).

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Les noms latins et vernaculaires sont acceptés dans le champs de recherche d’espèce, cependant certaines espèces sont enregistrées avec leur nom latin uniquement

L’url vous permet de visiter la page de l’espèce sélectionnée sur le site de l’INPN et ainsi pouvoir confirmer ou infirmer votre observation si vous aviez des doutes. Il se peut que l’espèce ait changé de nom ou de code et que la page soit introuvable. Une fois sur le site, appuyez sur le bouton retour de votre téléphone pour revenir au formulaire.

Les photos prisent dans le formulaire seront visibles sur l’interface en ligne Redash.

Les fonctions d’ajout de groupe :

Une fois la 1ère observation saisie, le formulaire vous demande  » Ajouter un nouveau groupe ?  » :  » Ajouter une observation ? « , si vous cliquer sur  » AJOUTER UN GROUPE « , vous pourrez ajoutez une espèce pour les mêmes coordonnées sans avoir besoin de retourner sur la carte. Si vous sélectionner  » NE PAS AJOUTER  » alors le questionnaire vous re-propose d’ajouter un groupe mais cette fois pour entrer une nouvelle localité.

Par exemple, vous observez 2 espèces sur un même site, vous pouvez sélectionner l’emplacement sur la carte, sélectionner la 1ere espèce puis ajouter une observation pour ajouter la 2nde espèce pour la même localité ; ensuite vous vous déplacez un peu plus loin et observez une 3ème espèce, vous pouvez alors ajouter une nouvelle localité pour ensuite ajouter un groupe « espèce » et saisir votre observation.

Rappel : si vous désirez supprimer un groupe créé par erreur, il vous faut rester appuyez sur une question de ce groupe et sélectionner :  » Supprimer le groupe « 

Mise à jour du formulaire : il est possible que nous mettions à jour le formulaire, par exemple pour reformuler une question ou en ajouter une nouvelle…
Si c’est le cas, cela sera signalé en vert dans la section « télécharger un formulaire vierge ». Vous pouvez paramétrer l’application pour qu’elle charge automatiquement les nouvelles versions des formulaires.

 

Vous connaissez maintenant le fonctionnement du formulaire « ABC »

Consultation de vos données

Vos données seront intégrées automatiquement à l’interface web « SICEN« , qui est l’interface utilisée par le CEN.

Le mode d’emploi de l’interface SICEN est disponible sur le site du CEN Centre-Val de Loire ici (ou en vidéos ici). Lors de votre première connexion, il vous faudra faire une demande de nouveau mot de passe. Vous recevrez alors un mail avec un mot de passe généré par l’application : http://cenlr.sicen.fr

Vous avez ici accès à l’ensemble des donénes colelctées par l’équipe du CEN LR, elle n’ont pas vocation à être diffusée par vos soins. Les diffusions exterieures doivent faire l’objet d’une demande auprés de Mathieu Bossaert, qui s’occupe techniquement de cet export.

En parallèle,  nous travaillons à la mise en place d’un tableau de bord personnel de vos observations. Cette interface utilise l’outil nommé Redash.

Elle vous permettra de localiser les observations sur une carte et d’accéder à des graphiques statistiques, à des photos (celles prise avec l’application) et et aux détails que vous aurez ajoutés.

 

Vous pouvez accéder à cette interface en cliquant ici.

Cette interface est encore en développement, à l’heure actuellel les observations de tout-un-chacun sont visibles en même temps sur la carte et ne sont pas dissociables (bien qu’ en cliquant dessus on puisse tout de même savoir qui a fait l’observation).

au cours de l’automne, ce tableau de bord sera personnalisé et offrira à l’observateur la synthèse de ses seules observations.

Il sera en outre possible de trier les observations par taxon, par date, par commune, etc…

Plus d’informations sur les outils de collecte et de retsitution utilisés au CEN

  • http://si.cenlr.org/OpenDataKit_au_FOSS4G-fr_2018
  • http://si.cenlr.org/geoodk_sicen_mobile
  • http://si.cenlr.org/29-03-2018/sicen-odk-lizmap-postgis
  • http://si.cenlr.org/geo_odk_lien_base_de_donnees_postgis_rbdd_cnrs
  • http://si.cenlr.org/rapports_web_avec_redash

Transformation des medias créés dans ODKCollect en fichiers sur le serveur

Objectif

Écrire dans le système de fichier du serveur, les fichiers stockés sous forme de binaire dans PotgreSQL. La méthode est générique et fonctionne si de nouveaux formulaires sont créés ou si certains sont supprimés.

Write to the server’s file system, files stored as binary in PotgreSQL. The method is generic and works if new forms are created or if some are deleted.

Ressources

https://github.com/opendatakit/aggregate/issues/164#issuecomment-347390275

https://stackoverflow.com/questions/38900823/postgres-find-all-rows-in-database-tables-matching-criteria-on-a-given-column

Principe

Une table liste les objets binaires stockés dans la base de données ODK (toutes les tables dont le nom se termine par « BLB » et ne commence par par un «  » (tables système d’Aggregate)

Elle stocke aussi le nom que nous souhaitons donner au fichier (à partir de champs de métadonnées d’Aggregate « _LAST_UPDATE_DATE » et « UNROOTED_FILE_PATH » Et enfin un entier mis à 1 quand le fichier a été généré dans sur le disque

Pour générer les fichiers nous faisons appel à la fonction lo_export

Les fichiers sont créés dans un répertoire sur lequel postgres à le droit d’écrire. Ce répertoire est servi sur le web par un serveur de fichier (minio)

Les téléphones actuels peuvent facilement créer des images de 15 Mo… L’option proposée dans xlsform permettant de réduire la talle des images en définissant un nombre maximum de pixel pour le plus grand côté de l’image sera intéressante : https://docs.opendatakit.org/form-question-types/?highlight=select%20one#scaling-down-images

A table lists the binary objects stored in the ODK database (all tables whose name ends with « BLB » and does not begin with a «  » (Aggregate system tables) It also stores the name we want to give to the file (from Aggregate’s « _LAST_UPDATE_DATE » and « UNROOTED_FILE_PATH » metadata fields) And finally an integer set to 1 when the file was generated in on the disk

To generate the files we use the lo_export function

Files are created in a directory on which postgres have the right to write. This directory is served on the web by a file server (minio)

Current phones can easily create 15MB images… The option offered in xlsform to reduce image’s size will be interesting : https://docs.opendatakit.org/form-question-types/?highlight=select%20one#scaling-down-images