Havaintojen päivittyminen järjestelmien välillä

Huomasin, että laji.fi palvelun havaintolistauksessa näkyy virheellisesti muutamia omia ns. Virtalan tietokantaan kirjaamiani hyönteishavaintoja, joita olen jälkikäteen (vuoden 2016 aikana) korjannut tai poistanut lajinmääritykseen liittyvän epävarmuuden takia. laji.fi näyttää edelleen alkuperäisen havainnon, joka on myöhemmin siis todettu virheelliseksi ja korjattu/poistettu Virtalan tietokannassa.

Korjautuvatko nämä tapaukset itsestään (lähi)tulevaisuudessa?

Hei.

Hyvää joulunaikaa. Korjausten pitäisi kopioitua laji.fi:hin itsestään.

T: Jere

Moi,

Taitaa itse asiassa olla hyönteistietokannan tiedonsiirron osalta sillä tavalla, että poistot eivät välity millään tavalla Lajitietokeskuksen tietovarastoon. Muokkauksien pitäisi tulla näkyviin vuorokauden sisällä.

No, se luonnollisesti jättää tietokantaan sellaisia havaintoja, jotka eivät sinne kuulu. Onko tuohon mietitty mitään ratkaisua tilanteen korjaamiseksi? Annotoinnilla tms. kuitataan havainto “turhaksi”?

Tieto poistoista vaatisi Hyönteistietokannan toteutuksen puolelle muutoksia. Lisäykset ja muokkaukset saamme siirtymään lukuoikeuksilla tietokantaan.

Luonnontieteellinen keskusmuseo on ylläpitänyt Hyönteistietokannan palvelinta ja tietokantaa, mutta emme ole koskeneet varsinaiseen ohjelmaan millään tavoin. Mietimme yhdessä @mattiv:n kanssa kuinka tämä asia saataisiin kuntoon.

1 tykkäys

Kaikilta osin tuo muutettujen havaintojenkaan päivitys ei näytä toimivan. Esim. Virtalan kantaan ilmoitin ensiksi erän havaintoja väärällä päiväyksellä. Pari viikkoa sitten korjasin samasta havaintoerästä yhden väärän määrityksen ja muution päiväykset oikeiksi. beta.laji.fi palvelussa ne näkyvät edelleen väärällä päiväyksellä. Samoin beta.laji.fi palveussa näkyy edelleen väärä laji, vaikka korjaukset on tehty Virtalan kantaan jo pari viikkoa sitten.

Tässä vielä Virtalan havainto-ID:t havainnoille, joita muutettu, siltä varalta, että nämä avuksi asian kuntoon saattamisessa:
4205-6687-2123-3024 (laji + päiväys muutettu, todennäköisesti erillisinä päivityksinä)
0796-7432-0767-1967 (päiväys muutettu).

Kiitos tiedosta! Muutostenkin käsittelystä löydettiin virhe.

Poistot on nyt kertaluontoisesti poistettu myös Lajitietokeskuksesta ja prosessi automatisoidaan piakkoin.
Muutoksia varten prosessia on korjattu ja ajamme jossain vaiheessa koko datan uudestaan sisälle, jolloin myös ennen korjausta tehdyt muutokset tulevat voimaan.

Hyvä, että virhe löytyi!

Tarkistin kuitenkin vielä toisen tänä vuonna korjatun väärinmäärityksen vanhemmasta vuoden 2010 havainnosta 4986-2983-7471-2086. Myöskään tässä Virtalan kantaan tehty lajin korjaus ei ole päivittynyt beta.laji.fi palveluun.

Ja myös kolmas tarkastamani korjattu lajinmääritys ei ole päivittynyt beta.laji.fi palveluun. Eli kaikki kolme tarkistamaani tapausta eivät ole päivittyneet.

Käytän tätä ketjua röyhkeästi hyväkseni, sillä asia liittyy osittain tähänkin: Pystyykö Vihko-palvelussa muuttamaan/päivittämään omia havaintojaan havaintojen tallentamisen jälkeen? Muuttamisen lisäksi olisi erittäin toivottavaa pystyä myös poistamaan omia havaintoja, vaikka ainakin tällä hetkellä tämä on ilmoitettu mahdottomaksi.

Hieman off-topic, mutta kuitenkin: Tuleeko tässä vaiheessa myös muiden lahkojen kuin perhosten havainnot Hyönteistietokannasta kokonaisuudessaan näkyville Lajitietokeskukseen? Tai onko tälle ajolle suunniteltu ajankohtaa?

Tässä Hyönteistietokannan havainnot lajiryhmittäin:

1 tykkäys

Muokkaaminen onnistuu valitsemalla tallennettu dokumentti Vihkon oikean laidan valikosta. (Valikko on hyvin alustava versio ja sitä kehitetään seuraavaksi ihan toisenlaiseksi)

Poisto ei tosiaan tällä hetkellä onnistu, mutta tätä varmasti pohditaan ja kerätään mielipiteitä asiasta.

Kiitos linkistä, Esko.

Ongelma olikin (taas) käyttäjässä: olin www.laji.fi-sivulla, en beta.laji.fi-sivulla. Jo muuttui havaintojen määrä!

Muokkauksien suhteen jotain ongelmia vielä näkyy olevan. Osui silmään oma Lampronia capitella havainto 21.6.2016, jonka korjasin viimeistään joulukuun alkuun mennessä lajiksi Incurvaria praelatella hyönteistietokantaan käsin lomakkeella, alkuperäinen ilmoitus oli csv tiedostona. Se on siellä muuttunut mutta väittää ilmoitus/muutospäivän olevan 2016-06-27. Tämä ei kyllä pidä paikkaansa, on alkuperäinen ilmoituspäivä - johtuneeko tästä? En ole muita korjauksia tarkistanut.

Hyönteistietokannan datojen uudelleenlataus on käynnissä ja kestää parisen päivää. Sen jälkeen pitäisi olla kaiken kunnossa. Latausrutiineja on muutettu siten, että pitäisi myös säilyä uusien muokkausten osalta ajantasalla.

1 tykkäys

Kaikki Hyönteistietokannan havaintoon talletetut tiedot eivät ilmeisesti siirry laji.fi-tietokantaan. Esim. kenttäkiitäjäishavainnossani

9153-8853-4235-7256 Cicindela campestris 12 ex.
Oba:Oulu, Hiukkavaara, ampumarata 721543:343446 19.05-26.05.2013
Ruderaattialue (sora/hiekkamaa) M. Virtala obs. M. Virtala 2013 det.

on tieto habitaatista, mutta vastaavasta laji.fi-unitista (KE.423/9153-8853-4235-7256#Unit) se näyttäisi puuttuvan. Määritystapa (‘lab. määritys’) on tallentunut laji.fi:n notes-kenttään.

Siirretyt havainnot ovat ilmeisesti sillä tavoin ‘irrallisia’, että ne eivät kuulu mihinkään parent-dokumenttiin. Jossain vaiheessa olisi mukava saada omat siirretyt havainnot suoraan oman personalTokenin alle, jolloin ne ehkä näkyisivät sitten jollakin tapaa myös Vihko-systeemissä?

Miten havainto siirtyy silloin, jos Hyönteistietokanta käyttää lajista eri nimeä kuin laji.fi-portaali? Perhoskarttoja tehdessäni huomasin, että Hyönteistietokannassa on noin sata sellaista perhosen lajinimeä, joita ei suoraan löytynyt laji.fi-portaalista.

Habitattimuuttuja on ollut tietynlainen murheenkryyni, josta ei ole vielä saatu aikaiseksi sellaista muuttujan arvojen joukkoa, johon eri tietolähteiden ilmoittamat habitaatit voitaisiin muuttaa. Mikäli Hyönteistietokannassa tämä on vapaatekstiä, niin se edellenkin mutkistaisi paljon kirjoitetun tekstin muuttamista muuttujan arvoiksi. Toistaiseksi habittaatti voisi mennä notes-kenttään…?

Lajitietokeskuksen tietovarasto pitää sisällään sekundaaritietoa joka on kopioitu sinne alkuperäisestä lähteestä, eikä tietoja muokata Lajitietokeskuksessa vaan alkuperäisessä lähteessä (primäärijärjestelmässä). Vihko on myös primäärijärjestelmä, eli vain yksi niistä lähteistä joista siirretään sekundaarinen kopio tietovarastoon.

Mikäli joskus kaikki Hyonteistietokannan havainnot siirrettäisiin Vihkoon, silloin Vihkosta tulisi ko tietojen primäärijärjestelmä ja niitä voisi muokata Vihkon avulla.

Habitaattien luokittelu kattavasti erilaisten koodien avulla on jokseenkin vaikeaa, joten luokittelumuuttujan lisäksi varmaankin tarvitaan vapaamuotoinen kenttä. Eikö esim. Hyönteistietokannan tai muun tietolähteen habitaatti-kentän arvo voitaisi kopioida suoraan tuollaiseen vapaamuotoiseen habitaatti-kenttään?

Vihkossahan on jopa mahdollista tallettaa kentät

            "habitatIUCN": "...",
            "habitatDescription": "...",

Pidemmällä tähtäimellä olisi kätevää, jos harrastaja voisi tallettaa kaikki havaintonsa yhteen ja samaan järjestelmään. Nykytilanteessa siirtyminen Vihkon käyttöön merkitsee monelle sitä, että omia havaintoja täytyy hallinnoida kahden eri järjestelmän avulla. Itse en näe enää kovin paljon etua siinä, että Hyönteistietokanta toimii erillisenä tallennuskanavana. Laji.fi-api näyttää olevan niin monipuolinen, että sen avulla voi kyllä tehdä helposti samankaltaisia sovelluksia kuin mitä Hyönteistietokannan ympärille on tähän mennessä tehty.

Nimistön osalta näyttää siltä, että esim. Hyönteistietokannan havainnot talletetaan niillä lajinimillä, jotka ovat Hyönteistietokannassa käytössä. Tästä seuraa tiettyjä hankaluuksia, jos haluaa yhdistää havaintoja eri lähteistä. Esimerkiksi yökkönen Callistege mi on tuolla nimellä Hyönteistietokannassa, mutta lajin taxonId MX.62341 löytyykin nimellä Euclidia mi. Haku taxonId:n perusteella ei löydä yhtään Hyönteistietokannan havaintoa, vaan haku täytyy suorittaa asettamalla target-kentän arvoksi ‘Callistege mi’.

Sikäli kuin olen ymmärtänyt, niin laji.api-rajapinnan avulla on tarkoitus hakea tietoa kaikista saatavilla olevista lähteistä. Kun eri lähteiden havainnot kopioidaan yhteiseen tietovarastoon, ne kaikki sovitetaan ilmeisesti samaan tietorakenteeseen? Tämähän helpottaa havaintojen hakua api-rajapinnan avulla.

Olisi toivottavaa, että kopioitaessa havaintoja yhteiseen tietovarastoon mitään olennaista tietoa ei tuossa prosessissa jätettäisi pois. Nythän esimerkiksi Vihkonkaan habitaattitetoja ei saa haettua hakurajapinnan kautta, ja mm. Hyönteistietokannan havainnoista tuo tieto on jätetty kokonaan pois. Vapaamuotoisesta kentästä voi helposti hakea tietoja tyyliin

`habitaatti:'*niitty'`

tms. Ehto tarvisee vain korvata SQL-lauseessa ehdolla

 habitat LIKE '%niitty'

Vihkon tallennuslomakkeella ei ole mahdollista tallettaa tietoa hyönteisen varsinaisesta keruutavasta. ‘Havaintopa’-kenttä sisältää seuraavat valinnat (Näyte, Havaittu, Valokuvattu, Käsitelty). Miten talletetaan tieto, että havainnot on saatu esim. valopyynnillä, syöttipyynnillä, ansakuopilla tms.? Tämä koskee myös Hyönteistietokannasta kopioituja havaintoja, koska tuolle tiedolle ei tietovarastossa ole sopivaa kenttää.