Lapin alueella toimiva Lappica Oy on tehnyt tarjouspyynnön potilastietojärjestelmästä. Tavoitteena on hankkia "helppokäyttöinen" järjestelmä. Kun tutkii tarjouspyynnön sisältöä, siinä ei kuitenkaan käytännössä edellytetä helppokäyttöisyyttä. Sinällään tämä ei ole yllättävää: kun isommatkaan hankintayksiköt eivät osaa aidosti vaatia käytettävyyttä tarjouspyynnössä, miten pienehköllä hankintayksiköllä olisi edellytyksiä olla uranuurtaja.
HUOM! Korostan vielä, että tätä analyysia ei pidä ottaa erityiseksi kritiikiksi Lappica Oy:ta kohtaan. Tarjouspyyntö sattui vain osumaan silmääni, kun kyse on potilastietojärjestelmästä. Olen seurannut aika tiiviisti Apotti-potilastietojärjestelmän hankintaa (monet kirjoitukset tässä blogissa, ja esimerkiksi Helsingin Sanomissa). Otin tämän tarjouspyynnön tarkasteluun ihan tämän kiinnostuksen pohjalta.
Mistä kyse
Pääkaupunkiseudun Apotti-potilastietojärjestelmän käytettävyysongelmat ovat tunnettuja. Nyt Apotista on tekeillä jopa kantelu.
Keskeinen syy Apotin käytettävyysongelmiin on se, että vaikka käytettävyyttä pidettiin lähtökohtaisesti erittäin tärkeänä asiana, sitä ei edellytetty oikealla tavalla tarjouspyynnössä (analyysia esimerkiksi tässä). Käytettävyys oli kyllä keskeisenä laatutekijänä tarjouspyynnössä, mutta ei sillä tavalla, että se olisi aidosti sitonut toimittajaa tuottamaan hyvää käytettävyyttä.
Nyt sitten osui sattumoisin silmiini uusi potilastietojärjestelmän kilpailutus, kun Lapin sairaanhoitopiirin tarjouspyyntö on julkaistu (luettavissa luultavasti 15.8.2022 asti, jolloin on tarjousten viimeinen jättöpäivä).
Kun kyseessä on potilastietojärjestelmä, tarjouspyyntö kiinnosti sen verran, että analysoin sitä seuraavassa käytettävyyden kannalta.
Miten käytettävyys määräytyy yleensä tarjouspyynnöissä?
- miten käytettävyysasioita vaaditaan pakollisissa vaatimuksissa
- miten käytettävyysasioita on sisällytetty vertailuperusteisiin, ja mitkä ovat näiden painoarvot vertailussa
- Jos täyttyvät, tarjous etenee vertailuvaiheeseen
- Jos eivät täyty, tarjous tipahtaa pois kilpailutuksesta
Lappican tarjouspyynnön sisällön kuvausta
Tarjouspyynnön johdanto-osassa lukee esimerkiksi:
"Tavoitteena on saada käyttöön helppokäyttöinen, käyttäjää ohjaava ja ammattilaisten työtä helpottava työterveyshuollon järjestelmä. Järjestelmän perustoiminnallisuuksien pitää olla joustavia ja käyttäjien muokattavissa... Järjestelmän pitää tukea ja helpottaa yhteistyötä työnantaja-asiakkaiden kanssa. Työnantajaorganisaatioiden rakenteen ja näkymien tulee olla käyttäjäystävällisiä ja selkeitä. Ajanvarauksessa ja vastaanotolla tulee organisaatioiden ja potilaiden taustatietojen olla selkeästi ja vaivatta saatavilla."
Tällä perusteella käytettävyys on hankkijalle tärkeä asia.
Mutta. On huomattava, että tällaisella epäformaalilla johdantotekstillä ei ole mitään merkittävyyttä kilpailutuksessa. Toimittajien ei kannata kiinnittää tällaiseen mitään huomiota, koska tällaiset yleiset tavoitteet eivät vaikuta voittajan valintaan millään tavalla, eivätkä velvoita voittajaa mihinkää niitä ratkaisun kehittämisessä.
Mitä käytettävyysasioita vaaditaan tarjouspyynnössä?
- laadulliset vaatimukset 40 pistettä, joista
- "pisteytettävät vaatimukset" 35 pistettä
- projektisuunnitelma 5 pistettä
- hinta 60 pistettä
- (yhteensä 100 pistettä)
- pakolliset vaatimukset tarkoittavat, että toimittajan on pakko täyttää ne (muuten tipahtaa pois kilpailutuksesta)
- pisteytettävät vaatimukset tarkoittavat, että toimittajan ei ole pakko niitä täyttää, mutta niiden täyttäminen tarkoittaa enemmän pisteitä vertailuperusteisiin ja sitä kautta paremmat mahdollisuudet voittaa kilpailutus
Sisältäänkö tarjouspyyntö käytettävyysvaatimuksia?
- "pitää voida tehdä"
- "pitää olla mahdollista"
- "pitää päästä tekemään"
- tms.
Voiko vaatimuksen täyttää niin, että sen toteutus on vaikeakäyttöinen?
Pakolliset vaatimukset vs. pisteytettävät vaatimukset
Muut vaatimuskategoriat
- Käyttäjät voivat valita valmiin kalenteripohjan kalenterimallista tai luoda oman kalenteripohjan erilaisia aikatyyppejä käyttäen
- Ammattilainen voi tarkastella PTJ:n ajanvarausnäkymässä olevia aikatauluja esimerkiksi päivä- ja viikkokohtaisesti
- Lääkärillä on oltava tieto uudistamista odottavien lääkemääräysten uudistuspyynnön voimassaolosta
Yhteenveto
- Tarjousten käsittely ei vie käytettävyyden osalta paljon resursseja - katsotaan vain, mitä tarjoajat ovat ruksanneet. Joissakin kilpailutuksissa käytettävyysvaatimusten osalta on hyvinkin raskaita testejä ilman, että lopputulos on sen kummempi. Hyvänä esimerkkinä pääkaupunkiseudun paikallisliikenteen matkakortin lukija, jossa massiivisista testeistä huolimatta lopputuloksessa oli jopa ihan perustason käytettävyysongelmia. Lue tästä lisää.
- Laatutekijöiden painoarvo vertailuperusteissa oli "vain" 40%. Hyvin laaditussa tarjouspyynnössä laatutekijöiden painoarvon pitäisi olla lähellä nollaa, joka tapauksessa korkeintaan 20%. Mutta pahimmillaan on tarjouspyyntöjä, joissa laatutekijöiden painoarvo on peräti 70%. (Päinvastoin kuin usein luullaan, laatu vertailutekijöissä nimenomaan ei takaa tuotteen laatua). Eli siinäkään mielessä tämä tarjouspyyntö ei missään tapauksessa ollut pahimmasta päästä.
Mikä olisi oikea tapa sisällyttää käytettävyys tarjouspyyntöön?
- Käytettävyys olisi sisällytettävä pakollisiin vaatimuksiin. Vain erityistapauksissa käytettävyyttä voisi olla valintakriteereissä, ja silloinkin korkeintaan pienellä painoarvolla.
- Käytettävyysvaatimukset olisi määritettävä suhteessa käyttäjien suoriutumiseen. Silloin, kun käyttäjät suoriutuvat tehtävistään riittävän hyvin, järjestelmä on käytettävyydeltään hyvä.
- mittarit: millä mittarilla mitataan käyttäjien suoriutumista
- tavoitetasot: mikä mittaustulos ko. mittarilla on riittävän hyvä
- mittausinstrumentit: miten mittaus käytännössä suoritetaan (yleensä tämä tarkoittaa käyttäjätestejä, mutta ei välttämättä)
- valideja: vaatimusten on aidosti kuvattava haluttua käytettävyyttä
- riittävän kattavia: niin, että vaatimukset ottavat huomioon riittävästi erilaiset käyttäjät ja heidän erilaiset käyttötarpeensa
- (tähän luetteloon yleensä kuuluva todennettavuus tuleekin täytetyksi sitä kautta, että määritetään mittarit ja mittausinstrumentit)
Vastaus Sepon alla olevaan kommenttiin
Seppo: "1. Jos järjestelmää ollaan vasta tilaamassa, eikä se ole millään tarjoajalla vielä valmiina, niin miten käytettävyyttä voi arvioida? Käytännössä kai nämä järjestelmät rakennetaan aika suurelta osin vasta sitten, kun tilaus on saatu. Järjestelmistä lienee yleensä olemassa ”backend” eli tiedostojärjestelmä, joka ehkä on joissain toimitetuissa järjestelmissä pohjalla, mutta itse näkyvä osa eli käyttöliittymä tehdään vasta, kun tilaajalta saadaan siihen toiminnalliset vaatimukset. Ja siten käytettävyyttä pystytään mittaamaan vasta jälkeenpäin. Jos tarjouspyynnössä on käytettävyysvaatimuksia, niin kaikki tarjoajat voivat sanoa ”joo, me täytetään nuo kyllä sitten”, mutta vertailua ei pysty tarjousvaiheessa tekemään."
Timo: Muutama huomio tähän:
a) Tässä nyt on eri vaihtoehtoja, riippuen siitä, kuinka valmista järjestelmää ollaan tilaamassa. Tässä videossa selitän vähän asiaa https://www.youtube.com/watch?v=WJHHExdIwlU.
"b) ”Jos tarjouspyynnössä on käytettävyysvaatimuksia, niin kaikki tarjoajat voivat sanoa ”joo, me täytetään nuo kyllä sitten””. Niin, mielestäni vaatimukset pitää olla toimittajia sitovia. Jos ei täytä vaatimuksia, tilaajan ei tarvitse hyväksyä toimitusta. En tiedä onko toimittajat tällaiseen tottuneet, mutta jos oikeasti halutaan käytettävyyttä edistää, niin jotain tällaista pitää tehdä.
c) ”Vertailua ei pysty tarjousvaiheessa tekemään”. Niin, pointti on se että vertailuja ei tehdä. Vaan testataan, täyttääkö järjestelmä vaatimukset. Käytettävyys on siis pakollisena vaatimuksena.
Seppo: "2. Tai sitten pitäisi jo tarjousvaiheeseen sisällyttää tehtävä, jossa tarjouskilpailuun osallistujan pitää toimittaa jokin ”sample”, jolle on annettu täsmälliset arviointkriteerit. Tässä on ainakin se ongelma, että jonkin pienen palikan tekeminen käytettäväksi voi olla helppoa verrattuna koko järjestelmään, koska sen ei silloin tarvitse toimia koko järjestelmän kanssa yhteen, mutta siinä ei silloin myöskään luultavasti näy, miten hyvä koko järjestelmä on käytettävyydeltään silloin, kun kaikki osat oikeasti ovat olemassa."
Timo: Tässä olet ihan oikeassa. Käytettävyysvaatimuksilla on kolme pääkriteeriä: niiden itää olla validit, todennettavat ja riittävän kattavat. Ja tuo jälkimmäinen tarkoittaa juuri sitä mitä kommentoit.
Seppo: "3. Käytettävyyskriteerien pitäisi olla hyvin tarkat, ja niiden pitäisi kattaa periaatteessa koko systeemi. Muuten tulos voi olla se, että vaaditut osat täyttävät vaatimukset, mutta muut osat ovat sutta ja sekundaa. Käytettävyys kun on asia, jossa jokaisen lenkin pitää olla kunnossa, tai homma ei toimi."
Timo: Kylläpä näin. Ks. edellisen kohdan kommenttini.
Seppo: "Sitten hieman sivuun tästä tarjouspyyntöasiasta. Olen seuraillut näitä tietojärjestelmäuutisia ja lukenut myös tutkimusartikkeleita. On alkanut muodostua sellainen käsitys, että iso osa ongelmaa on siinä. että järjestelmissä on rakenteinen tietokanta, jossa kaikki diagnoosit ja muut tiedot pitää luokitella tarkasti. Tämä johtaa siihen, että käyttäjät saavat eteensä loputtomasti valikoita ja ruudukoita, joista pitää klikkailla oikeat vaihtoehdot, jotka sitten tallentuvat järjestelmään. Vaikka käyttöliittymäsuunnittelijat tietenkin pyrkivät tekemään kaikista näkymistä mahdollisimman käytettäviä, niin näkymiä on vain liikaa ja niissä liikaa läpi käytäviä kohtia. Tämä lomakkeiden täyttely vie kohtuuttomasti aikaa verrattuna vanhaan systeemiin, jossa lääkäri saneli potilaan epikriisin suoraan proosana. Tästä monimutkaisuudesta pitäisi päästä eroon, mutta kuitenkin niin, että järjestelmään tallentuisi täsmällinen tieto, joka myös olisi käytettävissä myöhemmin. Arvelen, että tekoäly jossain muodossa olisi tässä mahdollinen ratkaisu: lääkäri voisi sanella vastaanoton jälkeen potilastapaamiseen liittyvät asiat, ja tekoäly tulkitsisi ja muodostaisi sanelusta rakenteisen datan, jonka lääkäri sitten vain tarkistaisi, ja se menisi tietokantaan."
Timo: Ihan mielenkiintoisia ajatuksia. Itse kyllä olen ajatellut, että rakenteinen tietokanta on hyvä lähestymistapa. Ja olettanut, että paremmalla suunnittelulla ne voitaisiin saada käytettävyydeltään hyviksi. Mutta. Minulla ei ole käytännön kokemusta niistä, enkä osaa varmuudella sanoa mitään.
Tästä tuli muutamia ajatuksia mieleen.Ensiksi, tuossa esimerkissä ei tosiaan ollut juurikaan varsinaisia käytettävyysvaatimuksia, vaan toiminnallisia vaatimuksia. Aloin miettiä, että ne ovat aika hankala asia aidosti sisällyttää tarjouspyyntöön, koska:
VastaaPoista1. Jos järjestelmää ollaan vasta tilaamassa, eikä se ole millään tarjoajalla vielä valmiina, niin miten käytettävyyttä voi arvioida? Käytännössä kai nämä järjestelmät rakennetaan aika suurelta osin vasta sitten, kun tilaus on saatu. Järjestelmistä lienee yleensä olemassa ”backend” eli tiedostojärjestelmä, joka ehkä on joissain toimitetuissa järjestelmissä pohjalla, mutta itse näkyvä osa eli käyttöliittymä tehdään vasta, kun tilaajalta saadaan siihen toiminnalliset vaatimukset. Ja siten käytettävyyttä pystytään mittaamaan vasta jälkeenpäin. Jos tarjouspyynnössä on käytettävyysvaatimuksia, niin kaikki tarjoajat voivat sanoa ”joo, me täytetään nuo kyllä sitten”, mutta vertailua ei pysty tarjousvaiheessa tekemään.
2. Tai sitten pitäisi jo tarjousvaiheeseen sisällyttää tehtävä, jossa tarjouskilpailuun osallistujan pitää toimittaa jokin ”sample”, jolle on annettu täsmälliset arviointkriteerit. Tässä on ainakin se ongelma, että jonkin pienen palikan tekeminen käytettäväksi voi olla helppoa verrattuna koko järjestelmään, koska sen ei silloin tarvitse toimia koko järjestelmän kanssa yhteen, mutta siinä ei silloin myöskään luultavasti näy, miten hyvä koko järjestelmä on käytettävyydeltään silloin, kun kaikki osat oikeasti ovat olemassa.
3. Käytettävyyskriteerien pitäisi olla hyvin tarkat, ja niiden pitäisi kattaa periaatteessa koko systeemi. Muuten tulos voi olla se, että vaaditut osat täyttävät vaatimukset, mutta muut osat ovat sutta ja sekundaa. Käytettävyys kun on asia, jossa jokaisen lenkin pitää olla kunnossa, tai homma ei toimi.
Sitten hieman sivuun tästä tarjouspyyntöasiasta. Olen seuraillut näitä tietojärjestelmäuutisia ja lukenut myös tutkimusartikkeleita. On alkanut muodostua sellainen käsitys, että iso osa ongelmaa on siinä. että järjestelmissä on rakenteinen tietokanta, jossa kaikki diagnoosit ja muut tiedot pitää luokitella tarkasti. Tämä johtaa siihen, että käyttäjät saavat eteensä loputtomasti valikoita ja ruudukoita, joista pitää klikkailla oikeat vaihtoehdot, jotka sitten tallentuvat järjestelmään. Vaikka käyttöliittymäsuunnittelijat tietenkin pyrkivät tekemään kaikista näkymistä mahdollisimman käytettäviä, niin näkymiä on vain liikaa ja niissä liikaa läpi käytäviä kohtia. Tämä lomakkeiden täyttely vie kohtuuttomasti aikaa verrattuna vanhaan systeemiin, jossa lääkäri saneli potilaan epikriisin suoraan proosana. Tästä monimutkaisuudesta pitäisi päästä eroon, mutta kuitenkin niin, että järjestelmään tallentuisi täsmällinen tieto, joka myös olisi käytettävissä myöhemmin. Arvelen, että tekoäly jossain muodossa olisi tässä mahdollinen ratkaisu: lääkäri voisi sanella vastaanoton jälkeen potilastapaamiseen liittyvät asiat, ja tekoäly tulkitsisi ja muodostaisi sanelusta rakenteisen datan, jonka lääkäri sitten vain tarkistaisi, ja se menisi tietokantaan.
Kiitos Seppo hyvistä kommenteista! Kirjoitin vastauksen blogikirjoituksen loppuun, koska blogialusta ei sallinut noin pitkää vastausta tähän vastausosioon.
PoistaKiitos Timo hyvästä kirjoituksesta.
VastaaPoistaOlen omassa organisaatiossani ujuttanut käytettävyysvaatimukset Googlen kehittämää HEART -kehykstä käyttäen. (Tietoa löytyy ihan hakukoneella hakien). Tätä mallia voi käyttää osana pakollisia vaatimuksia, kunhan on tehnyt kotityöt kunnolla: täytyy olla tavoitteet määritetty ja vastaavanlaista tai aikaisemmin käytetyistä systeemistä baseline arvot ja ammattitaitoiset käyttäjäjätutkijat auttamassa. Heitä kannattaa käyttää työn aikanakin, jotta paremmalla todennäköisyydellä saavutetaan tavoitteet.
Hei, kiitos palautteesta.
PoistaEnpä ollut kuullutkaan Google HEARTista aiemmin. Hakukoneella ei tullut vastaan alkuperäistä lähdettä, mutta katsoin sitä tästä: https://www.interaction-design.org/literature/article/google-s-heart-framework-for-measuring-ux
Pikalukemalta se vaikuttaa metriikalta, joka on tarkoitettu vapaaehtoisten sovellusten käyttöön. Kun siinä on attribuutteina "Kuinka usein käyttäjä käyttää sovellusta?", "Kuinka moni rekisteröityy?", "Kuinka moni palaa käyttämään sovellusta uudestaan?".
Potilastietojärjestelmähän taas on hyötysovellus, jota käyttäjän *pitää* käyttää.
Viimeinen metriikka ”Task success” kyllä sitten on se metriikka, joka on oleellinen hyötysovelluksissa (”goal: for users to accomplish their goal”).
Ym. sivustolla lukee: ”The final metric “task success” can be broken down into more subtle components. You might want to examine time spent on any given task (can the process be improved?) or the percentage of successful completions of a specific task once it has begun (e.g. checkout processes or registration processes).”
Muutama kommentti tähän:
- ”task success” siis periaatteessa oleellista
- mutta esimerkit (checkout, registration) eivät oikein viittaa hyötysovelluksiin
- en tiedä, onko purettu tarkemmin osiin jossain dokumentissa, mutta ”task success” on paljon helpompi sanoa kuin muotoilla vaatimuksena (julkisissa hankinnoissa)
”Task success” -käytettävyysvaatimusten määrittämisen haasteina ovat ainakin
- tyypillisesti useita erilaisia käyttäjäryhmiä
- käyttäjätehtävien tyypillisesti suuri lukumäärä
- haluttujen aikaansaannosten määrittäminen ei ole ihan helppoa (itse tehtävän kuvaus ei riitä vaan oleellinen on haluttu aikaansaannos)
- attribuuttien ja metriikoiden valinta niin, että ovat valideja
- mittausinstrumenttien määrittäminen
- riittävän hyvän käytettävyyden tason määrittäminen (siis millaiset tulokset vähintään pitää saavuttaa valituilla metriikoilla ja mittausinstrumenteilla)
Haastava asia on esimerkiksi määrittää ”halutut aikaansaannokset”. Käyttäjätehtäviä on kyllä helppo tunnistaa, mutta haluttujen aikaansaannosten määrittäminen on vaikeampaa. Haastavaa on myös määrittää, mitä ovat riittävän hyvän käytettävyyden tasot niin, että niille on hyvät perusteet (validius).
Julkinen hankinta tekee asiasta vielä vaikeamman, koska vaatimusten täyttäminen pitää pystyä objektiivisesti todentamaan. Sen vuoksi esim. mittausintrumentin riittävän tarkka määrittäminen on tärkeää, jotta ei tule riitatilannetta hankkijan ja toimittajan välillä siitä, onko jokin vaatimus täytetty vai ei.