Utvärdera en AI-leverantör på en vecka
Kort svar
Ge tre leverantörer samma avgränsade uppgift, samma testdata och en vecka. Bedöm på hur de beskriver omfattning, vad de frågar om er data, hur de hanterar fel i sina egna exempel och vad de säger om förvaltning. Den som ställer flest frågor om undantagen är oftast den som bygger något som håller.
- 01MåndagSkicka samma uppgiftsbeskrivning och samma anonymiserade testdata till alla tre.
- 02TisdagTa emot frågor. Notera vilka som frågar om undantag, volym och ägarskap.
- 03OnsdagGenomgång på trettio minuter per leverantör, samma agenda för alla.
- 04TorsdagBe om en beskrivning av omfattning, förvaltning och exit på en sida.
- 05FredagPoängsätt mot mallen och fatta beslut samma dag.
En demonstration är övad. Den visar hur det ser ut när allt går rätt, vilket är den situation som inträffar minst ofta i verklig drift.
Bedömningsmallen
| Kriterium | Bra tecken | Varningstecken |
|---|---|---|
| Omfattning | Säger vad som inte ingår | Beskriver allt som möjligt |
| Data | Frågar om kvalitet och ägarskap | Ber bara om åtkomst |
| Fel | Visar hur avvikelser hanteras | Visar bara lyckade körningar |
| Förvaltning | Pris och svarstid angivna | Återkommer senare |
| Exit | Export och överlämning beskriven | Undviker frågan |
Poängsättningen behöver inte vara exakt. Den behöver bara vara samma för alla tre, vilket är mer än de flesta upphandlingar av det här slaget har.
Underlag
- Vår bedömning
Leverantörer som efterfrågar undantagsfall tidigt levererar oftare driftbara moment.
Vanliga frågor
- Ska vi betala för utvärderingen?
- En liten ersättning ger oftast bättre underlag och gör det rimligt att kräva riktigt arbete.
- Hur stor ska uppgiften vara?
- Så liten att den går att beskriva på en sida och ändå innehåller ett par undantag.