OXIAE / VIDEOFictief voorbeeld

Een taalmodel kiezen: vergelijk de afgehandelde taak

Vergelijk taalmodellen op dezelfde onderhoudsmeldingen. Bekijk formaat, brongetrouwheid, wachttijd en correctiewerk voordat je een modelkeuze onderbouwt.

Door Productie: OXIAEGepubliceerd

Met gesproken uitleg en ondertitels. Je start de video zelf.

Lees mee

Transcript

De gesproken uitleg, per hoofdstuk.

0:00Vergelijk de hele taak

Deze uitleg hoort bij ons artikel over taalmodellen integreren. Een overtuigend antwoord is nog geen goede modelkeuze. Vergelijk wat er nodig is om de taak af te handelen.

0:11Een onderhoudsmelding verwerken

In een fictieve onderhoudsmelding staat water onder een pomphuis. Een model mag objectreferentie en probleemtekst voorstellen. Het mag geen urgentie bepalen of een monteur inplannen.

0:22Gebruik dezelfde toetsgevallen

Vergelijk geschikte opties met dezelfde normale, ontbrekende en tegenstrijdige invoer. Voeg ook brontekst toe die opdracht lijkt te geven. Leg verwachtingen vast voordat de proef begint.

0:34Leg het contract vast

Bepaal toegestane verwerking, uitvoervelden en lege waarden. Noteer modelidentificatie, instructies en instellingen. Niet vergelijkbare instellingen worden toegelicht, zodat verschillen later niet ongemerkt verdwijnen uit de beoordeling.

0:49Beoordeel vorm en betekenis

Geldige velden kunnen nog steeds verkeerde informatie bevatten. Een ontbrekende objectreferentie blijft onbekend. Bij twee strijdige referenties kiest het model niet zelf het juiste object.

1:00Test ook afwijkende afhandeling

Een weigering, ongeldige uitvoer of time-out krijgt een begrensde herstelroute. Iedere taak houdt een vaste referentie, zodat herhalen niet ongemerkt meerdere beoordelingsitems laat ontstaan.

1:11Meet afhandeling inclusief herstel

Meet de hele wachttijd, inclusief validatie en herhaalpogingen. Houd ook menselijke correctietijd en gebruikskosten bij. Een goedkope modelaanroep hoeft geen goedkope afgehandelde taak te zijn.

1:23Maak een onderbouwde keuze

Kies pas na de uitgevoerde proef op basis van de afgesproken eisen. Benoem beperkingen en een beheerder. Relevante wijzigingen in model, instructie of schema vragen nieuwe toetsing.

1:35Kies op bruikbaar werk

De beste optie volgt uit jouw taak en waargenomen resultaten. Het bronartikel over LLM-integratie werkt deze evaluatieaanpak en de grenzen van modeluitvoer verder uit.