Chatbot može dati prihvatljiv odgovor, a njegovo sučelje ipak olakšati samo jedan sljedeći korak, tvrdi novi teorijski rad. Objavljen je 5. listopada u časopisu Frontiers in Digital Health. Predlaže provjeru cijelog podešenog sustava, umjesto samo teksta jezičnog modela.
Tehnička razlika odnosi se na pretvaranje informacije u radnju. Odabir izvora, rezultati pretraživanja, gumbi i povezane usluge mijenjaju dostupne putove nakon odgovora. To vrijedi i kada dva odgovora sadrže slične informacije.
Autori takvo organizacijski oblikovano posredovanje nazivaju synthetic gatekeeping. U provjeru uključuju model, dohvat informacija, odabrane izvore, sučelje i mogućnosti povezanih radnji.
Razdvajaju tragove sadržaja, odnosno ono što sustav izgovara i naglašava, od tragova postupanja, odnosno onoga što olakšava napraviti. Zajednička usporedba mogla bi otkriti razlike koje testiranje odgovora propušta.
Ovo je teorijski rad s hipotezama. Nije pokus koji dokazuje da određeni pružatelj usluge usmjerava odluke radi vlastite koristi. Autori izričito navode da izravnih dokaza takvog usmjeravanja u zdravstvu još nema mnogo.
Spominju i usporedno istraživanje u kojem su odgovori jezičnih modela imali manje komercijalne pristranosti od običnog pretraživanja. Okvir zato nije opća optužba protiv chatbotova.
Predložena provjera povezuje dokumentiranje postavki, usporedbu sadržaja i dostupnih koraka, objavu organizacijskih odnosa te razmjeran nadzor. Time softver oko modela postaje vidljiviji onima koji ga procjenjuju.
Rad daje način za ispitivanje moguće pojave. Ne dokazuje da se ona pojavljuje u svakom povezanom zdravstvenom asistentu.
