Hversu mörgum fleiri tókum tungumál þarf á að halda en enska fyrir sama texta. Fleiri tókar þýða að kvótinn klárast fyrr, spjallið man minna og svörin taka lengri tíma. Mælt á sömu 1.012 setningunum þýddum á 204 tungumál (FLORES-200).
Gervigreindarlíkön lesa texta sem tóka. Áður en líkan sér textann þinn brytjar tókari hans hann niður í búta. Þú borgar fyrir hvern tóka, minni spjallsins er talið í tókum og svörin eru skrifuð einn tóka í einu. Sama setning í ChatGPT / Copilot:
Tókatollurinn er fjöldi tóka fyrir tungumál ÷ fjöldi tóka fyrir ensku á sama texta, fyrir hvern tókara. Petrov o.fl. (2023) kynntu hugtakið til að auðvelda samanburð á tókun milli tungumála, en kalla það tókunarálag.
Tókatollurinn er reiknaður út frá gagnasafninu FLORES-200, þar sem sömu 1.012 setningarnar eru þýddar á 204 tungumál. Síðan notar nákvæmlega sömu gögn og Petrov o.fl. (commit 365c3f8, 28. nóv. 2023). Hver sem er getur endurgert tölurnar úr þessu safni. Tókatollur fyrir fleiri tókara er í skránni data.csv. Þetta eru nákvæmlega líkönin sem við sýnum tölur fyrir:
Hvert land er litað eftir einu aðaltungumáli, sem einfaldar fjöltyngd lönd; hægt er að skoða hvert tungumál á listanum fyrir sig.
Dæmasetningarnar eru úr FLORES-200 (CC BY-SA 4.0) í gegnum Petrov o.fl.
Eftir Sara Moricz.