“Prosím” a “děkuji” v ChatGPT dle Altmana stojí OpenAI desítky milionů USD

Provoz AI chatbotů není levný. Každý token (slovo) má svou cenu. Ta by měla být okolo 0,0015 USD za tisíc vstupních tokenů a asi 0,002 USD za tisíc výstupních. Když se někdo na sociální síti Twitter nedávno ptal, kolik stojí slušnost pro konverzaci s chatbotem, tedy prosby, děkování, pozdravy a podobně, Sam Altman, CEO společnosti OpenAI, oznámil, že to mohou být desítky milionů dolarů, ale člověk nikdy neví. Každý token navíc musí být zpracován, což stojí nějaký výkon a ve výsledku i spotřebu elektrické energie.

 

Jak ale bylo řečeno výše, na jedno takové slovo to tedy máme jen 0,0000015 USD (cca 0,0033 halíře), což není mnoho. I když toto dělají pravděpodobně miliony lidí a mnohokrát denně, těžko si představit, že by to mohlo být až tak moc. Ale zkusme počítat. Řekněme, že by děkování a prosby dělalo 20 milionů lidí ze 400 milionů uživatelů a celkově každý z nich denně použil 20 tokenů pro tyto úlohy (v některých jazycích to mohou být i víceslovná spojení). Když to pronásobíme, dostaneme cca 600 USD za den, ročně potom asi 220 tisíc USD. Abychom se dostali na desítky milionů USD, muselo by to dělat násobně více lidí a používat to mnohem častěji. Zdá se, že tady Altman asi docela přestřelil.

 

Zdroj: techspot.com