Miks tehisintellekt ei tööta meie serveris

Selle saidi teenindavas masinas ei tööta ükski keelemudel. Kokkuvõtted arvutatakse teises seadmes, mis toob tööülesanded, teeb töö ära ja viib laused tagasi.

Põhjus on aritmeetika. 3B mudel võtab enda alla üle gigabaidi mälu ja vajab vastuse jaoks sekundeid. Selle rakenduse kõige raskem andmebaasipäring võtab 581 millisekundit. Kui panna mõlemad samale plaadile, jäävad 379 000 loenduri pildid ootama tekstigeneraatori taha, ning just need ongi tegelik toode.

Mis see maksab ja mida see annab

Hind on teine masin ja järjekord. Töid jagatakse korraga kuni kakskümmend; järjekorral on lagi ja kui see on täis, uut ei looda — juba kirjutatud laused jäävad nähtavale. Nädala vanune kokkuvõte on täiesti korras. Puuduv kokkuvõte on samuti korras. Aeglane statistikaleht, sest plaadil mõtleb parajasti keegi teine, ei ole.

Selle eest saame, et loendamise tee ei jaga kunagi masinat millegi ettearvamatuga. Loenduri pildi joonistamine on väike piiratud töö. Teksti genereerimine ei ole: ühe lause mõõdetud vahemik on siin 5,4 kuni 54,3 sekundit, kümnekordne vahe kiire ja aeglase juhu vahel, ning seda ei otsusta miski, mida server ette näeks.

Mis majast välja läheb

See on osa, mille üle tuli otsustada enne mis tahes ehitamist, sest seda ei saa hiljem parandada.

Teine masin saab ainult numbreid, mis on juba avalikud loenduri enda statistikalehel, ja ainult neilt loenduritelt, mille statistikaleht on üldse avalik — mitte privaatne, mitte parooliga kaitstud. Töötaja ei saa teada midagi, mida selle lehe külastaja seda avades lugeda ei saaks.

See ei ole õnnelik kõrvalmõju sellest, kuidas kood välja kukkus. Kandidaatide päring filtreerib just selle järgi ja ilma selle filtrita oleks kogu funktsioon teiste inimeste andmete edastamine teisele seadmele. Ükski „oleme sellega ettevaatlikud“ ei ole nii hea kui mitte saatmine.

Üldine kuju

Sellest tulid kaks reeglit, mis on väärtuslikumad kui funktsioon ise.

Hoidke piiramatu töö piiratud teelt eemal. Kõik, mille tööaeg on suurusjärgu piires ettearvamatu, ei kuulu masinasse, mis peab vastama millisekundites. Mitte „tavaliselt on korras“ — just aeglane juhtum on see, mis loeb, ja see tuleb alati.

Otsustage, mis võib välja minna, enne kui otsustate, mida ehitada. Kui vastus oleks olnud „töötaja vajab ka privaatseid loendureid“, ei olnud õige reaktsioon edastust kaitsta. Õige oli öelda, et funktsioon privaatseid loendureid ei hõlma, ja täpselt nii see ongi.