Tulevik on lokaalne: Miks ettevõtted toovad tehisintellekti pilvest välja

Generatiivse tehisintellekti algne hype-laine põhines tohututel pilvepõhistel mudelitel. Kuid kuna ettevõtted liiguvad kontseptsiooni tõestamiselt tootmisse, on selgunud karm reaalsus: tundlike ettevõtte andmete saatmine kolmandate osapoolte API-dele on tohutu turvarisk ja järelduste (inference) kulud on ettearvamatud.

Ettevõtte tehisintellekti tulevik ei ole üks monoliitne aju pilves; see on detsentraliseeritud, spetsialiseeritud ja lokaalne.

Me näeme tohutut nihet optimeeritud, väiksemate parameetritega mudelite käitamise suunas otse turvalistes ettevõtte perimeetrites. Sellised tehnikad nagu parameetrite tõhus peenhäälestus (PEFT) on revolutsiooniliselt muutnud meie võimet võtta avatud lähtekoodiga mudeleid ja treenida neid väga spetsiifilistes ärikontekstides ilma superarvutit vajamata.

Miks see nihe just nüüd toimub?

• Andmete suveräänsus: Ettevõtted ei saa enam endale lubada patenteeritud andmete lekkimist. Lokaalsed LLM-id tagavad, et andmed ei lahku kunagi sisevõrgust.
• Latentsus ja töökindlus: Edge computing eemaldab sõltuvuse interneti ribalaiusest ja väliste API-de tööajast.
• Kulude prognoositavus: Te maksate riistvara (või fikseeritud pilvearvutuse) eest ühe korra, selle asemel et maksta iga sümboli (token) eest lõputult.

Suprastis usume, et järgmine triljoni dollari suurune nihe ettevõtluses on tugevate, lokaalsete tehisintellekti inseneripakkide ehitamine. Konkurentsieelis kuulub ettevõtetele, kes suudavad oma intellekti peenhäälestada, mitte neile, kes seda rendivad.