Sisällysluettelo:

Kuinka palvelet TensorFlow-mallia?
Kuinka palvelet TensorFlow-mallia?

Video: Kuinka palvelet TensorFlow-mallia?

Video: Kuinka palvelet TensorFlow-mallia?
Video: #15. Тонкая настройка обучения моделей через метод compile() | Tensorflow 2 уроки 2024, Saattaa
Anonim

Jotta palvelevat Tensorflow-mallia , vie vain SavedModel tietokoneestasi Tensorflow ohjelmoida. SavedModel on kielineutraali, palautettavissa oleva hermeettinen serialisointimuoto, jonka avulla korkeamman tason järjestelmiä ja työkaluja voidaan tuottaa, kuluttaa ja muuttaa. TensorFlow mallit.

Näin ollen, kuinka käytän TensorFlow-mallia?

Nämä ovat vaiheet, joita aiomme tehdä:

  1. Tee esimerkkinä typerä malli, kouluta ja varastoi se.
  2. Hae tarvitsemasi muuttujat tallennetusta mallistasi.
  3. Rakenna tensoritiedot niistä.
  4. Luo mallin allekirjoitus.
  5. Luo ja tallenna mallinrakennus.
  6. Lataa Docker-kuva, jossa on jo käännetty TensorFlow-palvelu.

Lisäksi mitä TensorFlow palvelee? TensorFlow-palvelu on joustava, korkean suorituskyvyn tarjoilu koneoppimismallien järjestelmä, joka on suunniteltu tuotantoympäristöihin. TensorFlow-palvelu tarjoaa valmiin integroinnin TensorFlow mallit, mutta ne voidaan helposti laajentaa palvella muun tyyppisiä malleja ja tietoja.

Miten TensorFlow-palvelu toimii tässä suhteessa?

TensorFlow-palvelu antaa meille mahdollisuuden valita, mitä mallin tai "palvelettavan" version haluamme käyttää, kun teemme johtopäätöspyyntöjä. Jokainen versio viedään eri alihakemistoon annetun polun alla.

Mikä on mallipalvelin?

Mallipalvelin Apache MXNet (MMS) on avoimen lähdekoodin komponentti, joka on suunniteltu yksinkertaistamaan syväoppimisen käyttöönottoa. mallit mittakaavassa johtamista varten. Käyttöönotto mallit sillä päättely ei ole vähäpätöinen tehtävä.

Suositeltava: