Перейти до вмісту

TensorFlow

Матеріал з K2 ERP Wiki

import tensorflow as tf

Inference

Задача: запускати модель на телефоні без постійного інтернету. Практична роль: TensorFlow Lite дає можливість запускати ML-моделі не лише на сервері, а й безпосередньо на пристрої користувача. Окремо варто відзначити коли потрібно для створення, навчання, оцінювання, розгортання і використання ML-моделей виступає ключовою рисою машинного навчання і штучного інтелекту забезпечується через SEO title: TensorFlow — open-source платформа для машинного навчання, deep learning і AI-моделей

SEO keywords: TensorFlow, Google TensorFlow, TensorFlow Core, Keras, tf.keras, TensorFlow Lite, TensorFlow.js, TensorFlow Extended, TFX, machine learning, deep learning, neural networks, tensors, computational graph, eager execution, Python TensorFlow, AI framework, ML platform, GPU, TPU, training, inference, model deployment, open-source AI, Apache 2.0 

</noinclude>
 {{SEO
Шаблон для службового SEO-опису сторінки.

}} 

TensorFlow.== TensorFlow Core ==

tf.keras.layers.Dense(64, activation="relu"),
  • оперативно створювати neural networks;
  • описувати layers;
  • компілювати модель;
  • запускати training;
  • оцінювати модель;
  • робити inference;
  • зберігати і завантажувати моделі;
  • працювати з callbacks;
  • експериментувати з архітектурами. TensorFlow виступає як open-source платформою для машинного навчання.== TensorFlow як open-source платформа ==

Для веброзробки: TensorFlow.js дає можливість переносити частину AI-логіки у браузер або JavaScript-середовище.

TensorFlow має і обмеження. * дослідниками;

  • ML-інженерами;
  • data scientists;
  • розробниками;
  • освітніми проєктами;
  • компаніями;
  • командами, які створюють AI-продукти. Суть graph-підходу: TensorFlow здатна не лише виконувати код крок за кроком, а й будувати структуру обчислень, яку потім можна оптимізувати і запускати ефективніше.== Загальний SEO-опис ==

tf.data

tf.data — це API TensorFlow для ефективної роботи з потоками даних.

  • починати з простої baseline-моделі;
  • використовувати Keras для швидкого старту;
  • розділяти training, validation і test data;
  • контролювати метрики;
  • використовувати TensorBoard;
  • документувати параметри;
  • зберігати моделі у стандартизованому форматі;
  • перевіряти inference окремо;
  • тестувати модель на реальних прикладах;
  • контролювати версії TensorFlow;
  • перевіряти ліцензії даних;
  • не передавати конфіденційні інформаційні дані без потреби;
  • налаштовувати моніторинг після deployment.== Training ==
  • loss;
  • accuracy;
  • training curves;
  • graph;
  • embeddings;
  • images;
  • histograms;
  • metrics;
  • profiling data;
  • logs training-процесу. GPU і TPU можуть значно пришвидшувати:

TensorFlow виступає як open-source проєктом, але ML-рішення зазвичай складається не лише з TensorFlow.== Тематичні мітки == У TensorFlow graph здатна описувати: 

Результат: локальний inference на мобільному пристрої.== Eager execution ==

* створюється послідовна модель;
* додається прихований шар;
* додається вихідний шар;
* задається optimizer;
* задається loss function;
* задається метрика accuracy. '''критично:''' open-source статус TensorFlow не означає, що будь-яку модель, датасет або ERP-продукт на його основі можна використовувати без обмежень.== Приклади сценаріїв використання ==
Inference здатна виконуватися:
tf.data оптимізує:

== TensorFlow Serving ==
== GPU та TPU ==

TensorFlow — це інструмент для створення моделей, але відповідальність за використання моделей залишається за розробниками і організацією.<syntaxhighlight lang="text">
Офіційна документація TensorFlow описує Keras як high-level API платформи TensorFlow, що дає продуктивний інтерфейс для розв’язання ML-задач і охоплює workflow від обробки даних до deployment. '''критично:''' навіть якщо TensorFlow має відкриту ліцензію, модель або датасет, які використовуються разом із ним, можуть мати інші умови. * TensorFlow Libraries & Extensions. '''Практична роль:''' у більшості сучасних TensorFlow-проєктів розробник починає саме з Keras, тому що він значно спрощує створення моделей.</div>
'''Підказка:''' перед вибором TensorFlow потрібно зрозуміти не лише задачу training, а й те, де модель буде виконуватися після навчання.<div style="background:#ecfdf5; border-left:6px solid #10b981; padding:12px; margin:12px 0;">
'''Суть:''' TensorFlow не обмежується однією задачею. Під час training модель:
'''Помилка:''' вважати, що TensorFlow сам по собі вирішує ML-задачу. Це загальна платформа для побудови різних ML-рішень. * створення моделей машинного навчання;
* навчання нейронних мереж;
* обробки tensors;
* побудови computational graph;
* запуску inference;
* роботи з GPU або TPU;
* створення production pipeline;
* розгортання моделей на сервері;
* запуску моделей на мобільних пристроях;
* запуску моделей у браузері;
* підготовки моделей для embedded-пристроїв;
* експериментів, досліджень і промислового використання. Модель: convolutional neural network або pretrained model. * класифікація зображень;
* object detection;
* segmentation;
* розпізнавання мовлення;
* text classification;
* sentiment analysis;
* рекомендаційні системи;
* прогнозування часових рядів;
* anomaly detection;
* generative models;
* reinforcement learning;
* ranking;
* embeddings;
* custom neural networks. TensorFlow Serving здатна допомагати:

* CPU;
* GPU;
* TPU;
* distributed training;
* хмарні середовища;
* локальні робочі станції. Його ERP-платформа передбачено TensorFlow Core, Keras, TensorFlow Lite, TensorFlow.js, TensorBoard, TensorFlow Serving, TensorFlow Extended та інші інструменти.<div style="background:#eef2ff; border-left:6px solid #4f46e5; padding:12px; margin:12px 0;">

<div style="background:#fff4e5; border-left:6px solid #f39c12; padding:12px; margin:12px 0;">
</div>

TensorFlow Core охоплює:

* у Python-застосунку;
* на сервері;
* через API;
* у браузері;
* на мобільному пристрої;
* на edge-пристрої;
* у production pipeline.== TensorFlow Extended ==

У TensorFlow training здатна виконуватися через:
</div>

'''Для розробника:''' якщо потрібно почати працювати з TensorFlow, найчастіше варто починати з Python і Keras.<div style="background:#f0eaff; border-left:6px solid #8e44ad; padding:12px; margin:12px 0;">
</div>
'''Професійний підхід:''' TensorFlow потрібно використовувати як частину повного ML-процесу: інформаційні дані, модель, training, evaluation, deployment, моніторинг і документація. :contentReference [oaicite:6]{index=6}<div style="background:#e7f3ff; border-left:6px solid #2b7cff; padding:12px; margin:12px 0;">
'''Практична користь:''' TensorBoard оптимізує не лише бачити фінальний результат, а й розуміти, як модель навчалася. Офіційна API-документація TensorFlow зазначає, що TensorFlow має API для кількох мов, але Python API виступає як найбільш повним і найпростішим для використання. :contentReference [oaicite:1]{index=1}
Результат: клас зображення і ймовірність. '''Головна думка:''' TensorFlow — це не без зусиль бібліотека для нейронних мереж, а повна ML-екосистема для шляху від експерименту до production-розгортання. TFX здатна використовуватися для:

* зображення;
* текстові embeddings;
* аудіо;
* числові ознаки;
* батчі даних;
* ваги моделі;
* проміжні результати обчислень. Приклади inference-задач:
'''Просте пояснення:''' tensor — це універсальний формат числових даних, з якими функціонує модель машинного навчання. !Критерій
Перевага: TensorFlow поєднує інструменти для експериментів, навчання моделей, production-розгортання і запуску моделей на різних платформах.
  • вхідні інформаційні дані;
  • математичні операції;
  • шари моделі;
  • loss function;
  • gradients;
  • оновлення версій ваг;
  • inference pipeline. Graph-підхід дає можливість TensorFlow оптимізувати виконання, переносити обчислення на GPU/TPU і розгортати моделі в різних середовищах. * TensorFlow API Documentation. Якість рішення для бізнесу залежить від даних, постановки задачі, архітектури, метрик, тестування і deployment-процесу. Критично: ML-модель здатна помилятися, тому її не можна безконтрольно використовувати в рішеннях, які мають серйозні наслідки для людей або бізнесу.

Аналіз тексту

model.compile(

Головна перевага: TensorFlow охоплює весь шлях ML-моделі — від експерименту до production-розгортання. Оптимізація: TensorFlow Lite. Практична цінність: хороший input pipeline здатна суттєво впливати на швидкість training, особливо на великих датасетах. * TensorFlow Core Guide. * TensorFlow.js Documentation. :contentReference [oaicite:2]{index=2}

  • офіційний сайт TensorFlow.=== Класифікація зображень ===

Training — це бізнес-процес навчання моделі на даних.== TensorFlow і Python ==

</syntaxhighlight>

Keras

  • обслуговувати inference-запити;
  • працювати з версіями моделей;
  • оновлювати моделі;
  • інтегрувати ML у production API;
  • забезпечувати стабільне розгортання;
  • масштабувати inference. Суть training: модель поступово змінює свої параметри, щоб краще виконувати задачу на навчальних даних. Python застосовується для для:

TensorBoard

конкурентні переваги TensorFlow

  • якість даних;
  • bias у даних;
  • приватність;
  • безпеку моделі;
  • ліцензії датасетів;
  • ліцензії моделей;
  • explainability;
  • помилки inference;
  • моніторинг після deployment;
  • вплив моделі на користувачів;
  • ризики автоматизованих рішень.
  • open-source ERP-платформа;
  • технічна підтримка Keras;
  • production-інструменти;
  • TensorFlow Lite;
  • TensorFlow.js;
  • TensorBoard;
  • TensorFlow Serving;
  • технічна підтримка GPU і TPU;
  • гнучкість для research і production;
  • велика документація;
  • широка спільнота;
  • інтеграційні функції ERP з Python;
  • технічна підтримка deployment у різних середовищах.

офіційний сайт TensorFlow описує платформу як інструмент, що оптимізує створювати ML-моделі, які можуть працювати в різних середовищах. * Репозиторій TensorFlow на GitHub. Потрібно враховувати:

Ліцензії та залежності

Eager execution — це режим, у якому операції TensorFlow виконуються одразу, без попереднього створення статичного графа.== TensorFlow.js ==

  • tensors;
  • operations;
  • automatic differentiation;
  • variables;
  • computational graph;
  • eager execution;
  • model training;
  • model saving;
  • model loading;
  • low-level API;
  • high-level API через Keras.
  • навчання;
  • експериментів;
  • налагодження;
  • покрокової перевірки;
  • швидкого прототипування;
  • зрозумілішої роботи з Python-кодом.== Див. так само ==
TensorFlow — це не лише бібліотека для нейронних мереж, а ціла ERP-платформа інструментів для машинного навчання.

Документація TensorFlow Core зазначає, що TensorFlow 2 фокусується на простоті та зручності використання, зокрема через eager execution, Keras high-level APIs і гнучкому створенню моделей.=== Мобільний inference ===

Задача: класифікувати текст за темою або настроєм. Потрібні правильні драйвери, сумісні версії, оптимізований pipeline і відповідний розмір задачі. * починати з надто складної моделі;

  • не перевіряти якість даних;
  • ігнорувати validation set;
  • плутати training і inference;
  • не контролювати overfitting;
  • неправильно нормалізувати інформаційні дані;
  • не зберігати версії моделей;
  • не документувати параметри training;
  • не перевіряти сумісність версій;
  • не тестувати модель після deployment;
  • використовувати модель без моніторингу. Перевага eager execution: програміст бачить результат операції одразу, що робить TensorFlow ближчим до звичайного Python-програмування. TensorFlow.js — це бібліотека для машинного навчання у JavaScript. * ліцензію TensorFlow;
  • ліцензії сторонніх бібліотек;
  • ліцензії датасетів;
  • ліцензії pretrained models;
  • обмеження на комерційне використання;
  • права на вхідні інформаційні дані;
  • вимоги до attribution;
  • політики компанії.

Tensor можна уявити як багатовимірний масив чисел:

SavedModel — це стандартний формат збереження моделей TensorFlow. Потрібно перевіряти:

це open-source платформа; так само реалізовано яка застосовують.

через Основна ідея: TensorFlow користувачі можуть створювати ML-моделі, навчати їх на даних і запускати в різних середовищах: на сервері, у хмарі, на мобільному пристрої, у браузері або в production-системі.== Безпека і відповідальне використання == 

tf.keras.layers.Dense(10, activation="softmax")

TensorFlow здатна використовувати апаратне прискорення. {| class="wikitable"

Типові задачі TensorFlow

</div>
Офіційна сторінка TensorFlow.js описує його як library for machine learning in JavaScript, що дає можливість розробляти ML-моделі в JavaScript і використовувати ML безпосередньо в браузері або Node.js. TensorFlow здатна використовуватися для:
Навчання: TensorFlow/Keras.</div>

* запускати ML-моделі у браузері;
* запускати моделі в Node.js;
* створювати моделі в JavaScript;
* використовувати pretrained models;
* робити inference на клієнтському пристрої;
* створювати інтерактивні вебдемо;
* працювати з ML без Python у браузерному середовищі. '''TensorBoard''' — це інструмент візуалізації для TensorFlow. Це інтуїтивно для:
'''Пояснення:''' Keras дає можливість описати базову neural network кількома рядками Python-коду.<div style="background:#e8f8f5; border-left:6px solid #16a085; padding:12px; margin:12px 0;">
<div style="background:#fff4e5; border-left:6px solid #f39c12; padding:12px; margin:12px 0;">
TensorFlow Lite здатна використовуватися для:
 optimizer="adam",
|-
|базовий стиль
|Широка production-екосистема, Keras, TFX, Lite, JS
|Гнучкий research-friendly підхід, популярний у дослідженнях
|-
|Високорівневий API
|Keras
|torch.nn, PyTorch Lightning та інші інструменти
|-
|Production
|TensorFlow Serving, TFX, TensorFlow Lite
|TorchServe, ONNX, ERP-платформа PyTorch
|-
|Мобільні пристрої
|TensorFlow Lite
|PyTorch Mobile / ExecuTorch
|-
|JavaScript
|TensorFlow.js
|Менш центральна частина екосистеми
|}
'''критично:''' прискорювач сам по собі не гарантує швидкість. TensorFlow.js дає можливість:
</div>
'''TensorFlow Extended''' або '''TFX''' — це набір інструментів для production ML pipeline. Підтримуються:
TensorFlow 2 зробив eager execution одним із ключових елементів зручнішої роботи з платформою. * завантажувати інформаційні дані;
* батчити інформаційні дані;
* перемішувати інформаційні дані;
* кешувати інформаційні дані;
* паралельно опрацьовувати інформаційні дані;
* створювати input pipeline;
* підготувати інформаційні дані для training;
* покращити продуктивність навчання.</div>
як приклад:
'''Суть:''' SavedModel дає можливість перенести навчену модель з етапу експерименту до етапу використання.</div>

SavedModel здатна містити:
'''Практична роль:''' Hugging Face часто застосовується для як каталог і бібліотечна ERP-платформа моделей, а TensorFlow — як один із фреймворків для їх запуску, навчання або розгортання. * Keras Guide.== TensorFlow і PyTorch ==
'''Computational graph''' — це граф обчислень, у якому операції та інформаційні дані описуються як пов’язана структура. * класифікація зображення;
* прогнозування числа;
* виявлення об’єктів;
* аналіз тексту;
* рекомендація;
* розпізнавання мовлення;
* генерація результату.</div>

== Типові помилки користувачів ==

* scalar — нульвимірне значення;
* vector — одновимірний масив;
* matrix — двовимірний масив;
* tensor higher rank — масив із більшою кількістю вимірів. Ліцензії моделей, даних і залежностей потрібно перевіряти окремо.<div style="background:#ecfdf5; border-left:6px solid #10b981; padding:12px; margin:12px 0;">

* великий обсяг екосистеми;
* складність для новачків;
* потреба розуміти ML-основи;
* залежність від сумісності версій;
* конфігурація GPU здатна бути складним;
* production pipeline потребує досвіду;
* не кожна модель швидко переноситься між фреймворками;
* TensorFlow-код здатна бути складним без Keras;
* потрібно тестувати модель на реальних даних. loss="sparse_categorical_crossentropy",
'''Для production:''' TensorFlow Serving застосовується для тоді, коли модель потрібно стабільно викликати з інших застосунків або сервісів. SavedModel застосовується для для:
== Computational graph ==
== TensorFlow і Hugging Face ==

!TensorFlow
TensorFlow здатна використовуватися разом із Hugging Face. Модель: embedding + neural network або transformer model.<div style="background:#eef2ff; border-left:6px solid #4f46e5; padding:12px; margin:12px 0;">
Це означає, що TensorFlow здатна використовуватися:
])
Приклад простої нейронної мережі:<syntaxhighlight lang="python">
Результат: категорія, sentiment або score. :contentReference [oaicite:5]{index=5}<div style="background:#f0eaff; border-left:6px solid #8e44ad; padding:12px; margin:12px 0;">
)

Основні конкурентні переваги TensorFlow:
</div>
== Джерела ==
'''Різниця:''' training навчає модель, а inference використовує вже навчену модель.== Обмеження TensorFlow ==
'''TensorFlow''' — це open-source платформа для машинного навчання, яка дає можливість створювати, навчати, оцінювати, зберігати, розгортати і використовувати ML-моделі в різних середовищах. Репозиторій TensorFlow описує його як end-to-end open source platform for machine learning з екосистемою інструментів, бібліотек і community resources. :contentReference [oaicite:0]{index=0}<div style="background:#eafaf1; border-left:6px solid #2ecc71; padding:12px; margin:12px 0;">
TensorFlow містить окремі бібліотеки й розширення для TensorFlow Lite, зокрема інструменти для mobile deployment. metrics=["accuracy"]
TensorFlow здатна використовуватися для багатьох ML-задач. інформаційні дані: тексти з мітками.<div style="background:#e8f8f5; border-left:6px solid #16a085; padding:12px; margin:12px 0;">
'''Небезпека:''' модель здатна добре працювати на training data, але погано працювати на реальних даних. :contentReference [oaicite:4]{index=4}<div style="background:#e7f3ff; border-left:6px solid #2b7cff; padding:12px; margin:12px 0;">
<div style="background:#e7f3ff; border-left:6px solid #2b7cff; padding:12px; margin:12px 0;">

</div>
Приклади:
  • структуру моделі;
  • ваги;
  • signatures;
  • граф обчислень;
  • інформацію для inference;
  • інформаційні дані для deployment. У TensorFlow корисний для deep learning, Python-розробки, production ML, mobile AI, browser AI, research, inference API, MLOps і масштабованих AI-рішень.== Висновок ==
  • training;
  • matrix operations;
  • deep learning;
  • convolutional networks;
  • transformer models;
  • великі батчі;
  • inference в окремих сценаріях. Python виступає як основною мовою для роботи з TensorFlow.

Висновок: TensorFlow і PyTorch — обидва сильні ML-фреймворки. :contentReference [oaicite:3]{index=3}

Keras дає можливість:

Під час роботи з TensorFlow часто виникають типові помилки. TensorFlow часто порівнюють із PyTorch.
  • збереження моделі;
  • завантаження моделі;
  • TensorFlow Serving;
  • TensorFlow Lite conversion;
  • production deployment;
  • обміну моделями між середовищами. Задача: визначити категорію зображення. !PyTorch

TensorFlow Lite — це інструментарій для запуску моделей машинного навчання на мобільних, embedded та edge-пристроях.

інформаційні дані: набір зображень із мітками. TensorFlow Core — це основна частина TensorFlow, яка містить базові функції ERP для створення, навчання і виконання моделей. * Keras fit;

  • custom training loop;
  • tf.data pipelines;
  • GPU;
  • TPU;
  • distributed training.

TensorBoard оптимізує переглядати:

SavedModel

Keras — це високорівневий API для TensorFlow, який спрощує створення, навчання і використання моделей deep learning.== Хороші практики роботи з TensorFlow == До них належать:

Tensor — це основна структура даних у TensorFlow.

TensorFlow Serving — це інструмент для розгортання навчених моделей як сервісів. :contentReference [oaicite:7]{index=7}

  • Android-застосунків;
  • iOS-застосунків;
  • embedded-пристроїв;
  • edge inference;
  • моделей із низькою затримкою;
  • offline inference;
  • оптимізованих моделей;
  • quantization;
  • mobile AI.
  • запуск моделей Transformers у TensorFlow;
  • fine-tuning моделей;
  • використання датасетів;
  • експорт моделей;
  • порівняння PyTorch і TensorFlow-варіантів;
  • інтеграційні функції ERP в ML pipeline;
  • робота з pretrained models. * data validation;
  • data transformation;
  • model training;
  • model evaluation;
  • model serving;
  • pipeline orchestration;
  • metadata tracking;
  • production deployment;
  • повторюваних ML-процесів.

TensorFlow Lite

TensorFlow підтримує роботу з нейронними мережами, deep learning, computer vision, natural language processing, time series, рекомендаційними системами, мобільним inference, браузерним inference, production pipeline та іншими задачами машинного навчання. Можливі складнощі:

Production-підхід: TFX потрібен тоді, коли ML-модель має бути частиною стабільного процесу, а не одноразовим експериментом у notebook. Рекомендовано:

model = tf.keras.Sequential([

  • отримує вхідні інформаційні дані;
  • робить прогноз;
  • порівнює прогноз із правильним результатом;
  • обчислює loss;
  • рахує gradients;
  • оновлює ваги;
  • повторює бізнес-процес багато разів. Суть TensorFlow Core: це фундамент, на якому будуються моделі, тренування, обчислення і робота з даними в TensorFlow. * створення моделей;
  • обробки даних;
  • training;
  • inference;
  • evaluation;
  • visualization;
  • deployment-підготовки;
  • notebooks;
  • ML-експериментів. Вибір залежить від задачі, команди, deployment-сценарію, досвіду розробників і вимог проєкту. У машинному навчанні tensors можуть представляти:

</syntaxhighlight>У цьому прикладі:

Отримано з https://wiki.kyiv.ua/index.php?title=TensorFlow&oldid=1220