TensorFlow

L'autodifférentiation est le processus de calcul automatique du vecteur gradient d'un modèle par rapport à chacun de ses paramètres. Grâce à cette fonctionnalité, TensorFlow peut calculer automatiquement les gradients des paramètres d'un modèle, ce qui est utile pour des algorithmes tels que la rétropropagation qui nécessitent des gradients pour optimiser leurs performances. Pour ce faire, le framework doit conserver la trace de l'ordre des opérations effectuées sur les tenseurs d'entrée d'un modèle, puis calculer les gradients par rapport aux paramètres appropriés.

TensorFlow inclut un mode d'« exécution immédiate », ce qui signifie que les opérations sont évaluées instantanément, au lieu d'être ajoutées à un graphe de calcul exécuté ultérieurement. Le code exécuté de manière immédiate peut être examiné pas à pas à l'aide d'un débogueur, car les données sont ajoutées à chaque ligne de code et non ultérieurement dans un graphe de calcul. Ce paradigme d'exécution est considéré comme plus facile à déboguer en raison de sa transparence pas à pas.

Que ce soit en mode d'exécution immédiate ou sur graphe, TensorFlow fournit une API permettant de répartir les calculs sur plusieurs appareils selon différentes stratégies de distribution. Ce calcul distribué peut souvent accélérer l'exécution de l'entraînement et de l'évaluation des modèles TensorFlow et constitue une pratique courante dans le domaine de l'IA.

Pour entraîner et évaluer des modèles, TensorFlow fournit un ensemble de fonctions de perte (également appelées fonctions de coût ). Parmi les exemples courants, on peut citer l'erreur quadratique moyenne (MSE) et l'entropie croisée binaire (BCE).

Afin d'évaluer les performances des modèles d'apprentissage automatique, TensorFlow fournit un accès API aux métriques couramment utilisées. Il s'agit notamment de diverses métriques de précision (binaire, catégorielle, catégorielle éparse) ainsi que d'autres métriques telles que la précision, le rappel et l'intersection sur l'union (IoU).

TensorFlow.nn est un module permettant d'exécuter des opérations de base sur les réseaux de neurones . Parmi ces opérations figurent des variantes de convolutions (1D/2D/3D, à trous, par profondeur), des fonctions d'activation ( Softmax , Relu , GELU, Sigmoïde , etc.) et leurs variantes, ainsi que d'autres opérations ( max-pooling , ajout de biais, etc.).

TensorFlow propose un ensemble d'optimiseurs pour l'entraînement des réseaux de neurones, notamment ADAM , ADAGRAD et la descente de gradient stochastique (SGD). Lors de l'entraînement d'un modèle, différents optimiseurs offrent différents modes de réglage des paramètres, ce qui affecte souvent la convergence et les performances du modèle.

TensorFlow constitue une plateforme et une bibliothèque essentielles pour l'apprentissage automatique. Ses API utilisent Keras pour permettre aux utilisateurs de créer leurs propres modèles d'apprentissage automatique. Outre la création et l'entraînement du modèle, TensorFlow peut également faciliter le chargement des données d'entraînement et le déploiement du modèle via TensorFlow Serving.

TensorFlow fournit une interface de programmation ( API ) Python stable , ainsi que des API sans garantie de rétrocompatibilité pour ] tierces sont également C # , Haskell [ 54 ] 56 ] Pascal [ R [ Scala [ Rust [ OCaml [ Crystal [ 62 Les bibliothèques ] Swift sont désormais archivées prises

TensorFlow propose également une bibliothèque pour l'apprentissage automatique en JavaScript. Grâce aux API JavaScript fournies , TensorFlow.js permet aux utilisateurs d'utiliser des modèles Tensorflow.js ou des modèles convertis depuis TensorFlow ou TFLite, de réentraîner ces modèles et de les exécuter sur le Web.

LiteRT, anciennement connu sous le nom de TensorFlow Lite, propose des API permettant aux applications mobiles ou aux systèmes embarqués de générer et de déployer des modèles TensorFlow. Ces modèles sont compressés et optimisés afin d'être plus efficaces et d'offrir de meilleures performances sur les appareils à capacité réduite.

LiteRT utilise FlatBuffers comme format de sérialisation des données pour les modèles de réseau, évitant ainsi le format Protocol Buffers utilisé par les modèles TensorFlow standard.

TensorFlow Extended (TFX) fournit de nombreux composants permettant d'effectuer toutes les opérations nécessaires à la production de bout en bout. Ces composants incluent le chargement, la validation et la transformation des données, le réglage, l'entraînement et l'évaluation du modèle d'apprentissage automatique, ainsi que le déploiement du modèle en production.

TensorFlow propose également diverses bibliothèques et extensions pour faire évoluer et étendre les modèles et méthodes utilisés. Par exemple, TensorFlow Recommenders et TensorFlow Graphics sont des bibliothèques dédiées à leurs fonctionnalités respectives. Parmi les autres modules complémentaires, bibliothèques et frameworks , on trouve TensorFlow Model Optimization, TensorFlow Probability, TensorFlow Quantum et TensorFlow Decision Forests.

GE Healthcare a utilisé TensorFlow pour améliorer la vitesse et la précision des IRM dans l'identification de parties spécifiques du corps. Google a utilisé TensorFlow pour créer DermAssist, une application mobile gratuite permettant aux utilisateurs de prendre des photos de leur peau et d'identifier d'éventuelles complications de santé. Sinovation Ventures a utilisé TensorFlow pour identifier et classifier les maladies oculaires à partir de scans de tomographie par cohérence optique (OCT).

Twitter a implémenté TensorFlow pour classer les tweets par ordre d'importance pour un utilisateur donné et a modifié sa plateforme afin d'afficher les tweets selon ce classement. Auparavant, les tweets étaient simplement affichés par ordre chronologique inverse. L'application de partage de photos VSCO a utilisé TensorFlow pour suggérer des filtres personnalisés pour les photos.

Google a officiellement lancé RankBrain le 26 octobre 2015, basé sur TensorFlow.

InSpace, une plateforme d'apprentissage virtuel, a utilisé TensorFlow pour filtrer les messages de chat toxiques dans les salles de classe. Liulishuo, une plateforme d'apprentissage de l'anglais en ligne, a utilisé TensorFlow pour créer un programme adaptatif pour chaque étudiant. TensorFlow a été utilisé pour évaluer les compétences actuelles des étudiants et a également aidé à décider quel contenu afficher en fonction de ces compétences.

La plateforme de commerce électronique Carousell a utilisé TensorFlow pour fournir des recommandations personnalisées à ses clients. La société de cosmétiques ModiFace a utilisé TensorFlow pour créer une expérience de réalité augmentée permettant à ses clients de tester différentes teintes de maquillage sur leur visage.

Comparaison de la photo originale (à gauche) et de la photo retravaillée avec le style neuronal TensorFlow appliqué (à droite), en 2016.