Regression and AI in practice · Régression et IA en pratique
| English | Français |
|---|---|
| regression/rɪˈɡreʃn/ | rétroactive |
| classification/ˌklæsɪfɪˈkeɪʃn/ | classification |
| linear regression/ˈlɪnɪə rɪˈɡreʃn/ | régression linéaire |
| OCR/ˌəʊ siː ˈɑː/ | OCR |
Predicting a number, not a name
- Ask a model "is this email spam?" and it must choose from a fixed set of answers. Ask it "what will this house sell for?" and there is no set to choose from: the answer is a number, and being out by a thousand pounds is nearly right.
- Those are two different tasks, and mixing them up is the commonest mistake in this topic. Both are supervised learning; only the shape of the answer differs.
- This lesson is regression 回归 against classification 分类, how linear regression 线性回归 chooses its line, and how real products chain trained models into a pipeline.
Prédire un nombre, pas un nom
- Demandez à un modèle "est-ce que cet e-mail est du spam ?" et il doit choisir parmi un ensemble fixe de réponses. Demandez-lui "pour combien cette maison sera-t-elle vendue ?" et il n'y a pas d'ensemble à choisir : la réponse est un nombre, et être à mille livres près est presque juste.
- Ce sont deux tâches différentes, et les confondre est l'erreur la plus courante dans ce sujet. Les deux sont de l'apprentissage supervisé ; seule la forme de la réponse diffère.
- Cette leçon traite de la régression 回归 contre la classification 分类, comment la régression linéaire 线性回归 choisit sa droite, et comment les produits réels enchaînent plusieurs modèles entraînés dans un pipeline.
Regression and classification
- Classification predicts a category from a fixed set: cat or dog, spam or not spam, which of ten digits.
- Regression predicts a number on a continuous scale: a house price, tomorrow's temperature, how long a journey will take.
- Both are supervised: both learn from labelled examples. The choice between them is decided by one question: is the answer a label or a number?
- The distinction changes how you measure success. A classifier is right or wrong; a regressor is a certain distance out, which is why their loss functions differ.
Régression et classification
- La classification prédit une catégorie issue d'un ensemble fixe : chat ou chien, spam ou non spam, lequel des dix chiffres.
- La régression prédit un nombre sur une échelle continue : le prix d'une maison, la température de demain, la durée d'un trajet.
- Les deux sont supervisés : les deux apprennent à partir d'exemples étiquetés. Le choix entre eux est décidé par une seule question : la réponse est-elle une étiquette ou un nombre ?
- La distinction change la façon dont on mesure la réussite. Un classificateur a tort ou raison ; un régresseur s'éloigne d'une certaine distance, c'est pourquoi leurs fonctions de perte diffèrent.
The difference between regression and classification is that regression predicts: · La différence entre régression et classification est que la régression prédit :
Regression outputs a continuous number (price, temperature); classification outputs a category. · La régression produit un nombre continu (prix, température) ; la classification produit une catégorie.
Regression predicts a continuous number (a price, a temperature), while classification predicts a category (cat vs dog). · La régression prédit un nombre continu (un prix, une température), tandis que la classification prédit une catégorie (chat vs chien).
Number out = regression; category out = classification — the two main kinds of supervised prediction. · Sortie numérique = régression ; sortie catégorielle = classification — les deux principales sortes de prédiction supervisée.
Worked example: which task is which
- Predicting which of five customer types a shopper belongs to. Classification: the answer is one of a fixed set of categories.
- Predicting how much that shopper will spend next month. Regression: the answer is a number, and being close counts as nearly right.
- Predicting whether a machine will fail in the next week. Classification: yes or no. Predicting how many days until it fails. Regression.
- The same underlying data can feed either. Read the question being asked, not the subject matter.
Exemple résolu : quelle tâche est laquelle
- Prédire auquel des cinq types de clients un acheteur appartient. Classification : la réponse est l'une d'un ensemble fixe de catégories.
- Prédire combien cet acheteur dépensera le mois prochain. Régression : la réponse est un nombre, et être proche compte comme presque juste.
- Prédire si une machine va tomber en panne la semaine prochaine. Classification : oui ou non. Prédire combien de jours avant qu'elle tombe en panne. Régression.
- Les mêmes données sous-jacentes peuvent alimenter soit l'une, soit l'autre. Lisez la question posée, pas le sujet.
Match each prediction task to its kind. · Associez chaque tâche de prédiction à son type.
The same data can feed either. Read the question: a label from a fixed set, or a number on a scale. · Les mêmes données peuvent servir aux deux. Lisez la question : une étiquette issue d'un ensemble fixe, ou un nombre sur une échelle.
Linear regression
- Linear regression fits a straight line, or a flat surface when there are several inputs:
- The coefficients are chosen to minimise the sum of the squared errors between the line's predictions and the actual training values.
- Squared, for two reasons the exam accepts: errors above and below the line then cannot cancel out, and a large error is penalised much more than several small ones.
The line that leaves the least total squared distance
Régression linéaire
- La régression linéaire ajuste une ligne droite, ou une surface plane lorsqu'il y a plusieurs entrées :
- Les coefficients sont choisis pour minimiser la somme des carrés des erreurs entre les prédictions de la ligne et les valeurs réelles d'entraînement.
- Au carré, pour deux raisons acceptées par l'examen : les erreurs au-dessus et en dessous de la ligne ne peuvent alors pas s'annuler, et une grande erreur est pénalisée bien plus que plusieurs petites.
La droite qui laisse la somme totale des distances au carré la plus faible
Fitting a regression line · Ajustement d'une droite de régression
Drag the controls. Linear regression draws the straight line that makes the squared distances to the data points as small as possible — then it predicts a number for any new input. · Faites glisser les contrôles. La régression linéaire trace la droite qui minimise la somme des carrés des distances aux points de données — elle prédit ensuite un nombre pour toute nouvelle entrée.
Linear regression chooses its coefficients to: · La régression linéaire choisit ses coefficients pour :
It fits the line/hyperplane that makes the squared differences from the data points as small as possible. · Elle ajuste la droite/hyperplan qui minimise la somme des carrés des écarts aux points de données.
Why does linear regression minimise the sum of the SQUARED errors rather than the errors themselves? · Pourquoi la régression linéaire minimise-t-elle la somme des ERREURS AU CARRÉ plutôt que les erreurs elles-mêmes ?
Both reasons are accepted. Without squaring, a line could have a huge error above and below and still score zero. · Les deux raisons sont acceptées. Sans le carré, une droite pourrait avoir une grande erreur au-dessus et en dessous tout en totalisant zéro.
When a straight line is the right model
- Use linear regression when the relationship looks roughly linear and you want a model a human can read: each coefficient says how much that input matters, and in which direction.
- When the data curves, the same idea still applies with a different model: polynomial regression, a decision tree, or a neural network. In every case the recipe is the same, choose a model, define a loss, minimise it.
- That recipe is what connects this lesson to the last one: gradient descent is simply how the minimising is done when there is no formula for the answer.
Quand une ligne droite est le bon modèle
- Utilisez la régression linéaire lorsque la relation semble approximativement linéaire et que vous voulez un modèle lisible par un humain : chaque coefficient indique dans quelle mesure cette entrée est importante et dans quelle direction.
- Lorsque les données sont courbes, la même idée s'applique avec un modèle différent : régression polynomiale, arbre de décision ou réseau de neurones. Dans chaque cas, la recette est la même, choisissez un modèle, définissez une fonction de perte, minimisez-la.
- Cette recette relie cette leçon à la précédente : la descente de gradient est simplement la manière dont la minimisation est effectuée lorsqu'il n'y a pas de formule pour la réponse.
AI in a real product
- Real systems rarely use one model. They chain several trained models into a pipeline, each doing one step.
- Face identification at a door: a camera captures a face, image recognition converts it into a numerical representation, and that is matched against the representations of registered people.
- Reading a sign aloud for a traveller: image recognition locates the text, OCR 光学字符识别 turns the pixels into characters, machine translation converts the words, and text-to-speech produces the audio.
- The exam gives a scenario and asks which models are used, in order. Name the stage and what it produces for the next one.
IA dans un produit réel
- Les systèmes réels utilisent rarement un seul modèle. Ils enchaînent plusieurs modèles entraînés dans un pipeline, chacun effectuant une étape.
- Identification faciale à une porte : une caméra capture un visage, la reconnaissance d'images le convertit en représentation numérique, et celui-ci est comparé aux représentations des personnes enregistrées.
- Lire un panneau à voix haute pour un voyageur : la reconnaissance d'images localise le texte, la LCR 光学字符识别 convertit les pixels en caractères, la traduction automatique convertit les mots, et la synthèse vocale produit l'audio.
- L'examen donne un scénario et demande quels modèles sont utilisés, dans l'ordre. Nommez l'étape et ce qu'elle produit pour la suivante.
Match each AI idea to what it means. · Associez chaque idée d'IA à sa signification.
Training fits the model once; inference is the quick prediction each time a user interacts. · L'entraînement ajuste le modèle une fois ; l'inférence est la prédiction rapide à chaque interaction utilisateur.
A "read a sign aloud" feature typically chains which models? · Une fonctionnalité « lire un panneau à voix haute » enchaîne généralement quels modèles ?
Several trained models form a pipeline: find the text, extract characters, translate, then speak. · Plusieurs modèles entraînés forment un pipeline : trouver le texte, extraire les caractères, traduire, puis parler.
Put the stages of an app that reads a foreign sign aloud in order. · Mettez en ordre les étapes d'une application qui lit un panneau étranger à voix haute.
Several trained models chained together, each handing its output to the next. Name the stage and what it produces. · Plusieurs modèles entraînés enchaînés, chacun transmettant sa sortie au suivant. Nommez l'étape et ce qu'elle produit.
Worked example: training against inference
- A phone app recognises a plant from a photograph instantly, yet training its model took weeks on many machines. Explain why.
- Training repeatedly runs forward and backward passes over a very large labelled dataset, adjusting millions of weights over many epochs. That is what took weeks.
- Inference, using the trained model, is a single forward pass through a network whose weights are now fixed: multiply, add, activate, layer by layer, once.
- The intelligence lives in the learned weights, which is why the finished model is small enough and fast enough to ship on a phone.
Exemple résolu : entraînement contre inférence
- Une application de téléphone reconnaît une plante à partir d'une photo instantanément, mais l'entraînement de son modèle a pris des semaines sur de nombreuses machines. Expliquez pourquoi.
- L'entraînement exécute répétitivement des passes avant et arrière sur un très grand jeu de données étiqueté, ajustant des millions de poids sur de nombreuses époques. C'est cela qui a pris des semaines.
- L'inférence, en utilisant le modèle entraîné, est une seule passe avant à travers un réseau dont les poids sont maintenant fixes : multiplier, ajouter, activer, couche par couche, une seule fois.
- L'intelligence réside dans les poids appris, c'est pourquoi le modèle final est assez petit et assez rapide pour être livré sur un téléphone.
Using a trained model to make a prediction requires only a single ____ pass. · Utiliser un modèle entraîné pour faire une prédiction ne nécessite qu'un seul passage ____.
Training repeats forward and backward passes over a huge dataset; inference runs the fixed weights once, which is why it is instant. · L'entraînement répète les passages avant et arrière sur un vaste jeu de données ; l'inférence exécute les poids fixes une seule fois, c'est pourquoi c'est instantané.
Marks that slip away
- Classification gives a category, regression gives a number. Both are supervised; that is not the difference.
- Linear regression minimises the sum of squared errors, not "the total distance". Say squared, and say why.
- A pipeline answer must give the stages in order and say what each hands to the next.
- Training is repeated forward and backward passes; inference is one forward pass. Do not describe training when the question asks about use.
Pièges qui font perdre des points
- La classification donne une catégorie, la régression donne un nombre. Les deux sont supervisés ; ce n'est pas la différence.
- La régression linéaire minimise la somme des carrés des erreurs, pas "la distance totale". Dites au carré, et dites pourquoi.
- Une réponse de pipeline doit donner les étapes dans l'ordre et dire ce que chacune transmet à la suivante.
- L'entraînement consiste en des passes avant et arrière répétées ; l'inférence est une seule passe avant. Ne décrivez pas l'entraînement lorsque la question porte sur l'utilisation.
You've got it
- classification predicts a category, regression predicts a number; both are supervised, and the question's answer shape decides which
- linear regression fits $y = m_1x_1 + \ldots + c$ by minimising the sum of squared errors, so errors cannot cancel and large ones are penalised heavily
- curved data needs another model, but the recipe is unchanged: choose a model, define a loss, minimise it
- real products chain models: image recognition, OCR, translation and text-to-speech; training is many forward and backward passes, inference is one forward pass
Vous avez compris
- classification prédit une catégorie, régression prédit un nombre ; les deux sont supervisés, et la forme de la réponse de la question décide de laquelle
- régression linéaire ajuste $y = m_1x_1 + \ldots + c$ par minimisation de la somme des carrés des erreurs, afin que les erreurs ne puissent pas s'annuler et que les grandes soient lourdement pénalisées
- les données courbes nécessitent un autre modèle, mais la recette reste inchangée : choisissez un modèle, définissez une fonction de perte, minimisez-la
- les produits réels enchaînent des modèles : reconnaissance d'images, LCR, traduction et synthèse vocale ; l'entraînement est de nombreuses passes avant et arrière, l'inférence est une seule passe avant