TD Inference

Author

Augustin Chevallier

1 Applications directes

1.1 Exercice 1: tenseurs

  1. Créer un tenseur de dimension 1 contenant les nombres de 1 à 10. Accéder au 3ème élément.
  2. Créer un tenseur de dimension 0. Accéder à l’élément. Quel est le résultat de .shape?
  3. Créer un tenseur 2 dimensionnel et extraire la première colonne.

1.2 Exercice 2: paramètres

Créer un modèle (sans fonction forward) comportant les paramètres suivants:

  1. Une matrice \(w_1\) de dimension \(1\times 20\) et un vecteur \(b_1\) de taille \(20\)
  2. Une matrice \(w_2\) de dimension \(20\times 20\) et un vecteur \(b_2\) de taille \(20\)
  3. Une matrice \(w_3\) de dimension \(20\times 1\) et un vecteur \(b_3\) de taille \(1\)

1.3 Exercice 3: forward / inférence

Reprendre le modèle de l’exercice 2. On considère le réseau de neurone suivant:

  • une première couche de poids \(w_1\) et biais \(b_1\), fonction d’activation RELU
  • une deuxième couche de poids \(w_2\) et biais \(b_2\), fonction d’activation RELU
  • une couche de sortie de poids \(w_3\) et biais \(b_3\), sans fonction d’activation
  1. Quelle est la dimension de l’espace de départ ? d’arrivée ?
  2. Écrire une fonction forward correspondante.
  3. Charger les paramètres du modèle du fichier model_TD1.pth disponible sur moodle.
  4. Évaluer le modèle sur une grille de \([-5,5]\). Reconnaissez-vous la fonction ?
Epoch [100/4000], Loss: 1.0932
Epoch [200/4000], Loss: 0.4226
Epoch [300/4000], Loss: 0.2430
Epoch [400/4000], Loss: 0.1657
Epoch [500/4000], Loss: 0.1383
Epoch [600/4000], Loss: 0.1254
Epoch [700/4000], Loss: 0.1174
Epoch [800/4000], Loss: 0.1122
Epoch [900/4000], Loss: 0.1082
Epoch [1000/4000], Loss: 0.1049
Epoch [1100/4000], Loss: 0.1023
Epoch [1200/4000], Loss: 0.1003
Epoch [1300/4000], Loss: 0.0986
Epoch [1400/4000], Loss: 0.0973
Epoch [1500/4000], Loss: 0.0962
Epoch [1600/4000], Loss: 0.0955
Epoch [1700/4000], Loss: 0.0947
Epoch [1800/4000], Loss: 0.0942
Epoch [1900/4000], Loss: 0.0939
Epoch [2000/4000], Loss: 0.0938
Epoch [2100/4000], Loss: 0.0932
Epoch [2200/4000], Loss: 0.1076
Epoch [2300/4000], Loss: 0.0928
Epoch [2400/4000], Loss: 0.0927
Epoch [2500/4000], Loss: 0.0926
Epoch [2600/4000], Loss: 0.0925
Epoch [2700/4000], Loss: 0.0924
Epoch [2800/4000], Loss: 0.0924
Epoch [2900/4000], Loss: 0.0924
Epoch [3000/4000], Loss: 0.0923
Epoch [3100/4000], Loss: 0.0923
Epoch [3200/4000], Loss: 0.0932
Epoch [3300/4000], Loss: 0.0922
Epoch [3400/4000], Loss: 0.0939
Epoch [3500/4000], Loss: 0.0922
Epoch [3600/4000], Loss: 0.0921
Epoch [3700/4000], Loss: 0.0964
Epoch [3800/4000], Loss: 0.0921
Epoch [3900/4000], Loss: 0.0921
Epoch [4000/4000], Loss: 0.0926
Modèle sauvegardé sous 'modele_sinus.pth'