Des ressources pédagogiques pour comprendre et faire comprendre l'IA

 

Pas facile d'expliquer et de faire comprendre les notions liées à l'IA. Les concepts, les algorithmes ...qui sont derrière le fonctionnement des IA génératives sont important à décrypter et comprendre pour comprendre leur fonctionnement et leurs limites.


J'ai regroupé dans ce billet toute une série de ressources qui proposent des contenus nous permettant de mieux faire comprendre l'IA.

➡Pour commencer une ressource non numérique, je viens de recevoir ce livre sur l'IA proposé par Didier Roy et Pierre Yves Oudeyer qui sont deux chercheurs de l'équipe Flower Inria France.
https://site.nathan.fr/livres/cest-pas-moi-cest-lia-pour-apprivoiser-lia-sans-tomber-dans-ses-pieges-des-10-ans-9782095035433.htmlr

Leur idée est de démystifier l'IA son histoire, son fonctionnement, son impact... Pour cela ils s'appuient sur des explications simples, illustrées de petits dessins et c'est très réussi.


➡Une infographie expliquant comment fonction ChatGPT de la requête à la réponse
https://miro.com/app/board/uXjVMAp7-zg=/?share_link_id=851063995468

➡Un simulateur de réseaux de Neurones

proposé par Nicholas Wolff

Avec les 3 exemples suivants

1️⃣  0 et 1
2️⃣  Tous les chiffres
3️⃣ Mode : déposer une image pour la faire identifier par un réseau neuronal

Ressource en ligne à proposer pour vos étudiants!
à consulter ici https://nn.nwolff.info/

➡ La cartographie des évolutions technologiques de la renaissance à nos jours

Classé par grandes familles suivantes

➡COMMUNICATION AND COMPUTATION

Communication devices,Interfaces, Communication infrastructure, Data organization, Algorithms, Models, Human computers,Hardware

Unconventional computing

➡ CONTROL AND CLASSIFICATION

Time, Education, Emotions and intelligence, Human bodies, Biometrics

Medical, Prison, Policing, Borders, Bureaucracy, Colonialism, Political and economic systems, Production, Energy and resources, Lithosphere, Atmosphere and hydrosphere, Biosphere, Astrosphere, Spatial representation, Architecture, Surveillance infrastructure, Military doctrine,

Military systems

➡ On peut utiliser cette ressource de plusieurs manières.

L'axe vertical représente le temps et l'axe horizontal aborde les différents systèmes. Il est possible suivre un thème, une période ou un ensemble d’idées dans n’importe quelle direction.

➡ C'est un travail de compilation monumental mené par Kate Crawford qui a aussi récemment publié "l'Atlas de l'IA"

https://calculatingempires.net/?pos=20760.63%2C8725.00%2C12.7873

➡ série de jeux à utiliser en classe pour faire prendre conscience des biais de l'IA

En fait la liste est longue:
🌟biais de représentativité,
🌟biais algorithmique,
🌟biais de confirmation,
🌟biais statistique,
🌟biais économique,
🌟biais intersectionnel ....

Proposés par Biljana Petreska von Ritter-Zahony ici https://mi.hepl.ch/projects/ia/ia.html

➡ une super ressource pour faire comprendre le fonctionnement des LLM :

🔧 Cette demo contient tous les composants du transformeur, notamment :
1-intégration
2-norme de couche
3-attention personnelle
4-projection
5-MLP
6-softmax
7-Réponse

🔬 La structure NanoGPT d'Andrej Karpathy qui comprend environ 85 000 paramètres.

📋 C'est clairement une très petite taille, Les GPT actuels sont entrainés sur des Milliards de paramètres.
Mais malgré tout cela est à la fois suffisamment complexe pour que l'on puisse visualise et suivre son fonctionnement, et pas trop gros pour faire planter nos ordinateurs.

📌 A noter que contrairement à chatgpt, ce projet est un système basic de prédiction qui pour cette démo est basé sur les caractères, ce qui signifie que chaque token est un caractère, et pour réduire la complexité, seules les lettres A/B/C sont tokenisées.

🔗 Source : https://bbycroft.net/llm