La gourmandise des modèles d’IA actuels en matière d’énergie et de source de données les rend infiniment moins performant qu’un cerveau humain…

(Depuis plusieurs années, plus j’en apprends sur le fonctionnement de l’IA, plus j’ai l’impression que le cerveau humain (ou plutôt : l’humanité) ressemble à la version ultime vers laquelle vont tendre tous nos progrès en matière d’IA.

Réactions que je me suis empressé de coller dans une IA pour y peaufiner une liste améliorée. (Je note que j’ai spontanément parlé de l’IA comme d’un lieu où j’ai accompli une tâche, et non comme un outil qui a fait une tâche pour moi.)

Voici ma nouvelle réponse enrichie par l’intelligence collective ET par l’intelligence artificielle — à moins que ça soit l’inverse :

1. Impact écologique : La forte consommation énergétique des modèles d’IA inquiète de nombreuses personnes, soucieuses de limiter leur empreinte carbone.

2. Coût économique : Les outils d’IA nécessitent un investissement initial élevé, que beaucoup ne considèrent pas toujours rentable à court terme.

3. Conséquences sociales : L’IA est perçue comme une menace pour l’emploi, générant des craintes quant au remplacement de certaines professions.

4. Réticence au changement : Changer ses habitudes peut être difficile. Beaucoup préfèrent des méthodes éprouvées plutôt que de se lancer dans l’inconnu.

5. Attachement professionnel : Peur de perdre sa valeur ou de voir son métier dénaturé par l’automatisation croissante des tâches.

6. Utilité discutable : Les IA généralistes peuvent décevoir en produisant des résultats peu précis ou peu adaptés à des besoins spécifiques.

7. Dommages collatéraux : Les biais algorithmiques et les erreurs imprévisibles peuvent avoir des conséquences négatives difficiles à anticiper.

8. Complexité de l’apprentissage : Le choix parmi de nombreux outils, couplé à une UX souvent médiocre, décourage les utilisateurs moins technophiles.

9. Effet de mode : L’IA est parfois perçue comme une tendance éphémère, suscitant des doutes quant à sa pérennité.

10. Fiabilité limitée : Les utilisateurs sont souvent confrontés à des réponses imprécises ou incohérentes, diminuant leur confiance dans les outils.

11. Conflit de valeurs : Certains refusent d’adopter l’IA par crainte de soutenir des entreprises ou modèles économiques non éthiques.

12. Sécurité des données : La confidentialité des informations personnelles reste un sujet de préoccupation majeur pour les utilisateurs.

13. Données dispersées : L’absence d’accès à des données structurées limite l’efficacité des outils d’IA dans de nombreux cas d’usage.

Quand j’écris, mon carnet devient une sorte d’interlocuteur que je peux coacher. Le fait que ce soit mes propres pensées ne change rien : ce qui compte, c’est ce décalage entre moi, qui exprime la pensée brute, et moi, qui l’analyse et la clarifie. J’observe que cette démarche fonctionne que je le fasse pour moi ou pour quelqu’un d’autre.

Finalement, écrire, c’est me coacher moi-même. Et, réciproquement, quand je coache quelqu’un d’autre, je le pousse à décortiquer sa pensée aussi finement qu’il aurait pu le faire à l’écrit. Ce qui explique pourquoi l’immense majorité des gens à qui j’ai proposé de les coacher par écrit n’ont pas donné suite : s’ils étaient sensibles à l’écriture comme méthode de coaching, ils n’auraient peut-être pas besoin d’un coach.

En analysant son erreur, il se rend compte que deux choses l’ont influencé.

Premièrement, le seul livre dont il dispose sur son île est une Bible, dans laquelle il puise pour structurer et inspirer sa vie. Et il réalise que le récit de Noé préparant son arche pour accueillir les animaux l’a profondément marqué, au point de faire comme lui : construire un bateau au milieu de la forêt… en attendant que les eaux montent. Noé n’a jamais eu a déplacer son arche pour la mettre à l’eau, c’est l’eau qui est venu à lui. Cette source d’inspiration inconsciente lui a fait commettre son erreur.

Deuxièmement, la solitude de Robinson l’a empêché de prendre du recul sur sa tâche, qui a pourtant été bien longue. L’absence d’humains sur l’île l’a fait plonger dans une myopie mentale. Il réalise que le fait de ne pas avoir d’échanges avec d’autres personnes réduit la portée de ses réflexions, et aboutit à des actions absurdes, comme la construction d’un bateau immense à des kilomètres de la mer.

(…)

Cette histoire m’interpelle pour le lien entre focus et diversité. On pourrait ne retenir que l’erreur d’appréciation (bateau trop lourd, construit trop loin), mais ça serait passer à côté de deux belles choses : l’inspiration par la lecture et la concentration sur un projet. Peut-être que sans sa Bible, Robinson n’aurait eu ni l’idée, ni l’envie de construire ce bateau. En revanche, dans son élan, il a manqué d’une prise de recul. Prise de recul qui aurait probablement eu lieu s’il avait pu échanger avec d’autres personnes. On peut imaginer qu’il aurait suffi d’une seule remarque à Robinson pour qu’il prenne conscience de son erreur.

Cela met en évidence la tension qui peut exister sur la puissance et la limite du focus. Par définition, le focus met la lumière sur quelque chose, et éteint le reste. Or, si le reste contient des informations importantes, elles seraient ignorées. Mais, à l’inverse, plus on étend le spectre de ce que l’on met en lumière, plus l’intensité de cet éclairage est faible. Il y a donc un continuum de compromis à faire entre puissance du focus et risque de rater quelque chose.

On peut donc imaginer que le rôle de la diversité de regards est de parer aux effets de bords du focus. En confrontant plusieurs perspectives sur un projet, on maximise les chances de repérer une faille qui pourrait être fatale. Mais, en faisant ça, on favorise aussi l’émergence d’idées, de doutes, de directions possibles, de contradictions compliquées à démêler, etc. Et leur somme peut être si coûteuse mentalement qu’elle en conduit à l’inaction.

Il s’agit donc bien de trouver un équilibre.

(…)

Je réalise que c’est d’ailleurs le sens du proverbe : « Seul, on va vite. Ensemble, on va loin. »

Au passage, je remarque que ce proverbe est souvent utilisé pour démontrer la force du collectif, et non pour mettre en évidence le dilemme qui se pose à chacun d’entre nous : Seul, on va vite, mais on risque d’avoir à faire demi-tour. Ensemble, on va loin, mais terriblement lentement.

Selon les situations, il est parfois préférable d’aller vite seul que lentement ensemble. Et plutôt que de trancher sur un mode opératoire qui serait plus intéressant que l’autre, de manière binaire, on peut voir ces deux oppositions comme deux points extrêmes d’un spectre, avec de nombreux points intermédiaires entre les deux, illustrant des gradients de mix entre focus et diversité.

(…)

Quand j’ai rejoint une entreprise internationale, j’ai discuté avec une cinquantaine de personnes, en leur posant toujours les mêmes questions (inspiration The First 90 Days, une de mes Bibles professionnelles). L’une des questions étaient : « Quel est le plus grand risque que l’on sous-estime ? »

Une des personnes m’avait répondu « l’écriture de droite à gauche », m’expliquant que, le jour où nous aurions besoin de nous étendre dans des pays arabes, il faudrait complètement revoir l’intégralité de l’architecture du site, ce qui prendrait un temps fou.

Le rôle de cette personne ? Localization Manager. Autrement dit, une personne experte dans ce type de questions de langue. Et cette personne était profondément convaincue que ce risque était sérieux et réel. (En l’occurence, il n’y a jamais eu d’expansion dans des pays de langue arabe, et s’il y en avait eu, ce travail d’implémentation d’une écriture de droite à gauche aurait été un chantier réel, mais probablement pas le plus grand risque du projet.)

Je me souviens que cette observation m’avait interpellé, me rappelant à quel point l’expertise, l’obsession et le focus avaient des limites aveuglantes. Pour tout le monde, pas simplement pour cette personne, qui ne faisait qu’incarner momentanément ce biais.

(…)

Il y aurait de nombreux parallèle à faire avec les livrables FOCUSED :

- livrables courts qui s’assurent qu’on regarde bien la même chose (ce qui permet d’éviter qu’on ait l’impression d’être d’accord, alors qu’on met en réalité l’accent sur des détails différents d’un long document)

- damage control, qui permet d’identifier les angles morts du focus principal

- revue des livrables avec des gens aussi divers que possible

- etc.

A couple of weeks ago, he was with his older cousin, who became really good at chess, and wanted to play against everyone. So my son watched this new game being played in front of him, and he started to be intrigued. More than anything, the threat of saying « Check » seemed to be an exciting perspective.

He has been talking about chess since then, so yesterday, his birthday gift was a small chess board. On the box, it said: « Object of the game: Capture enough of your opponent’s chessmen to take your opponent’s king into a checkmate position. »

(…)

AlphaZero is the most advanced computer program to play chess. Instead of being taught chess through exposure of the thousands of games played by the best human chess masters, AlphaZero discovered chess from scratch, playing games against itself.

Today, AlphaZero can beat any human being at chess. To understand where his strategic strength comes from, an analysis of AlphaZero’s gameplay has been made. One major insight came up: it seems like, after doing all its analyses, AlphaZero is not obsessed about capturing opponent’s chessmen as much as the best human chess masters. The common wisdom about chess was that, the more chessmen you capture from your opponent, the easier it will be for you to corner his king into defeat. But, because AlphaZero didn’t learn chess from humans, it didn’t pick up this piece of wisdom. It just focused on the most effective way to win a game, as proven by millions of simulations. And, it turned out, capturing your opponent’s chessmen does not rank as high as human thought.

(…)

The fact that my son’s chess box used that incorrect piece of wisdom as a way to describe the purpose of chess is fascinating. It’s the perfect metaphor for so many situations: Offering advice to someone, framing a problem to be solved without hinting at a particular solution, wondering about the long-term damages of short-term thinking, giving a fish vs teaching out to fish vs showing the river, etc.

I attended the Paris HolonIQ « Future of Education and Workforce » Summit.

Here are the things that stuck with me:

- Scaling internationally seems to be particularly difficult for EdTech startups.

- Education market can be broken down into 4 parts: pre-K (0-4), K-12 (4-17), Higher education, Corporate training

- Asking for schools to pay for something seems very difficult.

- Only 3% of education market budget is spent on digital. Only the construction industry has a lower rate.

- We could imagine 5 trends for the future: Education doesn’t change much, Regional actors emerge, Global giants emerge, Peer-to-peer becomes the norm, Revolution through robots

- In 2018, the EdTech VC Deal Value was 8B$, of which 5B$ in China.

- Interesting business model: offer education for free, get paid through cut on salary. Called income-sharing.

- OpenClassRooms offers full refund of the course if you don’t get a job within 6 months. They can do it because a) they focus on skills in high demand, and b) they help students prepare their job seeking phase.

- K12 seems impossible to get in, you have to sell to parents or get sponsored by companies that want to access that audience (eg banks). It’s possible to do pilots, but very hard to scale after.

- Higher education is getting a bit easier to get in.

- Corporate training is where the money is.

- ProNote is seeing a massive adoption in French collèges.

- Today, an average school in France benefits from zero innovation. The digital is increasing the social gap, because of digital literacy differences.

- PISA study, run by OCDE, seems to have become the standard international evaluation. 2018 report just came out.

- 42 programming school is based on radical choices: a) No teachers, just exposing students to problems they need to solve, b) Peer learning, even for individual exams, c) Inspiration from video games: you fail a project = you start again, you pass a project = you unlock more projects, d) soft skills are more important than hard content which will become obsolete more quickly, e) Putting effort in transferring knowledge is irrelevant because the knowledge is already available, and at work you are always in the situation of having to find and filter the knowledge needed

- For kids born after 2000 and grew up with mobile phones, it’s weird to arrive in university and discover non-digitized campuses.

- In Europe, after-school class happens when you’re failing. In China, parents compete on how much they will spend on it.

- Problem to solve: how do you personalize learning when you have a class of 25 kids?

- Paradox: by definition, teachers are former good students. They don’t know what failing feels like.

- Trend: mid-life crisis entrepreneurs: working adults who see their kids going to school, which triggers their desire to have an impact on it.

- Trend: just-in-time learning, instead of learning things years in advance.

- Topics that investors would invest in: Tutoring, Peer-to-peer coaching, Up-skilling

- The trap everyone falls into is to obsess about students. Helping teachers seems much more sustainable.

- In Europe, there’s too many tiny startups. Dominance or aggregation will be necessary.

- Artificial Intelligence will not replace but augment the teacher. For example by helping personalize homework, or by automating tasks that can be, so teachers can focus on the remaining ones.

- Artificial Intelligence recommendations need explanation in order to be followed. Example: Revise this course because you are about to forget it.

- EduVoices is helping teachers try new approaches, one step at a time. Based on local communities.

- Robots won’t teach anything, but they can be rich media between the physical world and the computer. You can touch, talk, move a robot. Pilot happening in Nogent, with La Main à la Pâte. Interactions between robots and kids/elderlies seem easier than with adults.

- Great app: Lalilo, to help educators teach primary school students to read

(…)

Il y a quelques semaines, pour la première fois, j’ai marché sur un glacier. Juste avant, j’ai dû enfiler des crampons d’alpinisme, qui s’accrochent sous la chaussure.

Le guide donnait ses instructions au groupe pour s’équiper. « Pour reconnaitre le crampon droit du crampon gauche : les sangles qui pendouillent doivent être du côté des oreilles ». En une phrase, il réglait d’un coup le problème de 10 personnes. Chacune pouvait repérer quel crampon se mettait à quel pied. Il restait des dizaines de questions, mais celle-là était adressée. Apprendre à pêcher, plutôt que donner un poisson.

(…)

Hier, j’ai réfléchi à une astuce similaire pour mes enfants. « Les scratchs de vos chaussures doivent se toucher avant que vous les enfiliez. »

Ce matin, mon fils a fait toucher ses scratchs, puis a enfilé ses chaussures, sans rien me demander.