>>> « Decisions made by algorithms must be justified » <<>> « Il faut justifier les décisions prises par un algorithme » <<<
Isabelle Bloch / Professor at Sorbonne University (Chair in Artificial Intelligence)

(article written by Sophy Caulier, Independant journalist, On December 1st, 2021)

KEY TAKEAWAYS :

1) Symbolic AI is based on certain rules, which reproduce human reasoning. This approach is said to be “inherently explainable”, with a few exceptions.
2) Statistical approaches to AI rely on statistical learning methods; it is difficult to extract and express the rules of what its neural networks do.
3) The need for explainability comes from different issues around trust, ethics, responsibility, and also possibly economic issues.
4) Hybrid AI can address this problem by combining several AI approaches. It combines knowledge and data, symbolic AI and neural networks, logic, and learning.
5) But, whatever the approach, the role of the human being remains essential, and it will always be necessary to justify the decisions made by an algorithm.

Source = https://www.polytechnique-insights.com/en/braincamps/science/what-are-the-next-challenges-for-ai/decisions-made-by-algorithms-must-be-justified/
………………………………………………………
En sa version française :
Source = https://www.polytechnique-insights.com/dossiers/science/les-nouveaux-enjeux-de-lia/il-faut-justifier-les-decisions-prises-par-un-algorithme/

EN BREF :

1) L’IA symbolique se base sur des règles et reproduit le raisonnement humain. Cette approche est dite « explicable par essence », à quelques exceptions près.
2) Les approches statistiques de l’IA s’appuient sur des méthodes d’apprentissage statistique. Il est difficile d’extraire et d’exprimer les règles de ce que font ses réseaux de neurones.
3) Le besoin d’explicabilité provient de différents enjeux, il y a des enjeux de confiance, d’éthique, de responsabilité, et éventuellement des enjeux économiques.
4) L’IA hybride peut remédier à ce problème en associant plusieurs approches de l’IA. Elle combine connaissances et données, IA symbolique et réseaux de neurones, logique et apprentissage.
5) Mais, quelles que soient les approches, la place de l’humain reste primordiale et il faudra toujours justifier les décisions prises par un algorithme.
………………………………………………………

Dans l’article « Transient Responses of a Coupled Ocean–Atmosphere Model to Gradual Changes of Atmospheric CO2. Part I. Annual Mean Response », Manabe utilise une valeur de la TSI = 1353 W/m² .
Voir https://doi.org/10.1175/1520-0442(1991)0042.0.CO;2
S Manabe, MJ Spelman, RJ Stouffer – Journal of Climate, 1992 – journals.ametsoc.org introduction, page 786 :
« The Solar constant is assumed to be 1353 W/m² »

Les mesures par satellites ont permis des progrès dans la connaissance des flux d’énergie entrant et sortant du système Terre/atmosphère : pour la TSI (constante solaire), les meilleures estimations actuelles sont de l’ordre de 1361 à 1362 W/m². https://spot.colorado.edu/~koppg/TSI/

On peut donc noter un écart ≥ 8 W/m² entre l’estimation actuelle de la TSI et la valeur utilisée dans ce modèle de Manabe.

Merci pour ce rappel intéressant concernant l’article de Manabe et Wetherald en 1975. Notez aussi que François Gervais, dans son livre « L’urgence climatique est un leurre » montre que les modèles de Manabe ne marchent pas bien pour prédire la température de la basse stratosphère.

An attempt is made to estimate the temperature changes resulting from doubling the present CO2 concentration by the use of a simplified three-dimensional general circulation model. This model contains the following simplications: a limited computational domain, an idealized topography, no beat transport by ocean currents, and fixed cloudiness. Despite these limitations, the results from this computation yield some indication of how the increase of CO2 concentration may affect the distribution of temperature in the atmosphere. It is shown that the CO2 increase raises the temperature of the model troposphere, whereas it lowers that of the model stratosphere. The tropospheric warming is somewhat larger than that expected from a radiative-convective equilibrium model. In particular, the increase of surface temperature in higher latitudes is magnified due to the recession of the snow boundary and the thermal stability of the lower troposphere which limits convective beating to the lowest layer. It is also shown that the doubling of carbon dioxide significantly increases the intensity of the hydrologic cycle of the model.

il me semble difficile d’admettre que le même modèle peut faire abstraction du couvert nuageux et en même temps démontrer que le doublement du CO2 augmente l’intensité du cycle hydrologique; visiblement la notion d’albédo des nuages passait au-dessus de tête de Manabe

De même je ne peux concevoir un modèle qui fait abstraction du transport de chaleur par les courants océaniques qui sont à égalité avec le transfert atmosphérique; visiblement Manabe ignorait l’existence du Gulf Stream
Mais c’est vrai qu’en 45 ans la connaissance et les prévisions à court terme de la météorologie ont progressé , celles de la climatologie , je ne pense pas ou très peu

Au-delà de ça, ça reste des outils sur lesquels il est possible d’étudier mais certainement pas des outils sur lesquels appuyer des politiques ahurissantes.

Même les modèles météo se vautrent (voir l’été chaud et sec de cette année), même si Météo France a choisi dans les divers scénarios proposés par les modèles le plus probables à arriver. On voit donc la limite.

Et en effet, mélanger des mathématiques de de la physique, voila qui est cocasse.