La Bienveillance des machines...

Les éditions du Seuil viennent de publier un essai de Pierre Cassou-Noguès intitulé La Bienveillance des machines - Comment le numérique nous transforme à notre insu. Professeur de philosophie à l'université Paris-VIII, Pierre Cassou-Noguès est notamment l'auteur de Virusland (Cerf, 2020).

 

" Des applications qui déterminent notre humeur, des robots humanoïdes qui s’adaptent à notre comportement, des caméras qui devinent nos gestes, ces technologies nous surveillent pour notre bien : elles sont bien-veillantes. Faudrait-il croire, contre l’idée répandue d’une intelligence artificielle hostile, et qui un jour pourrait prendre le pouvoir, à une bienveillance des machines, toutes organisées autour de nous pour notre plus grand bonheur ? Ou bien l’existence d’un « règne des machines », qui pourraient prendre soin des humains, nous affecte-t-elle au point que notre identité humaine en soit bouleversée ? C’est par le biais des fictions que nous imaginons pour habiter de nouvelles formes de vie que Pierre Cassou-Noguès explore notre rapport à la technologie contemporaine. Car si celle-ci transforme notre environnement matériel, elle chamboule aussi le contenu de nos pensées, de nos émotions, jusqu’aux dimensions les plus intimes de nos subjectivités. Ainsi la philosophie peut-elle analyser à la fois ces nouvelles réalités et les possibilités qu’elles promettent, pour le meilleur comme pour le pire. "

Le mirage numérique...

Les éditions Les prairies ordinaires viennent de publier un essai de Evgeny Morozov intitulé Le mirage numérique - Pour une politique des big data. Chercheur et essayiste, Evgeny Morozov étudie les conséquences sociales et politiques des nouvelles technologies. Il est l'auteur de Pour tout résoudre, cliquez ici (Fyp, 2015).

 

" Avec l'Internet des objets et les big data, qui reposent sur la collecte et le partage de données en temps réel, une poignée d'entreprises californiennes promet de nous offrir abondance, prospérité, émancipation. Mais à quel prix ? L'affaire Snowden, qui a révélé le système de surveillance planétaire mis en place par le gouvernement américain avec la complicité de la Silicon Valley, ne fut en réalité qu'un symptôme.

Dans ce livre incisif, Evgeny Morozov nous invite à résister à ce qu'il appelle le "solutionnisme", croyance largement partagée, des hackers aux makers, en passant bien sûr par les couloirs de la Maison blanche : la tendance à voir dans la technologie numérique une panacée universelle, qui résoudra tous nos problèmes, des plus banals (trouver un restaurant) aux plus complexes (éradiquer la pauvreté et les inégalités). Les services de renseignement furent pionniers dans ce domaine : se désintéressant des racines historiques et politiques du terrorisme, ils le traitèrent comme un simple problème d'identification de suspects et de récolte d'informations en continu. Surtout, du renseignement à la vie quotidienne - et retour ! -, un nouveau système de gouvernance s'installe : la "régulation algorithmique", qui menace, plus que notre vie privée, nos libertés mêmes. A-t-on encore besoin de lois quand on dispose de capteurs numériques qui analysent notre comportement ? Et, tandis que l'"informationnalisation" de la société rend l'individu totalement transparent, l'Etat et les multinationales sont quant à eux libres de poursuivre tranquillement leurs desseins, dans la plus grande opacité. Contrairement à ce que certains prédisaient, les nouvelles technologies n'ont altéré ni les rapports de pouvoir ni la concentration au sein du système capitaliste : elles pourraient même, à brève échéance, les renforcer. La technologie est donc devenue une affaire beaucoup trop grave pour être laissée aux informaticiens, aux entrepreneurs et aux gouvernants. "