IA & Hermann Rorschach
-
Vous mélangez un peu tout.
Pour situer je ne suis pas ingénieur/technicien et je ne parle ici que de technologie algorithmique.
Les LLM et l'IA ne se nourrissent pas de ce qu'on peut bien leur dire et leur raconter. Elles se nourrissent de tout internet tout simplement. C'est déjà assez vertigineux et effrayant comme ça.
Vous conviendrez que ça revient au même, ce qui était écrit dans l' encyclopédie Universalis se retrouve sur Wikipedia. Les IA se nourrissent ? Si on veut mais en 2004 ce sont les patrons de Google qui ont décidé de numériser toute la littérature du monde (dont une partie conséquente soumise aux droits d' auteur piétinés au nom de la circulation libre de la connaissance - libre et Google - une erreur s' est glissée dans cette image ... ), pas leurs algos.
"Ca va être chaud pour un individu après tous ces profs et ces amis numériques patients d' affronter le caractère parfois chaotique, changeant, injuste et arbitraire des représentants de sa propre espèce non ?"
Sauf que là, on ne parle de l'extrême qui consisterait à ne se fier qu'à ce type d'outils. On parle d'applications concrètes et ponctuelles.
Votre point de vue, comme celui de Funge me fait penser à celui des "pharmaciens", les personnes qui ont adopté la pensée de Bernard Stiegler et son idée de "pharmakon" quant aux algos ou plus largement au numérique.
L' idée qu' un poison est aussi un remède.
Je partage cette idée cependant ça parait bien naïf de penser que cette technologie et ses bienfaits potentiels ne seront pas accompagnés de la privation de toute liberté dans les populations.
Ensuite c' est une question de valeurs, qui aimerait vivre en sécurité (du moins dans sa parfaite illusion rassurante) mais sous contrôle total ? Probablement beaucoup de monde non ? -
@Dave2000 a dit dans IA & Hermann Rorschach :
Si on veut mais en 2004 ce sont les patrons de Google qui ont décidé de numériser toute la littérature du monde
C'est même pire que ça en vrai. Ce genre de boite s'est même servi de plateforme semi-légales comme Z-lib pour récupérer de la donnée en masse.
Et quand on voit comment, à quelques années d'écart, le gouvernement des USA est allé emmerder Aaron Swartz (jusqu'à le pousser au suicide) pour quelques Go de données, c'est juste absurde."Je partage cette idée cependant ça parait bien naïf de penser que cette technologie et ses bienfaits potentiels ne seront pas accompagnés de la privation de toute liberté dans les populations."
Pour moi, ça c'est vraiment une question très différente. C'est la continuité de la question précédente, mais c'est pas du même ordre pour autant. Pour faire une analogie : quand Volta, Von Kleist, Tesla et bien d'autres bossent sur l'électricité, ils ne se doutent pas (et ne pourraient même pas imaginer) que leur recherche serait les briques fondatrices de ce qu'on va retrouver dans les tasers des flics qui électrisent des gens à tout va.
Eux, ils bossent sur l'électricité, ils imaginent des applications et in fine, on finit par créer des tasers. Mais leur recherche initiale, elle est dénuée de malice et de volonté de contrôle de qui que ce soit.Il en va un peu de même pour les LLM et l'IA. Je suis le premier opposé à la reconnaissance algorithmique et aux diverses conneries sécuritaires qui émergent un peu partout. Pour autant, le problème c'est pas l'outil, c'est ce qu'on en fait.
-
Je ne savais pas pour Google et Z-lib, décidemment d' immenses démocrates et gardiens de la connaissance.
Sinon j' entends l' argument, ce n' est pas Einstein qui a mis au point la bombe atomique mais le projet Manhattan dirigé par Bob Oppenheimer à Los Alamos qui s' est servi de la relativité générale pour fabriquer Big boy et Fat man avant d' éradiquer Hiroshima et Nagasaki. Ensuite il y a la "bonne utilisation", les centrales ! Avec au milieu Tchernobyl, Fukushima et des centaines d' autres réacteurs sur le point de rendre l' âme et que personne ne souhaite démanteler car il n' y a pas beaucoup de profit à générer en échange du traitement de millions de tonnes de béton irradié ...
Cela dit que ce soit l' atome ou l' algo, les deux technologies ont un pouvoir de destruction intrinsèque phénoménal et jusqu' à preuve du contraire, tout pouvoir qui s' est trouvé dans les mains de l' espèce sapiens a été utilisé. En d' autres termes, la pomme est livrée avec le ver et la "sagesse" et le "libre arbitre" de l' humanité ne sont rien en regard du pouvoir démesuré que procurent ces technologies et de l' avidité pour ce pouvoir qui anime certain(e)s représentant(e)s dirigeants de l' espèce.
Pour terminer j' espère que vous avez raison, que Bernard Stiegler a raison lui aussi mais sincèrement je ne le sens pas du tout.
-
@Dave2000
Sans aller à parler de l'atome et de la bombe etc. On peut aussi tout simplement parler du feu.
Au quotidien, les gens s'en servent surtout pour faire cuire des nouilles sur leur gazinière et se chauffer les miches en hiver et non pas pour fabriquer des bombes incendiaires. Bon exemple de l'utilisation d'une technologie qui a un potentiel destructeur énorme mais qui est davantage utilisé pour son confort que pouraller cramer la tête de ceux qui nous reviennent pas.
-
@Dave2000 Ce n'est ni un poison ni un remède. Le bien, le mal, c'est bien pour éduquer les enfants. D'ailleurs la fille de Stiegler explique souvent, comment le Monde se développe vers toutes les directions, même les plus contradictoires.
-
"Edison est allé jusqu'à rassembler des animaux errants et à utiliser le courant alternatif pour les électrocuter devant des journalistes afin de démontrer que le courant alternatif était plus dangereux que le courant continu."
Pourquoi Thomas Edison a-t-il électrocuté un éléphant ?Electrocuting an Elephant (Électrocuter un Éléphant) est un court-métrage américain muet de Thomas Edison, sorti en 1903, durant 74 secondes.
Electrocuting an Elephant'It was the one great mistake in my life': The letter from Einstein that ushered in the age of the atomic bomb
On 2 August 1939, Albert Einstein wrote to the US President Franklin D Roosevelt -
Edison était un immense tas de merde. Un requin qui a passé sa vie entière à s'accaparer les inventions d'autrui et à se répandre en procès pour gratter du pognon. Cela ne veut pas dire qu'il n'a rien inventé bien sûr, mais c'était vraiment un sale type.
-
@L-Homme-Armé a dit dans IA & Hermann Rorschach :
@Dave2000
Sans aller à parler de l'atome et de la bombe etc. On peut aussi tout simplement parler du feu.
Au quotidien, les gens s'en servent surtout pour faire cuire des nouilles sur leur gazinière et se chauffer les miches en hiver et non pas pour fabriquer des bombes incendiaires. Bon exemple de l'utilisation d'une technologie qui a un potentiel destructeur énorme mais qui est davantage utilisé pour son confort que pouraller cramer la tête de ceux qui nous reviennent pas.
L' exemple du feu parait fallacieusement confortable pour ce type d' argumentaire car il n' est pas une invention des sapiens qui l' ont juste domestiqué ce qui est loin d' être le cas de l' algorithme qui est une invention.
C' est séduisant (et rassurant) mais très à côté de la plaque de comparer un phénomène naturel bien antérieur à l' espèce à une pure invention humaine comme l' algorithme (Ada Lovelace pour le premier algo au XIXeme je crois ? Le premier feu ? Il faudra demander à la foudre mais c' était bien avant la période victorienne pour sûr et sans aucune intervention de l' humain qui n' existait tout simplement pas).
Parler du feu nucléaire en parallèle de l' algo en tant que puissances intrinsèquement dévastatrices me parait plus pertinent que d' évoquer la famille Dupont et son cassoulet mitonné sur un réchaud de camping.
En même temps ça permet de mieux dormir j' imagine ! -
@Dave2000
On peut prendre une autre invention et ne rien changer au propos : la production de l'électricité par exemple.
Oui, l'électricité est présente dans la nature mais ne peut pas être domestiquée (on ne peut pas farmer des éclairs et maintenir un "foyer électrique" comme on le fait pour le feu). Pour produire de l'électricité et la plier à nos besoins, il a fallu un ensemble d'invention de technologies toutes plus complexes les unes que les autres (parce que oui, faire une dynamo from scratch, c'est pas du tout facile, faire des transformateurs, des tubes rectifieurs, des semiconducteurs c'est encore un autre enjeu). C'est d'ailleurs quelque chose d'assez récent à l'échelle des sociétés humaines.
Et cette maitrise de ces technologies que l'on utilise au quotidien c'est à la fois : le chauffage de nos appartements ET les tasers des flics, la circulation des idées grâce à l'informatique ET les clotures électriques qui empêchent des gens de circuler librement, des progrès médicaux stupéfiants ET la torture à l'électricité. On pourrait multiplier les exemples à l'infini.
On peut se servir d'un couteau pour couper des carottes ou couper des têtes. Et bien pour l'IA c'est pareil, on peut faire beaucoup de mal avec et on pourra, je n'en doute pas, produire des choses intéressantes.
-
@Dave2000 oui la comparaison est toujours discutable, mais je pense que par exemple, même les mathématiques et la logique préexistaient avant nous. Non pas les langages qu'on a convenu pour les décrire, mais les objets qu'ils décrivent. Donc on n'invente jamais vraiment rien, on découvre, on domestique.
L'enjeux c'est bien de domestiquer la tech, pas de domestiquer les hommes, personne dira le contraire ici.
Mais ceux qui domestiquent les hommes à travers la tech ne sont pas des robots ce sont bien des capitalistes.
Si on domestique ceux là on domestiquera leur tech aussi. -
« Qualifierez vous amazon meta et google de société de surveillance ?
Oui et Microsoft aussi »
Chercheuse en intelligence artificielle -
-
Silicon Fucking Valley (3/6) - La loi du plus fort - Regarder le documentaire complet | ARTE
Pour révéler l'envers des GAFAM, Luc Julia part à la rencontre de Jean-Louis Gassée, ex-patron d’Apple France. Et Adam Cheyer, co-créateur de Siri, revient sur son bras de fer avec Steve Jobs qui voulait racheter cette invention à tout prix, tandis que Meredith Whittaker, une ancienne de Google, nous raconte comment elle est devenue l'ennemie jurée des GAFAM.
ARTE (www.arte.tv)
-
-
Article écrit en partie par la chercheuse du doc au dessus MEREDITH WHITTAKER
-
-
Le titre de l’ouvrage annonce d’emblée la position de l’expert. Luc Julia conteste l’appellation communément admise de l’intelligence artificielle, attribuée au mathématicien John McCarthy, qui l’a utilisée pour la première fois au cours de la conférence de Dartmouth (1956) sur la théorie des automates. « Tout est parti d’un immense malentendu », affirme M. Julia. Les scientifiques « se sont mis à penser qu’ils pouvaient recréer dans des machines les mécanismes du cerveau humain ». Luc Julia dénonce « une vaste fumisterie ».
« Les résultats du groupe de travail ont été bien loin des ambitions affichées, [...] ils n’ont en rien déterminé les étapes pour simuler l’intelligence », estime-t-il. D’ailleurs, il préfère l’expression « intelligence augmentée ».
-
Sept posts à la suite !!
Malheureusement on ne gagne pas d' encyclopédie Larousse.
@Judex-Franju Tu voulais parler de quoi ? Du marketing qui consiste à appeler un algo une IA ? Ou des différents types d' algorithmes ?
De Microsoft, Google et du capitalisme de surveillance ? -
-
Oui de tout ça , voir les liens…
