R3Z0.net

Charbel-Raphaël Ségerie

Directeur exécutif du Centre pour la sécurité de l'IA (CeSIA)

Charbel-Raphaël Ségerie est directeur exécutif du Centre pour la sécurité de l'IA (CeSIA) à Paris, où il dirige la recherche et l'enseignement sur la sécurité de l'IA. Il enseigne également la sécurité de l'IA à l'École Normale Supérieure. Son travail se concentre sur l’identification des risques émergents dans l’intelligence artificielle, l’amélioration des méthodes de sécurité actuelles telles que le RLHF et l’interprétabilité, et l’avancement des approches d’IA sûres dès la conception.

« Les géants de l'IA masquent les coûts et les dommages de leur développement technologique »

Dans son livre Empire of AI : Dreams and Nightmares in Sam Altman’s Open AI, la journaliste Karen Hao, qui enquête sur OpenAI depuis 2019, lève le voile sur le face cachée d’une industrie qui reproduit des mécanismes impérialistes pour imposer une vision de l’intelligence artificielle néocoloniale. Entretien. 

(usbeketrica.com)

Pensez-vous, à l’image du philosophe Luciano Floridi, que l’IA est une bulle prête à éclater ?

KAREN HAO
Il s’agit évidemment d’une bulle. Difficile de dire si elle va éclater immédiatement ou plus tard, car ces entreprises et leurs dirigeants sont tellement doués pour la perpétuer qu’ils pourraient la maintenir un peu plus longtemps. Mais ce qui est sûr, c’est qu’elle est extrêmement fragile. Tout comme les empires coloniaux, les fondations des empires de l’IA donnent l’impression que leurs activités sont inévitables et qu’il faut renoncer complètement à son pouvoir face à eux. Mais si les gens cessaient de leur fournir leurs données, si on arrêtait d’autoriser la construction de centres de données dans leur communauté, si les investisseurs cessaient tout simplement de financer ces entreprises, tout cet empire s’éroderait très rapidement.

« Les géants de l'IA masquent les coûts et les dommages de leur développement technologique »

Dans son livre Empire of AI : Dreams and Nightmares in Sam Altman’s Open AI, la journaliste Karen Hao, qui enquête sur OpenAI depuis 2019, lève le voile sur le face cachée d’une industrie qui reproduit des mécanismes impérialistes pour imposer une vision de l’intelligence artificielle néocoloniale. Entretien. 

(usbeketrica.com)

D’après vous, l’entreprise OpenAI est représentative d’un nouvel « ordre mondial colonial », celui du « colonialisme des données ». Qu’entendez-vous par là ?
KAREN HAO
L’histoire du colonialisme européen nous apprend que les empires d’autrefois avaient plusieurs caractéristiques. D’abord, ils s’appropriaient beaucoup de ressources qui ne leur appartenaient pas, mais ils créaient des règles pour faire comme si elles leur appartenaient. Ils exploitaient beaucoup de main-d’œuvre à travers le monde, soit sans la payer, soit en la payant très peu. Ils étaient aussi en concurrence les uns avec les autres, et ils se disputaient sur des critères moraux pour savoir qui avait la version la plus bénéfique pour le futur de l’humanité.

Enfin, tous ces empires avaient aussi une mission civilisatrice. Ils justifiaient cette extraction de ressources et cette exploitation de la main-d’œuvre au nom de l’idée que cela profiterait à tout le monde, ferait avancer l’humanité vers la modernité et apporterait le progrès à tous. Mais au final, cet ordre mondial était surtout conçu pour accumuler toujours plus de richesse, de pouvoir et de ressources au sommet, en laissant les autres pays appauvris, avec une main-d’œuvre incapable de contribuer à leur propre économie.

Aujourd’hui, on voit les « empires de l’IA » reproduire des logiques similaires. Ils s’approprient des ressources qui ne leur appartiennent pas. Cela inclut les données des personnes qui publient chaque jour en ligne, sans jamais avoir eu l’intention que leurs publications servent à entraîner des modèles d’IA. Cela inclut le travail des artistes qui croyaient que leurs droits de propriété intellectuelle les protégeraient contre cet usage. Et ces grands acteurs de l’IA, dont OpenAI est la tête de proue, essaient aussi de redéfinir les règles pour faire croire que ces ressources leur ont toujours appartenu.

KAREN HAO
J’espère que lorsque les usagers prendrons conscience que la voie prise par la Silicon Valley est vraiment moralement préjudiciable, nous développerons des outils alternatifs qui n’engendrent pas autant de dommages sur le plan du travail, social et économique.

Ces entreprises sont très persuasives pour convaincre les gens d’entrer dans ce marché de dupes où ils abandonnent tout dans l’espoir d’obtenir quelque chose en retour dans le futur, comme par exemple guérir le cancer, ce à quoi tout le monde a envie de croire. Elles vont continuer à utiliser ces récits pour contrôler et masquer les coûts et les dommages continus de leur développement technologique

Algorithmes : « Les laissés pour compte sont toujours les mêmes »

Entretien avec le journaliste Hubert Guillaud qui, dans son nouvel essai Les algorithmes contre la société (éd. La Fabrique, 2025), dénonce l'opacité et les défaillances des systèmes de calcul qui occupent une place de plus en plus importante dans nos vies.

(usbeketrica.com)

Entretien avec le journaliste Hubert Guillaud qui, dans son nouvel essai Les algorithmes contre la société (éd. La Fabrique, 2025), dénonce l’opacité et les défaillances des systèmes de calcul qui occupent une place de plus en plus importante dans nos vies.

@baboost
Merde je suis démasqué !

L'Amour sous algorithme : la face bien cachée de Tinder - Citazine

Critique livre - Interview Judith Duportail pour L'Amour sous algorithme qui cherche à comprendre comment l'application Tinder utilise nos données privées

Citazine (www.citazine.fr)

La question c’est pourquoi Tinder se présente publiquement comme une entreprise progressiste — elle prend part le 8 mars au défilé pour les droits des femmes, fait des campagnes en faveur de l’égalité salariale, assure que tout le monde est égal sur Tinder — et derrière, lorsqu’on a accès à des documents écrits de leur propre main qui décrivent leurs entrailles, on découvre un tout autre système de valeur ? En public ils sont progressistes mais en privé ils défendent des valeurs pour le moins traditionnelles.

Le problème de l’opacité est en effet immense ainsi que le manque de cohérence entre l’image publique et les documents privés. Si tu savais au moins… Par exemple, si tu te connectes à une application qui te dit « voilà, ici c’est Vieillefrance.com » tu sais que tu vas être mis en relation sur des critères traditionnels et plutôt sexistes et bien OK. Au moins tu consens, c’est ton libre choix. Là, c’est sûr, on n’a aucune idée de comment ça se passe, c’est ça le plus grand problème.

Tinder célèbre le concept du « qui se ressemble s’assemble » sans aucune ambiguïté. « Les personnes ayant le même niveau d’attractivité sont plus susceptibles de s’entendre » assène le brevet. Les moches avec les moches, les beaux avec les beaux et l’algorithme secret sera bien gardé. Après tout, l’application ne fait que reproduire ce qui est constaté dans la « vraie vie » et donne aux utilisateurs ce qu’ils veulent. Le succès de l’application en est la preuve. Mais à vouloir flatter nos réflexes les plus basiques, l’application ne se vautre-t-elle pas dans un sexisme dérangeant ?
Sur des sites de rencontre comme AdopteUnMec, par exemple, qui a une communication très « girl power », le principe c’est gratuit pour les femmes et les hommes doivent payer pour y avoir accès. Au moins sur Tinder c’est plus égalitaire car les hommes comme les femmes doivent payer non ?

Oui AdopteUnMec c’est scandaleux parce que c’est l’inverse du féminisme : le site présente la femme comme poussant le caddie alors qu’au final elle est le produit. En effet, Tinder propose aux hommes et aux femmes de payer mais ce que disent les spécialistes c’est que ce sont encore majoritairement les hommes qui paient pour avoir accès aux femmes et le profil de ceux qui ne paient pas est beaucoup moins montré aux femmes

https://www.marianne.net/societe/tinder-c-est-pire-qu-une-uberisation-de-l-amour
La promesse de Tinder, c’est de rencontrer une personne de la même manière que l’on commande une pizza ou un Uber. Ils ne vous disent pas que vous pouvez consommer les gens mais l’application empreinte tous les codes du gaming et du casino. Elle donne l’impression de ne jamais être réellement dans la vraie vie

Les autres sont rapidement perçus comme des objets et la sociologue Eva Illouz explique qu’on en arrive à se considérer nous-mêmes comme des objets. J’en ai moi-même eu l’expérience, que je raconte dans le livre. Je suis tombée amoureuse d’un mec qui m'a dit : "Je continue d’aller sur Tinder, parce que je suis tenté de voir s’il n’y a pas mieux en rayon". J’ai eu envie de lui crier dessus, de lui demander s’il me prend pour une boîte de conserve. Mais je ne l'ai pas fait car à ce moment, j'ai passé en revue dans ma tête toutes les autres femmes que j’imaginais sur Tinder. Comme je suis complexée, je les ai toutes imaginées parfaites et mieux que moi. Donc je me suis écrasée. Je pense que nous développons de plus en plus ce type de comportement. Car la concurrence est de plus en plus exacerbée.

Est-ce que ce n’est pas plus simplement le symptôme d’une société où on nous fait croire que nous serons les meilleurs, riches, célèbres ? Ne sommes-nous pas juste devenus des consommateurs compulsifs ?

Si, Tinder est une incarnation de cette dynamique. Nous y retrouvons cet individualisme forcené. Pour défendre son intérêt, toutes les indélicatesses sont possibles. La culture du dating est très agressive. Sous couvert de rester casual, légers, nous pouvons nous permettre toutes sortes de cruautés. Pour tenter de trouver le meilleur ou la meilleure partenaire, les autres sont traités comme des moyens et non des fins. Les deux phénomènes vont de pair.

Diriez-vous que Tinder représente l’"ubérisation de l’amour" ?

La formule est sympathique. Elle en jette. Mais c’est encore pire... Dans mon livre, je parle de ma colocataire qui se prépare pour un date Tinder avec lequel elle discute depuis des semaines. Ils ont échangé énormément de messages jusque-là. Et pourtant, il la plante et cesse de lui répondre. Il n’a même pas le respect de le lui dire. Ensuite, il la bloque ! Au moins, quand vous annulez un Uber, il y a une pénalité de cinq euros à payer.

@Deno de rien

Dans notre culture et dans la société contemporaine, l'idée de contrôle est centrale et l'illusion semble être que tout peut être contrôlé. Nous nous efforçons constamment d'exercer le plus de contrôle possible et ressentons souvent le poids de cette fatigue, ce n'est pas un hasard si le stress est l'un des mots les plus utilisés aujourd'hui. La chimère du contrôle absolu est poursuivie, élevant la pensée rationnelle à un seul instrument de connaissance, plutôt que d'apprendre à gérer la part d'incertitude présente dans tout phénomène. Le plus haut niveau de contrôle, comme le rappelle Giorgio Nardone, est atteint lorsque l'on est capable de passer en douceur entre relâchement et reprise de contrôle, comme le font les champions de chaque discipline.

Au lieu de s'accrocher rigidement à l'illusion du contrôle absolu, il convient d'apprendre à danser avec souplesse entre certitude et incertitude, entre raison et émotion, en acceptant les frontières floues et les contradictions et en se rappelant que, comme l'écrivait Nietzsche, "tout ce qui est absolu appartient à la pathologie "

@Dave2000 et oui contrôle
https://www.centroditerapiastrategica.com/fr/la-dimensione-del-controllo-nei-disturbi-psicologici-dallipercontrollo-alla-perdita-di-controllo/
Depuis l'Antiquité et plus encore avec le siècle des Lumières, la raison est devenue notre ressource pour exercer un contrôle sur le monde et sur nous. Cela a entraîné et implique encore une sorte de hiérarchie entre émotion et raison, où la rationalité est communément considérée comme supérieure aux émotions, comme manière d'aborder le monde. La phrase de Léonard citée au début souligne cette distinction. En revanche, il est courant d'entendre « Essayez de ne pas perdre le contrôle », « Vous devez apprendre à vous contrôler », « Analysez les choses rationnellement », « Réfléchissez !

La croyance culturelle que ces phrases impliquent est que la raison, la logique rationnelle, peut aussi gouverner l'élan émotionnel, le domaine de l'expérience émotionnelle. Cela se traduit par la façon dont nous gérons et apprenons à gérer nos émotions. Cela est vrai dans le domaine de l'éducation, mais aussi dans le domaine de la thérapie des problèmes psychologiques. La thérapie cognitivo-comportementale, par exemple, met fortement l'accent sur l'importance du contrôle rationnel des pensées dysfonctionnelles, pour réguler les expressions émotionnelles. La pharmacologie, quant à elle, à travers des molécules spécifiques, tente de réguler les réponses émotionnelles. Ici aussi, l'idée implicite est de contrôler les émotions afin de retrouver une orientation rationnelle.

En réalité, si une hiérarchie est à trouver, phylogénétiquement, elle apparaît exactement à l'opposé. D'un point de vue évolutif, les structures cérébrales qui médiatisent l'expérience émotionnelle sont les plus anciennes, tandis que celles qui sous-tendent la domination de la rationalité sont les plus récentes. De plus, en termes d'activation de l'organisme dans les réponses d'adaptation, ce sont les émotions qui sont activées en un temps très court, pour permettre à l'individu la meilleure adaptation à la situation contingente à laquelle il doit faire face. Lorsque, au volant de la voiture, nous voyons un chien traverser la route d'un coup, c'est la peur qui nous alerte immédiatement et nous permet de freiner promptement.

Le raisonnement ne vient qu'après : d'abord on entend, puis on pense. Par conséquent, le contrôle rationnel ne peut venir qu'après que l'expérience émotionnelle ait déployé son effet et, précisément pour cette raison, il est souvent inefficace pour la réguler.

La dimension de contrôle est centrale dans la formation et le maintien de nombreux troubles psychologiques.

Trouble panique

La recherche-intervention menée ces trente-cinq dernières années par Giorgio Nardone et ses collaborateurs sur la trouble panique a mis en évidence comment c'est la tentative de contrôler volontairement ses réactions physiologiques pour conduire à la perte de contrôle qui provoque la panique. Dans ce trouble, le simple fait d'essayer de se calmer volontairement sans succès alimente l'explosion émotionnelle qui mène à la panique. Comme le note Cioran, "les subterfuges de l'espoir sont tout aussi inefficaces que les arguments de la raison" dans cette situation.

Annie Le Brun :
 « la perte progressive de tout lien sensible avec le monde »

Des années de nourriture trafiquée, frelatée, reconstituée, nous ont accoutumés à déguster moins la chose elle-même que le nom de la chose.

https://fr.wikipedia.org/wiki/Paradoxe_sur_le_comédien

Je ne pense pas que les IA ( qui n’ont pas d’émotion pour l’instant ) pourront faire ça tant qu’elle seront dénué d‘’émotions . Et d’ailleurs quel intérêt ?
Quand on chante ( je suis chanteur aussi à ma façon ) on ne chante jamais de la même manière le morceau , donc des fois c’est bien des fois c’est passable et des fois c’est nul … on maitrise pas tout
Ce fantasme de vouloir tout maîtriser est illusoire même chez les plus grands musiciens, on ne maitrise jamais tout , comme « l’inspiration « par exemple qui nous échappe et qui arrive quand on s’y attend pas…

https://www.youtube.com/watch?v=qj1Sp8He6e4
Commentaire :
Nvidia a créé Fugatto.
C’est une intelligence artificielle qui fait des voix, de la musique, des sons… juste avec du texte.
Ça impressionne.
Mais attention.
Fugatto, c’est pas de la vraie musique.
C’est du son sans cœur.
Et un jour, on comprendra peut-être que les fausses notes,
les hésitations,
les émotions…
c’était ça, le plus beau.