IA & Hermann Rorschach
-
L'un des aspects les plus déroutants du problème des hallucinations est que même les créateurs d'IA peinent à l'expliquer ou à le contrôler. À mesure que les modèles se complexifient, leur fonctionnement interne devient de plus en plus opaque. Les ingénieurs peuvent modifier les algorithmes et ajouter des protections, mais la tendance sous-jacente aux hallucinations persiste obstinément.
Certains experts estiment que les hallucinations pourraient être un effet secondaire inévitable des architectures d'IA actuelles. Comme l'a déclaré Amr Awadallah, PDG de la start-up d'IA Vectara : « Malgré tous nos efforts, ils auront toujours des hallucinations. Cela ne disparaîtra jamais. »
La course à la création de systèmes d'IA toujours plus vastes a conduit à un paradoxe : des modèles plus puissants ne sont pas forcément plus précis. En réalité, alors que les entreprises investissent des milliards dans le développement de leurs infrastructures, le nombre d'hallucinations semble augmenter . Les récentes publications d'OpenAI, de Google et d'autres ont montré que les modèles plus récents peuvent être encore plus enclins à inventer des choses que leurs prédécesseurs.
Dans le monde professionnel, le besoin de vérification est encore plus grand. Les entreprises, les journalistes et les professionnels de santé doivent considérer l'IA comme un assistant utile, et non comme une autorité infaillible. Le risque d'accepter sans discernement des informations fabriquées est tout simplement trop élevé. -
La question soulevée n'est pas nouvelle, c'est la question de l'esprit critique, de la vérité. Modèle de langage ou pas ça a toujours été au cœur des reflexions sur les limites du langage.
-
@Julien-Millot : Ca va être chaud quand elle vont écrire "l' Antéchrist" avant d' aller se balader en ville histoire de papoter avec des chevaux.
Est ce que de disposer de trop de données simultanément rendrait sophiste ? -
@Dave2000 a dit dans IA & Hermann Rorschach :
Est ce que de disposer de trop de données simultanément rendrait sophiste ?
Ça ne rend certainement pas sophiste mais ça facilite l'approche !
-
Oui hein ? Comme les statistiques et les probas ... on peut leur faire dire intelligemment un truc complètement con.
-
on peut leur faire dire intelligemment un truc complètement con.
Ou un truc à moitié vrai. J’ai posé une question sur la toxicité d’un fruit un jour à chtgpt qui m’a répondu à côté sans nuance.
Si je n’avais pas creusé et ne connaissais pas la réponse j’en serai certainement resté là c’est dommage… -
De s' adresser à Chat GPT concernant une pastèque plutôt qu' au vieux qui picole sur la place du village et connaît ce fruit depuis douze générations ?
Oui c' est dommage, et a bien des niveaux. -
Ouai c’était pour vérifier un truc que je savais déjà et voir ce que chatgpt allait me sortir mais oui c’est le risque de faire encore moins d’effort pour aller chercher une info, entrecouper les sources etc ça prend du temps et yen a plus !
(Sinon je ne connais pas de vieux qui picole du vin de Laurier Cerise pour lui demander!) -
Les modèles trop généraux ne sont pas efficaces sauf pour pomper vos données. Vous pouvez entraîner vous-même vos modèles sur ce dont vous avez besoin, sur la base de sources que vous aurez sélectionné.
-
@funge , tu disposes de l'infrastructure pour faire de l'entraînement de modèle ?
-
@sqallax Ya pas un vieux qui picole du capivin sur la place de ton village ? Ici yen a plein, on peut faire de l' import/export si tu veux. Les marseillais manquent de supporters du PSG par exemple. On entend souvent "Tiens ! J' étriperais bien un supporter du PSG" ou alors "Je desouderais bien un supporter du PSG après l' apéro".
Enfin c' est sous réserves que tu as des supporters sous le coude, sinon des japonaises ça ira.@funge Carrément ! Tu veux pas qu' on aille dans une bibliothèque pendant qu' on y est ? Sinon même question que Juju plus haut ...
-
@sqallax je pense que le problème que tu soulèves et lié à une représentation erronée de ce qu'est un llm (la faute aux fausses promesses marketing de la startup nation et aux journalistes non spécialisés...). As tu entendu parler des RAG?
-
@Dave2000 Je peux pas lire et synthétiser 50 livres en une demie-heure non. Le travail c'est de sélectionner les sources en fonction de ce que l'on veut, ce n'est pas forcément une mince affaire.
-
Au final quand on regarde youtube, la ligne "l'IA" va détruire le monde" est assez mainstream. Avec son corollaire des investissements massifs dans la chose, à l'image du discours et des actions de Musk. "Ils se moquent bien de ce que vous pensez. Ils veulent que vous le pensiez sans nuance."
-
@Dave2000 Du vieux qui picolent doit y en avoir oui mais comme je ne participe jamais aux soirées du Beaujolais nouveau je communique rarement avec eux…
Puis au moment où ON se pose une question ON doit avoir tout de suite la réponse c’est la nouvelle règle : exit toute forme de frustration ! Tu penses quand même pas que je vais prendre mon tel et appeler tous les p’tits vieux de la commune dis !
(C’est quoi du capivin sinon ? J’ai pas encore posé la question à chtgpt viiite !) -
Tiens, ta tête a encore explosée ! Le Capivin, c' est une marque de vin blanc vraiment pas très bon du tout qu' on pouvait trouver dans les épiceries de nuit alsaciennes quand Aphex twin chantait "come to daddy".
@funge le truc est que tout Youtube est mainstream ...
Tu n' as pas répondu à propos de "l' infrastructure" évoquée par Julien ? T' as des processeurs chinois ?? -
A propos de l' aspirateur grandes contenances auquel Julien fait allusion plus haut :
https://datascientest.com/retrieval-augmented-generation-tout-savoirLe RAG illustre parfaitement comment la synergie entre différentes branches de l’IA peut conduire à des avancées significatives promettant de repousser encore les limites de ce que l’IA peut accomplir.
LOL
-
https://www.courrierinternational.com/article/technologie-comment-l-ia-devore-la-terre_229349
Technologie. Comment l’IA dévore la Terre
Gourmande en énergie, en eau et en minerais, l’intelligence artificielle est au cœur de la course aux ressources qui oppose les grandes puissances. D’après l’hebdomadaire allemand “Die Zeit”, son essor pourrait même mener à une lutte pour les terres rares, lancée sur Terre et dans l’espace, au détriment du combat contre le dérèglement climatiqueUne puissance qui change tout sur son passage : le moindre recoin de la planète, le moindre aspect de la vie humaine. “L’intelligence artificielle [IA] a une composante physique énorme, déclare Kate Crawford. Ses infrastructures engloutissent des quantités incroyables de ressources.” Eau, énergie, minerais, données, main-d’œuvre. Pourtant, “IA”, ça fait virtuel. On pense à un nuage de données. Comme si tout cela n’avait aucun prix. “Un malentendu dangereux”, précise Kate Crawford. Elle est bien placée pour le savoir. Cette professeure [australo-]américaine est experte en intelligence artificielle et compte parmi les cent spécialistes les plus importants au monde.
Mais surtout, elle a compris il y a quelques années le prix qu’avait l’IA. À l’époque, la chercheuse s’était rendue à Silver Peak, un trou perdu du Nevada. Elle s’était retrouvée dans le désert, devant des lacs d’un vert malsain qui s’évaporaient au soleil – jusqu’à ce que toute l’eau ait disparu et qu’il ne reste plus qu’un de ces matériaux que le monde s’arrache : le lithium. “Les minerais sont la colonne vertébrale de l’IA, l’énergie son élixir de vie”, écrivit-elle plus tard dans un livre. -
@Dave2000 je vois pas la réf. Le hardware est dépassé oui il a atteint ses limites. Aussi parce qu'on s'obstine à faire des gros modèles omnipotents pour satisfaire aux modèles économiques.
-
@Judex-Franju a dit dans IA & Hermann Rorschach :
son essor pourrait même mener à une lutte pour les terres rares, lancée sur Terre et dans l’espace, au détriment du combat contre le dérèglement climatique
Ouh là là !
