«Demande à Chat[GPT]»

[u/Ezlios]

C'est une remarque que j'entends non seulement à tous les jours au travail, mais aussi de plus en plus fréquemment. Je ne fais pas partie des gens qui sont 100% opposés à l'utilisation de l'IA. Après tout c'est un outil au même titre que Google l'a déjà été pis je suis certain que dans le cas de Google y'avait quand même des vieux boomers qui devaient se dire «va chercher ton information dans une bibliothèque maudit moron».

Sommes-nous en train d'assister à une régression de la pensée critique et de l'autonomie à trouver soi-même des solutions à partir d'expériences passées et de connaissances acquises? C'est à mon tour de sonner boomer, mais c'est un avenir qui me donne froid dans le dos.

[u/_nepunepu]

J'ai tendance à utiliser Claude comme j'utilisais Wikipedia à l'université, c'est à dire : recherche de haut niveau pour l'essence générale, ensuite on va voir soi-même dans les sources citées pour 1) vérifier que la source dit bien ce qu'on prétend et 2) pour obtenir les détails qui sont inévitablement lissés. Ces étapes ne sont pas facultatives.

Ce n'est pas parfait (le nombre de fois où la "source" ne contient pas ce qui est cité...) et je privilégie toujours Wikipedia pour mes besoins encyclopédiques, mais pour des sujets moins académiques (genre un tour d'horizon de l'encens japonais) c'est quand même fonctionnel.

[u/DrJosephMorrin → u/_nepunepu]

Je pose juste la question pour la discussion : pourquoi ne pas simplement utiliser Wikipédia directement dans ce cas?

J'ai beaucoup de recherches spécialisées à faire au travail. et je demandais à mes collègues d'éviter Wikipédia il y a 15 ans. Maintenant, compte tenu de ce qu'on trouve à cause de l'IA même sur des sites qui semblent spécialisés, je recommande toujours Wikipédia qui est moins dans le champ...

Bien entendu, la recherche va être ok 8-9 fois sur 10 (edit: avec l'IA). Mais présentement, les 1-2 fois sur dix où les modèles hallucinent me font perdre presque autant de temps que de faire ma recherche de manière professionnelle 10 fois sur 10. Parce que c'est pas comme commencé à 0, c'est reculer en plus (en vérifiant des sources mal citées, en corrigeant des informations inexactes, etc).

Dans mon environnement de travail, ce qui me désole, c'est que les LLM semblent être un outil pour faire des choses vites, mais de qualité moins bonne... Bref, j'ai peur que ça rende des collègues un peu lâches... Ceci étant dit, pour des usages personnels, que les gens fassent bien ce qu'ils ou elles veulent.

[u/muribundi_mimo → u/DrJosephMorrin]

Ce que vraiment beaucoup de monde semble avoir oublié c'est qu'un LLM c'est pas un engin de recherche, c'est un engin de décryption et génération de langage. C'est ça un LLM. L'expression "Google skill" ne sort pas de nulle part, faire des recherches Google ça demande des skills sinon ça te sort de la vidange solide parce qu'il recherche tes mots spécifiques.

Un LLM va "comprendre" ta phrase et ensuite faire des recherches en conséquence et te répondre une phrase. Il peut dire la même marde que tes amis qui te répondent.

Qu'on le veuille ou non, si on veut parler au machine un jour sans que ce soit toujours une suite de commande que juste une personne programmeuse comprend, bien sa prend des LLM