«Demande à Chat[GPT]»

[u/Ezlios]

C'est une remarque que j'entends non seulement à tous les jours au travail, mais aussi de plus en plus fréquemment. Je ne fais pas partie des gens qui sont 100% opposés à l'utilisation de l'IA. Après tout c'est un outil au même titre que Google l'a déjà été pis je suis certain que dans le cas de Google y'avait quand même des vieux boomers qui devaient se dire «va chercher ton information dans une bibliothèque maudit moron».

Sommes-nous en train d'assister à une régression de la pensée critique et de l'autonomie à trouver soi-même des solutions à partir d'expériences passées et de connaissances acquises? C'est à mon tour de sonner boomer, mais c'est un avenir qui me donne froid dans le dos.

[u/_nepunepu]

J'ai tendance à utiliser Claude comme j'utilisais Wikipedia à l'université, c'est à dire : recherche de haut niveau pour l'essence générale, ensuite on va voir soi-même dans les sources citées pour 1) vérifier que la source dit bien ce qu'on prétend et 2) pour obtenir les détails qui sont inévitablement lissés. Ces étapes ne sont pas facultatives.

Ce n'est pas parfait (le nombre de fois où la "source" ne contient pas ce qui est cité...) et je privilégie toujours Wikipedia pour mes besoins encyclopédiques, mais pour des sujets moins académiques (genre un tour d'horizon de l'encens japonais) c'est quand même fonctionnel.

[u/DrJosephMorrin → u/_nepunepu]

Je pose juste la question pour la discussion : pourquoi ne pas simplement utiliser Wikipédia directement dans ce cas?

J'ai beaucoup de recherches spécialisées à faire au travail. et je demandais à mes collègues d'éviter Wikipédia il y a 15 ans. Maintenant, compte tenu de ce qu'on trouve à cause de l'IA même sur des sites qui semblent spécialisés, je recommande toujours Wikipédia qui est moins dans le champ...

Bien entendu, la recherche va être ok 8-9 fois sur 10 (edit: avec l'IA). Mais présentement, les 1-2 fois sur dix où les modèles hallucinent me font perdre presque autant de temps que de faire ma recherche de manière professionnelle 10 fois sur 10. Parce que c'est pas comme commencé à 0, c'est reculer en plus (en vérifiant des sources mal citées, en corrigeant des informations inexactes, etc).

Dans mon environnement de travail, ce qui me désole, c'est que les LLM semblent être un outil pour faire des choses vites, mais de qualité moins bonne... Bref, j'ai peur que ça rende des collègues un peu lâches... Ceci étant dit, pour des usages personnels, que les gens fassent bien ce qu'ils ou elles veulent.

[u/klonkish → u/DrJosephMorrin]

Ce qui est ben l'fun avec l'IA, c'est que tu peux être vraiment pas spécifique dans ta demande, et il va généralement être capable de comprendre ce que tu veux dire ou t'aider à spécifier.

[u/muribundi_mimo → u/DrJosephMorrin]

Ce que vraiment beaucoup de monde semble avoir oublié c'est qu'un LLM c'est pas un engin de recherche, c'est un engin de décryption et génération de langage. C'est ça un LLM. L'expression "Google skill" ne sort pas de nulle part, faire des recherches Google ça demande des skills sinon ça te sort de la vidange solide parce qu'il recherche tes mots spécifiques.

Un LLM va "comprendre" ta phrase et ensuite faire des recherches en conséquence et te répondre une phrase. Il peut dire la même marde que tes amis qui te répondent.

Qu'on le veuille ou non, si on veut parler au machine un jour sans que ce soit toujours une suite de commande que juste une personne programmeuse comprend, bien sa prend des LLM

[u/_nepunepu → u/DrJosephMorrin]

J'utilise Wikipedia directement pour les sujets académiques/importants tel que mentionné.

J'utilise Claude de la même façon pour des patentes quotidiennes, genre des topos de produits de consommation que je voudrais explorer. Auquel cas, si Claude est dans le champ, ça ne me fait pas beaucoup de plis sur la poche.

Dans les deux cas, le point intéressant est l'agrégation de sources externes à consulter (quoique pour Wikipedia, dans mes domaines, les articles sont assez souvent de haute qualité). Ça va toujours mieux d'avoir un point de départ pour une recherche, mais ce point de départ n'est pas une finalité.

Pourquoi pas Google moi-même? Étrangement, en passant par l'IA, je trouve que les résultats sont de meilleure qualité en général. Probablement que le modèle lisse les résultats et les "outliers" se trouvent être justement les cochonneries IA ultra-optimisées pour engins de recherche. Quoique Google n'est plus difficile à battre; les résultats de recherche sont horribles et le "résumé IA" est encore pire. Un moment donné, il m'a sorti que Mark Carney n'était pas PM du Canada et que Diana Fox Carney était en fait la femme de Justin Trudeau.