Page 7 sur 10

Re: Les jeux de rôles créés par IA

Publié : sam. mars 23, 2024 5:52 pm
par mithriel
Morningkill a écrit : sam. mars 23, 2024 4:52 pm
mithriel a écrit : sam. mars 23, 2024 2:00 pm Vous me faites presque flipper en personnalisant les IA. Ce sont des algorithmes. Quelqu'un les a conçus et programmés.
Euh... je programme des choses bien plus simples que des IAs, et pourtant, je suis réguliérement surpris par ce qu'il en ressort.

Alors un truc aussi complexe, qui "s'auto-modifie".. sans aller jusqu'a SkyNet, je pense clairement qu'on peut pas esperer les comprendre , en tout cas, pas sans analyses poussés de logs complets

Ça ne s'auto-modifie aucunement. :gné

Re: Les jeux de rôles créés par IA

Publié : sam. mars 23, 2024 7:35 pm
par Morningkill
Je ne me prononcais pas sur la personnification, mais sur l'idée que j'ai cru lire que qu'un 'algorithme' "conçus et programmés" est totalement compris/maitrisé par son créateur.

Re: Les jeux de rôles créés par IA

Publié : sam. mars 23, 2024 7:41 pm
par Qui Revient de Loin
Je ne crois pas que ce soit le cas lorsqu’il s'agit du deep learning. J'ai souvent entendu parlé de "boîte noire" dans ce cas.

Re: Les jeux de rôles créés par IA

Publié : sam. mars 23, 2024 8:29 pm
par mithriel
Qui Revient de Loin a écrit : sam. mars 23, 2024 7:41 pm Je ne crois pas que ce soit le cas lorsqu’il s'agit du deep learning. J'ai souvent entendu parlé de "boîte noire" dans ce cas.

La combinatoire est telle qu'il peut y avoir un effet boite noire, mais il n'y a rien de magique là dedans. Ca reste des modèles qui peuvent se combiner. Bref, à la base, des algos. Par ailleurs, depuis plusieurs années, les chercheurs travaillent sur l'explicabilité des IA. Question de confiance, il faut savoir comment les résultats sont produits.

Re: Les jeux de rôles créés par IA

Publié : sam. mars 23, 2024 8:34 pm
par Morningkill
mithriel a écrit : sam. mars 23, 2024 5:52 pm Ça ne s'auto-modifie aucunement. :gné
J'avais mis entre guillemet, mais c'est quoi une phase d'apprentissage si ce n'est une "auto modification" ?

Ok, le programme ne se modifie peut etre pas tout seul au sens "je reecris mes lignes de codes", il modifie juste ses "parametrages internes" (par exemple un réseau neuronaux avec des poids qui changent sur les noeuds) sauf que comme ca se compte en millions, le déterminisme assumé du binaire devient pour nous pauvres humains : indeterminés. (et aussi qu'on peut considérer que le parametrage du reseau neuronal est aussi au final le programme)

Re: Les jeux de rôles créés par IA

Publié : sam. mars 23, 2024 8:40 pm
par Loris
Ce sont des (meta)heuristiques. Pas des algorithmes. Il s’avère que Bob Darko et moi en avons codé une en 2005.
Et ca n’a absolument aucune « intelligence ». Ce buzzword pour racler du pognon…

Re: Les jeux de rôles créés par IA

Publié : sam. mars 23, 2024 10:07 pm
par mithriel
Morningkill a écrit : sam. mars 23, 2024 8:34 pm J'avais mis entre guillemet, mais c'est quoi une phase d'apprentissage si ce n'est une "auto modification" ?

Absolument pas. Tu prends un échantillon de tes données, tu "apprends" (c'est des stats) un modèle et tu généralises avec le reste de tes données en espérant que ça marche (et ça peut très bien marcher).

Re: Les jeux de rôles créés par IA

Publié : sam. mars 23, 2024 10:08 pm
par mithriel
Loris a écrit : sam. mars 23, 2024 8:40 pm Ce sont des (meta)heuristiques. Pas des algorithmes. Il s’avère que Bob Darko et moi en avons codé une en 2005.
Et ca n’a absolument aucune « intelligence ». Ce buzzword pour racler du pognon…

Ton heuristique, il faut bien la coder.

Re: Les jeux de rôles créés par IA

Publié : sam. mars 23, 2024 11:13 pm
par Loris
mithriel a écrit : sam. mars 23, 2024 10:08 pm
Loris a écrit : sam. mars 23, 2024 8:40 pm Ce sont des (meta)heuristiques. Pas des algorithmes. Il s’avère que Bob Darko et moi en avons codé une en 2005.
Et ca n’a absolument aucune « intelligence ». Ce buzzword pour racler du pognon…

Ton heuristique, il faut bien la coder.

C’est du code, oui. Mais, en algorithmique, la part d’aléatoire fait qu’on ne parle plus d’algorithme (« suite finie et non ambiguë d'instructions et d’opérations permettant de résoudre une classe de problèmes ») mais d’heuristique.
En gros, à paramètres absolument identiques, un algorithme par définition te donnera un résultat systématiquement identique. Pas une heuristique.
Pour continuer dans la pédanterie (quitte à m’enfoncer dans la cuistrerie depuis plusieurs messages, autant aller jusqu’au bout) : le code n’est que la mécanisation d’un algorithme ou d’une heuristique. L’algorithme (ou heuristique) est la séquence d’opérations en elle-même, indépendamment du langage pour l’exprimer (que ce soit du français, du Google Angular, du Java ou un rébus ou des pictogrammes). En gros, c’est le _sens_ du message là où le code n’est que le langage utilisé pour transporter ce sens.

Je serais curieux (mais j’ai la flemme de chercher) de savoir quel est l’assemblage de ces LLMs. J’ai le vague sentiment qu’il s’agit d’imbrications d’heuristiques qui permettraient de jouer aussi sur les paramètres de qualification des solutions et de définition/constitution de l’espace de solutions en plus de jouer sur la manière de se déplacer dans l’espace de solutions (ce qui était l’unique truc qu’on avait appliqué). Balaise.

Re: Les jeux de rôles créés par IA

Publié : dim. mars 24, 2024 7:29 am
par mithriel
Mouais, je ne suis pas convaincu de ta définition d'une heuristique. Pour moi (et j'en ai conçu quelques-unes), une heuristique, c'est une méthode (qui se traduit en informatique par un algo/du code) qui permet d'obtenir des solutions acceptables dans un temps limité lorsque qu'on ne peut pas atteindre un résultat exact en un temps fini (ou juste pas raisonnable) en raison de la complexité de la tâche. La variabilité ou pas du résultat dépend de si l'heuristique est stochastique (aléatoire) ou pas. Il y a pas mal d'heuristiques stochastiques (ça évite de tomber dans des optimums locaux), mais aussi des heuristiques déterministes. Dans les deux cas, tu conçois un algo et tu le programmes ou quelqu'un d'autre l'a fait et tu l'utilises, y'a pas de miracle.

Re: Les jeux de rôles créés par IA

Publié : dim. mars 24, 2024 11:47 am
par Gwénolé
Macbesse a écrit : mer. mars 20, 2024 9:56 pm
Ensuite, se pose la question du coût écologique. J'ai lu qu'une requête représentait un litre d'eau, ça me semble une curieuse façon de compter mais c'est une question à creuser.

L'enjeu écologique est énorme. L'impact environnemental du numérique est déjà très significatif, et il est en croissance (voir par exemple ce document de l'ARCEP). Je travaille dans le secteur du numérique depuis bientôt 25 ans, et depuis trois ans je me focalise de plus en plus sur le sujet du numérique responsable.

Cette croissance de l'impact du numérique est fortement alimentée par le boum de l'IA, à la fois à cause du nombre d'utilisateurs qui s'y mettent, et par l'accroissement du nombre de paramètres des modèles, à chaque génération: en gros, plus un modèle est puissant, plus il manipule de paramètres, et plus la puissance de calcul nécessaire pour l'alimenter est importante.

Qui dit puissance de calcul dit serveurs et réseaux, donc du matériel à produire, de l'énergie à consommer, de l'eau pour refroidir, etc. La seule fabrication d'un ordinateur de 2 kilos nécessite 1,5 tonnes d'eau (voir cet article de l'ADEME). Les datacenters utilisent également de l'eau à l'usage, pour refroidir. C'est pour ça que ramener le coût d'une requête IA à une consommation d'eau est pertinente.

Quand on parle d'impact environnemental, en général on tente donc de faire des analyses multi-critères et ce sur l'ensemble du cycle de vie:
  • multi-critère, c'est prendre en compte le dégagement de CO2 (et de ses impacts sur le réchauffement climatique), l'eau, l'énergie primaire (qui est limitée pour sa partie énergie fossile), les terres rares (qui deviennent de plus en plus coûteuses à extraire), etc.
  • l'ensemble du cycle de vie c'est tenir compte de la fabrication des équipements, de la phase d'entrainement (pour l'IA), de la phase d'utilisation, du fait que les serveurs et terminaux utilisés ont une fin de vie fortement polluantes (on recycle très mal les équipements numériques, en partie par manque d'efficacité des filières, en partie à cause des limites physiques, en partie à cause du manque de rentabilité des opérations), etc.
Si vous voulez mieux comprendre ça, vous pouvez vous inscrire à des ateliers de Fresque du Numérique, qui permettent de comprendre ces impacts, d'avoir quelques ordres de grandeur, et d'identifier les actions individuelles et collectives que nous pouvons mettre en place pour un usage plus responsable du numérique. Il y a des ateliers citoyens gratuits organisés sur toute la France et au-delà.

Le calcul de l'impact écologique de l'IA est encore en train de mûrir, le chiffre d'une requête qui représente 1l d'eau me parait démesuré. Une des études disponibles sur Chat-GPT dit plutôt 25 à 50 questions pour 0,5L d'eau (voir cet article qui donne ses sources). Mais ça va augmenter puisque les modèles se complexifient. Et ça va se démultiplier par le nombre de requêtes.

La question que ça pose, au-delà des questions d'éthique sur le droit des artistes et auteurs, c'est donc de savoir faire un usage raisonné de l'IA, en sachant estimer si la valeur ajoutée dégagée contrebalance le coût environnemental (et on pourrait rajouter le coût humain et sociétal). A terme (et on parle pas d'un siècle, mais d'un horizon de 20 à 50 ans), on va devoir faire des choix sur nos usages du numérique et sans doute renoncer à tout ce qui n'est pas indispensable.

La réponse dans le domaine du jeu de rôle me parait clair. J'aime notre loisir, mais ce n'est qu'un loisir. Faire appel à l'IA pour ça est une absurdité. 

Re: Les jeux de rôles créés par IA

Publié : dim. mars 24, 2024 1:55 pm
par Macbesse
Merci d'avoir creusé la question pour nous ! :-)
Et carrément d'accord avec ta conclusion. Autant utiliser l'IA pour faire la recherche sur de nouveaux médicaments, c'est légitime, autant pour générer des listes de PNJ ou faire ses devoirs, c'est futile.
 

Re: Les jeux de rôles créés par IA

Publié : dim. mars 24, 2024 1:59 pm
par Qui Revient de Loin
Cela permet tout de même d'apprendre à utiliser l'IA.

Re: Les jeux de rôles créés par IA

Publié : dim. mars 24, 2024 2:36 pm
par Gwénolé
Qui Revient de Loin a écrit : dim. mars 24, 2024 1:59 pm Cela permet tout de même d'apprendre à utiliser l'IA.

A mon sens, ce n'est pas parce qu'on peut le faire qu'on doit le faire.

Après chacun prend ses responsabilités, en fonction de son contexte.

Si tu as peur pour ton avenir professionnel si tu n'as pas un minimum de maîtrise de l'IA générative, je comprends que tu cherches des occasions pour apprendre à rédiger des prompts, et que le jdr soit un bon prétexte pour le faire. De même si tu l'utilises pour des projets qui ont un impact positif.

Au final, la question, c'est quand même "est-ce que je fais plus de mal que de bien en l'utilisant?".

Il faut en être conscient, on fait _systématiquement_ du "mal" en utilisant les solutions d'IA: on impacte la planète, on alimente la hype et on crédibilise des solutions que leurs vendeurs souhaitent rendre indispensables (pas de philanthropie derrière, ChatGPT ne restera gratuit que si derrière ils savent monétiser quelque chose).

Evidemment, ce n'est pas binaire, puisque l'usage de l'IA peut avoir un impact positif: recherches médicales, lutte contre le réchauffement climatique, etc.

Il s'agit donc d'essayer de peser si les impacts positifs contrebalancent les impacts négatifs. Pour ça, il faut être capable d'estimer les 2. On va collectivement progresser sur le sujet, même si les boîtes derrière feront tout le lobbying nécessaire pour brouiller le message. D'où mon message qui visait à donner des billes sur les impacts négatifs.

Mais l'utiliser pour du jeu de rôles? C'est à mon sens irresponsable. Nous savons nous en passer pour notre loisir. Et je ne vois pas d'impact positif. En tout cas aucun qui peut contrebalancer les impacts négatifs.

Désolé si je parais donneur de leçons.

En tant qu'ingénieur spécialiste du numérique et responsable des formations dans une grosse boîte d'ingés, le sujet du numérique responsable me touche: former à l'IA sans former à l'usage responsable de l'IA est un contresens profond. 

Re: Les jeux de rôles créés par IA

Publié : dim. mars 24, 2024 7:17 pm
par vivien
Cette question sur l'IA m'amène à me questionner sur l'apprentissage par l'humain. Qu'en est il de la recherche aujourd'hui sur les modalités d'apprentissage? Comment fonctionne-t-il, comment est il envisagé, y a-t-il une biologie, une histoire, une sociologie, une anthropologie de l'apprentissage humain ?