Les jeux de rôles créés par IA

[mithriel]

Parfois, disruptif veut simplement dire s'asseoir sur les règles pour s'en mettre plein les proches...

Souvent Tout le temps et illégalement.

[Archiduc Fifi]

Autre point sur lequel je m'interroge : en cas de litige, qui doit-on attaquer ?

Je ne connais que Stable Diffusion. Cette IA a été entraînée sur des images prises sur le net. Mais ce n'est pas Stable Diffusion (StabilityAI) qui a effectué ce travail ; ils ont simplement repris une banque de données LAION, LAION étant ... Une banque de données open-source qui comprend malgré tout des éléments qui ne sont pas forcément libres de droits. Cette banque de données contient même des données personnelles relatives à des individus, ceci s'expliquant par le fait qu'il s'agit d'une banque d'images vues sur le net auxquelles on a attribué un descriptif textuel pour chacune d'entre elles (6 milliards d'images décrites). Et pour faire ce travail, LAION utilise elle-même une autre base de données open-source appelée COMMON CRAWL qu'elle utilise pour trouver lesdites images. Au final, Common Crawl archive et permet de trouver librement des images hébergées sur le net, puis LAION regarde ces images sans les enregistrer pour en sortir une description textuelle, fait une boule, et la met librement à disposition de StabilityAI et concurrents pour qu'ils produisent des modèles IA à partir de ces images hébergées sur le net et de leur description ...

On se retrouve avec des entreprises commerciales (par exemple des producteurs de JDR auto-édités) qui utilisent Stable Diffusion alors que ce logiciel est destiné à la recherche et qu'il utilise pour fonctionner une base de données open-source qui renvoie vers du contenu non-libre de droits, mais sans que quoi que ce soit de graphique n'ait été enregistré ...

Admettons qu'un artiste veut faire valoir ses droits : qui doit-il attaquer ?
- Le producteur du JDR qui utilise des images Stable Diffusion copiées de l'artiste dans un but commercial ?
- StabilityAI qui permet aux quidams de produire gratuitement des images qui copient un artiste et qui peuvent être utilisées dans un cadre commercial même si ce n'est pas le but originel du logiciel ?
- LAION qui créée du contenu accessible librement à tous à partir de contenu non-libre de droits sans en informer les ayants-droits et sans qui Stable Diffusion ne peut fonctionner ?
- COMMON CRAWL qui archive des données sans le consentement des auteurs et les met à disposition de LAION, qui ne peut pas s'en passer, archives mises à disposition de tous librement ?
- Tout ceci sachant que LAION et COMMON CRAWL produisent des banques de données open-source et sont elles-mêmes des organisations à but non lucratif. Et ce ne sont pas elles qui produisent ou permettent de produire directement les images ...

Je ne sais pas ce qu'il en est pour MidJourney qui est un service commercial, mais j'imagine qu'ils utilisent eux aussi LAION

 

[Macbesse]

Je ne sais pas ce qu'il en est pour MidJourney qui est un service commercial, mais j'imagine qu'ils utilisent eux aussi LAION 

Et tu imagines bien.

@Carmody C'est effectivement tout à fait vrai, ce que tu dis pour Chatgpt. C'est la raison pour laquelle tous les exemples que j'ai fournis sont des exemples dans lesquels l'utilisateur fournit les documents à classer / reformuler.
De la même manière, j'admettrais qu'un illustrateur nourrisse MJ avec ses productions pour en faire quelque chose d'autre, même si je le déplorerais. Je trouve par contre légitime qu'il se serve d'une IA pour combler le manque d'images dans une animation et passer à 24+ images / seconde, ou augmenter le niveau de détail / la résolution.

[rafido]

Le problème que pose également l'utilisation de l'IA dans un processus de création, même si on ne lui délègue pas l'entièreté de la tâche, c'est de savoir ce que l'on veut, à terme, ne plus savoir faire soi-même, ce que l'on renonce à "contenir" dans son cerveau pour l'externaliser dans une machine ou un programme.

Je ne vois pas de réponse simple et universelle à une telle question mais il me semble y avoir une différence importante entre savoir calculer et utiliser une calculatrice et ne plus savoir calculer sans en utiliser une, ou savoir s'orienter en utilisant une carte routière et brancher tout de même son GPS et ne plus savoir s'orienter en voiture sans GPS.

Je vois ce que tu veux dire, mais je ne suis pas certain qu'il y ait encore beaucoup de marins qui sachent faire le point avec un sextant.

De manière plus générale, a t'on déjà vu dans l'histoire de l'humanité, l'homme renoncer à l'utilisation d'un outil qui lui simplifie les choses?
 

[Ramentu]

Une question aussi, c'est à partir de quand est-ce qu'une image/un texte est-il créé par une IA (ou plus exactement des algorithmes entrainés sur un corpus d’œuvres - le terme IA n'est pas correct, on est bien d'accord) ?

Pour prendre l'exemple d'une illustration:

• Je tape un prompt, je prends le premier résultat venu.
  
• Je tape un prompt, je varie le prompt et les paramètres jusqu'à obtenir le résultat que je veux.
  
• Je prends une image générée par l'IA et je la retravaille manuellement sur les détails.
  
• Je prends une image générée par l'IA et je l'intègre dans une composition personnelles (comme arrière-plan, ou détail, ...)
  
• J'utilise l'IA pour travailler sur une illustration personnelle :
  - je me sert d'IA pour modifier mon image suivant un prompt
  - je me sert d'IA pour "améliorer" l'image automatiquement (exemple : appareil photo de téléphone mobiles ...)
  - j'utilise manuellement un outil qui utilise de l'IA pour fonctionner (détourage, remplissage intelligent, ..)
  

idem pour un texte :

• prendre un prompt et ctrl-c/ctrl-v la réponse, chapitre fini.
  
• utiliser une IA pour enrichir/compléter du texte personnel, en mélangeant les deux sources.
  
• utiliser une IA pour obtenir un squelette de scénario et habiller ce squelette avec mes propres mots.
  
• utiliser un outil qui utilise une IA pour travailler sur mon texte (exemple : contrôle grammatical)
  

Ou est la limite de l'acceptable ?

[Qui Revient de Loin]

Le problème que pose également l'utilisation de l'IA dans un processus de création, même si on ne lui délègue pas l'entièreté de la tâche, c'est de savoir ce que l'on veut, à terme, ne plus savoir faire soi-même, ce que l'on renonce à "contenir" dans son cerveau pour l'externaliser dans une machine ou un programme.

Je ne vois pas de réponse simple et universelle à une telle question mais il me semble y avoir une différence importante entre savoir calculer et utiliser une calculatrice et ne plus savoir calculer sans en utiliser une, ou savoir s'orienter en utilisant une carte routière et brancher tout de même son GPS et ne plus savoir s'orienter en voiture sans GPS.

Je vois ce que tu veux dire, mais je ne suis pas certain qu'il y ait encore beaucoup de marins qui sachent faire le point avec un sextant.

De manière plus générale, a t'on déjà vu dans l'histoire de l'humanité, l'homme renoncer à l'utilisation d'un outil qui lui simplifie les choses?

Je dirais qu'il y a des exemples spécifiques, comme les Amish. Corée et Japon ont refusé longtemps les outils occidentaux, l'UE a refusé pas mal de choses sur les OGM, etc.
Mais c'est pas courant/limité dans le temps ou les effets.

On voit même le retour d'outils anciens : tondeuse à bras, vélo, yahourtière avec la décroissance et le low tech et un retour à avant certaines errances dû à ce que l'on a appelé peut-être trop vite le "progrès".

Ho, et les vinyles !

[cdang]

De manière plus générale, a t'on déjà vu dans l'histoire de l'humanité, l'homme renoncer à l'utilisation d'un outil qui lui simplifie les choses?

Il y a des professions qui s'attachent à conserver des méthodes rustiques et résilientes, car elles sont précisément destinées à intervenir dans des environnements dégradés. Typiquement les pompiers ou les militaires. D'ailleurs, une des explications de la mortalité française lors de l'embuscade d'Uzbin (Afghanistan, 2008), c'est que les servants des mortiers ne connaissaient pas la méthode rustique et que l'ordinateur de calcul était en rade :

https://www.francetvinfo.fr/monde/afgha ... 89766.html

Et en 1999 (aujourd'hui je ne sais pas), les trans' apprenaient encore le morse parce que ça permet de travailler avec du matériel robuste et que la méthode est moins sensible aux parasites (puisque l'on transmet un signal saturé).

[Ravortel]

Oui, les trans apprennent encore le morse et tous les officiers de marine apprennent à se servir d'un sextant encore aujourd'hui.

https://actu.fr/normandie/saint-vincent ... 80700.html

[Qui Revient de Loin]

Le paradigme est différent dans le commerce, où l'on ne vit pas de ce que l'on sait faire (au sens de fabriquer, agir avec un environnement physique, etc.) mais de ce que l'on vend. La disparition d'une compétence de production au profit d'une machine ne pose pas de problème je pense dans le commerce, voire c’est avantageux car les coûts baissent en général, tant qu'il y a quelque chose d'équivalent à vendre.

[Rui]

Je vous trouve bien prompt sur ce point "en l'état actuel et au vu de la violation des droits des artistes"
Il n'y a rien d'avéré ici. Si les éléments qui ont été utilisé pour nourrir l'IA ont été récupéré de manière légale il n'y a, malheureusement, aucune violation de quoi que ce soit.

Par contre c'est mis sur le tapis et ça pourrait le devenir mais en l'état actuel c'est une problème d'étique mais pas, encore, de droit.

Parce que tu doutes que Midjourney ait récupéré des illus de manière illégale ?

Tu sais quoi? Je suis même certains qu'ils l'ont fait de manière tout a fait légale mais caché pour justement qu'on leur demande pas de payer en plus.

Pas moi. Quand tu vois que tu peux lui demander des illus "dans le style de Bastien Lecouffe Deharme" et que tu obtiens des trucs très proches de son style, alors qu'il n'a autorisé aucune plateforme à donner ses illus à Midjourney, je n'ai aucun doute.

Je crois que tu n'as pas compris comment ce procurer des illustrations de manière légale fonctionne.
"il suffit" d'acheter légalement les illustrations et le tour est joué ou encore de récupérer dans un endroit qui la fournie de manière libre
Que ce soit dans un artbook, une peinture, un poster ou une image.
L'auteur à pour le moment pas son mot à dire si les dites images ont été procurer légalement

Après on peut considérer que c'est un problème et faire évoluer la lois pour faire en sorte que ça change dans le futur mais AUJOURD'HUI c'est parfaitement légale.

[Qui Revient de Loin]

Ca dépend, est-ce qu'une IA produisant une image devant une personne (le prompteur, voire un public si on parle de l'ensemble des prompteurs d'une IA) peut être considéré comme une représentation ? L'achat d'un artbook ne donne pas le droit de représentation, juste celui d'usage et diffusion dans le "cercle familial" si mes souvenirs sont bons.

[BenjaminP]

Je crois que tu n'as pas compris comment ce procurer des illustrations de manière légale fonctionne.
"il suffit" d'acheter légalement les illustrations et le tour est joué
Que ce soit dans un artbook, une peinture, un poster ou une image.
L'auteur à pour le moment pas son mot à dire si les dites images ont été procurer légalement

C'est absolument faux, ça. L'achat d'une illustration ne donne pas toute les licences d'utilisation.

[Qui Revient de Loin]

Tiens, ça me fait m'interroger sur l'utilisation d'images en CC by-ND dans le corpus d'apprentissage des IA ou pire, SA...
Ça montre bien qu'acquisition ne veut pas dire tout droit d'usage, sinon les CC ne préciseraient pas NC, ND.

[Rui]

Ca dépend, est-ce qu'une IA produisant une image devant une personne (le prompteur, voire un public si on parle de l'ensemble des prompteurs d'une IA) peut être considéré comme une représentation ? L'achat d'un artbook ne donne pas le droit de représentation, juste celui d'usage et diffusion dans le "cercle familial" si mes souvenirs sont bons.

Mais il ne diffuse pas; les IA de génération ne sont pas une BDD d'images mais une BDD de reference de construction d'image. Il n'y pas d'image stocker au sens propre mais des nuages de generation qui permettent à l'IA de "produire" quelque chose qui correspond au prompt saisie.

Une fois que j'ai acquis un Artbook personne ne peut m'interdir d'en faire ce que je veux chez moi.
Ce que je ne peux pas faire c'est reproduire des images de cet artbook et/ou de les revendre. Donc "normalement" je ne pourrais même pas mettre d'image pour illustré un blog avec.

Après si tu demandes une IA un prompt extrêmement précis tu as de forte chance de pouvoir repliquer une illustration existante (d'ailleurs je crois que ça déjà été montrer dans différent exemple) mais ce n'est pas pour autant que l'IA à encore l'image de base pour autant et on tombe ensuite sur une problématique de plagiat qui n'a rien à voir avec l'IA au final mais dépend plus de comment la personne utilise l'image généré.

Et qu'on soit d'accord je n'ai pas d'opinion sur le fait que l'on doit changer la lois ou pas. Ce que je pointe c'est qu'aujourd'hui il n'y a pas de cadre légale qui tranche de manière aussi formel (comme certain l'évoque ici) sur les droits d'auteur dans ce cas.

Par contre là ou je rejoins tout le monde c'est que ce soit bien qu'on tranche définitivement sur le sujet.

Je crois que tu n'as pas compris comment ce procurer des illustrations de manière légale fonctionne.
"il suffit" d'acheter légalement les illustrations et le tour est joué
Que ce soit dans un artbook, une peinture, un poster ou une image.
L'auteur à pour le moment pas son mot à dire si les dites images ont été procurer légalement

C'est absolument faux, ça. L'achat d'une illustration ne donne pas toute les licences d'utilisation.

Qui a parler de donner toutes les licences d'utilisations? Je parle d'utiliser le produit dans le cadre d'apprentissage.
Il n'y a rien légalement aujourd'hui dans la lois qui empêche d'acheter quelque chose pour se former

On est bien à la limite du système ici dans une Gray area seulement par ce que c'est pas un humain qui le fait mais une machine.

[Loludian]

Je crois que tu n'as pas compris comment ce procurer des illustrations de manière légale fonctionne.
"il suffit" d'acheter légalement les illustrations et le tour est joué ou encore de récupérer dans un endroit qui la fournie de manière libre
Que ce soit dans un artbook, une peinture, un poster ou une image.
L'auteur à pour le moment pas son mot à dire si les dites images ont été procurer légalement

Après on peut considérer que c'est un problème et faire évoluer la lois pour faire en sorte que ça change dans le futur mais AUJOURD'HUI c'est parfaitement légale.

Totalement faux, comme dit par d'autres, acheter une image ne veut pas dire avoir le droit d'en faire ce qu'on veut.