L'économie avec l'IA dans un monde futuriste 47

Autre hypothése: ce que l'on appel IA aujourd'hui ne sont en fait que des algorythmes agrégateurs de contenus et non pas de vraies IA.

Tout comme les imprimante 3D dans les années 2010 qui devaient tuer l'industrie, ces "IA" ne feront rien de tout ce qui est prédit et resteront juste des outils comme les autres.

Avec cette hypothése le monde de Shadowrun est parfaitement cohérent.

100% d'accord
Eclipse phase est encore celui qui la traite le mieux le sujet.

Les TITAN représente l'erreur d'avoir créé des IA autonomes.
L'humanité à apris la leçon et en limite la puissance techniquement et juridiquement. (mon approche)

Les hypercops appartiennent à une oligarchie aux directions et au conseil d'administration, utilisent massivement des robots et des cosses dont le corps est biologique et le cerveu électronique (IA, ou parfois EGO humains ou animaux).

Elles sont des acteurs majeurs du cercle intérieur, et notament Mars, mais elle ne sont pas omnipotentes, le cercle extérieur me semble beaucoup plus décentralisé.

p70 Eclipse phase
La production au sein de ces
hypercorps ne nécessite pas un emploi de masse puisqu’elle
est rendue possible par une automatisation presque complète,
l’utilisation d’une robotique avancée, la morpho-technologie
et les cornes d’abondance. Le recours au travail physique a
été réduit en grande partie à des tâches telles que la construc-
tion d’habitats ou à l’exploitation minière spatiale. On em-
ploie (le terme de « posséder » serait plus juste) énormément
d’infomorphes et d’IA comme drones opérateurs ou comme
ouvriers virtuels, et la plupart des tâches administratives se
font en ligne via la réalité augmentée, les réseaux privés vir-
tuels et les nœuds de simulespace. Certaines hypercorps sont
complètement virtuelles, sans patrimoine physique et chacun
des employés fait office de bureau nomade. Quelques-unes des
principales hypercorps consistent simplement et littéralement
en un personnel transhumain d’une dizaine de personnes. Si
certaines hypercorps sont particulièrement massives et diver-
sifiées, la plupart d’entre elles se spécialisent dans un domaine
ou des services en particulier.

Oui, les LLM d'aujourd'hui sont essentiellement des moteurs de recherche en language naturel.
C'est le niveau le plus primitif de l'IA, elles n'agissent qu'en réponse à un stimuli de notre part, avec les données qu'on veut bien leur fournir.

S'agissant des gains de productivité, comme informaticien je ressent 3 gains importants.

1. Coder rapidement des fonctions élémentaires (parfois difficiles mais pas trop pour être débugables) que j'appel dans du code plus classique, aprés test unitaire.
2. generer du code que je sais faire dans un language que je ne maitrise pas.
3. Refaire le point sur une techno sur la quelle je n'a pas bossé depuis 10 ans.

Utilisé avec prudence c'est trés efficace, encore un peu tabou.

Ce que je cherche :

• faire évoluer l'univers de ton côté (dans la même veine de ce qui a été fait pour la Matrice sans fil, mais en mode perso)
• réfléchir à la façon dont les auteurs pourraient faire évoluer l'univers

Les deux, la derniére flaterait un peu mon égo.

L'IA est là et son principal élé

Depuis la mise en place de l'IA, on observe quelques tendances au long terme. Les IA se nourrissent quasiment exclusivement du web

• Les contenus du Web sont maintenant massivement envahit par l'IA dans tous les domaines
• Les contenus "humains" disparaissent progressivement, le sacro saint "Stack overflow" des dev informaticiens n'est plus nourrit par exemple. Alors que c'est essentiellement lui qui a rendu la capacité de codage des IA extrémement performante.
• Le cloisonement des informations secrétes devient prioritaire, c'est à dire ne pas fournir aux IA la capacité d'acceder à l'information.

Si on prend ces trois points, l'IA commence à se nourrir uniquement d'IA ce qui via la théorie de l'information va créer le plus d'entropie au niveau de cette théorie. Une uniformisation des erreurs par répétition. Alors qu'il y a 6 mois on ne parlait que de token, voilà que progressivement les chercheurs et boites d'IA commencent à parler "qualité d'information primaire".

Les failles deviennent préocupantes, cela ne dit certainement pas grand chose à grand monde, mais les deux outils les plus utilisés en informatique NPN et PIP sont les plus scrutés. Ces installateurs le librairies sont les meilleurs vecteurs de trojans que je connaisse car personne dans le dev informatique n'a la capacité d'analyser ce qui est installé ... a part une IA. Et c'est valide dans pleins de domaines.

Le dernier point et pas des moindres. L'IA n'a pas de responsabilité. Le boulot d'un juriste, d'un médecin est amplement aidé voir réalisé par l'IA mais pas sa responsabilité. L'objectif principal actuellement c'est de nous rendre complétement dépendant des IA et ont y est.

Clairement, garder l'homme comme responsable en dernier degré de l'usage qu'il fait de l'IA est clé pour l'avenir.
L'IA doit être traité en droit, comme du bétail qu'on utilise professionellement, jamais comme sujet de droit.

Vu qu'on parle d'Eclipse Phase je suis obligé d'intervenir , mais blague à part ... au delà de mon amour pour ce jeu je chronique la gamme SR6 aussi ... et le rapport au futur entre ces deux jeux est très intéressant.

Si vous voulez avoir une remarquable proposition de prospective raisonnée sur l'impact des technologies de rupture sur la société humaine ... Eclipse Phase est une référence absolue (et toute la VO est accessible en PDF gratuitement et légalement si vous n'êtes pas heureux propriétaires de la VF).

Mais l'application de ce côté très Hard SF / Anticipation d'Eclipse Phase à Shadowrun me laisse un brin dubitatif... Shadowrun utilise le futur type cyberpunk comme cadre esthétique (une couleur) plus que thématique, on se pose pas trop la question de ce qu'est l'identité ou la Vie privé dans un monde où les Mega-corpo sont dirigées par des Dragons

SR pourrait venir sur cette approche, car son univers en contient les graines ... mais le jeu n'est pas optimisé pour mettre en jeu les doutes et basculement psychologiques causés par tout ça !

Se demander en quoi l'IA impacte l'économie est légitime, mais je ne serais pas surpris que les auteurs de SR se soient tenus volontairement loin de ces sujets pour ne pas dévier des qualités spécifiques de leur univers

De ma lorgnette, l'IA c'est juste de la com'. C'est "achetez mon produit avec IA" avec le gros sous-entendu que c'est mieux que sans IA. C'est une mode, comme il y a eu celle des assistants connectés, que les industriels voulaient mettre partout. Ils ont même mis Alexa dans une machine à café... Ils ne savent plus quoi inventer.

Le problème c'est l'humain qui utlise la technologie n'importe comment. Sur le net, il y a une majorité de gens qui utilisent l'IA pour tout et surtout pour n'importe quoi.

ça me rappel qu'il y a un hack eclipse phase avec les rêgles plussimples de shadowrun (ainsi que Hearthdown et cyberpunk) faudra que je teste.

J ai deux remarques a faire. Déjà dans le cyberpunk, l IA avait le principe qu elle avait une sorte de conscience.

On essaie beaucoup de vendre ce côté futuriste a nos IA mais au fond, elles correspondent dans shadowrun aux agents experts ou agents autonomes et non aux IA comme Deus

La deuxième est une réponse sur le modèle sociétal. Je voulais pas m étendre parce que je parlais plus de shadowrun, mon opinion étant qu un joueur qui se lance dans le jeu ne vient plus rêver un futur possible ou probable, mais vient jouer au genre cyberpunk. Donc changer shadowrun serait à mon avis contre-productif.

L IA n a pour le moment pas généré de gains et si ça se trouve, il y aura zéro révolution.

Mais imaginons que oui. Imaginons qu il n' y ait pas de problème de réchauffement climatique ni d épuisement des ressources (terres rares, etc.)

La question sociétale a laquelle on n' a pas de réponse, c est si dans l ensemble tu maximises la rentabilité en minimisant le nombre de salariés, a qui tu vends ta production ?

C était ce que je sous entendais parler "les ia font tout"

Ce qui me chiffonne dans ces échanges c'est qu'on occulte l'importance énorme des IA dans l'univers de Shadowrun, que ce soit les divines (Deus, Megaera, Mirage, etc), les récentes (qu'on peut même jouer), ou tout simplement les softs plus classiques qui sont proches des IA actuelles de notre monde (les autopilotes de drone, les agents de commlink, etc).

Bref je ne vois pas où est ton manque dans l'univers de Shadowrun tel qu'il est. Quand à une place plus importante... Après le fiasco de l'archologie de Renraku, le Crash 2.0, le SFC ... tu m'étonnes qu'on se méfie des IA comme de la peste et que leur place dans la société soit très limité. T'as quelques corpos genre EVO qui leur ouvre la porte, mais vu la longue liste de conflits avec la métahumanité, je pense qu'on ne verra pas de sitot des IA à tous les coins de rue.

J'ai l'impression que vous avez raté un certain nombre d'impacts que l'IA a déjà eu aujourd'hui.

Les développeurs, les avocats, les gens qui répondent en centre d'appels, les gens qui faisaient l'accueil dans les banques, ceux qui travaillent dans des entrepôts, toutes ces personnes ont déjà vu leur travail énormément impacté par la digitalisation, les robots et les IA (même limitées aujourd'hui à des LLM).

Quasi toutes les sociétés ont des projets de mise en place d'outils IA dans tous les sens aujourd'hui.

Certes nous n'en sommes pas à des IA conscientes et autonomes ni à des IA qui gèreraient des entreprises ou même juste des chaînes de production, mais ça bouge super vite.

Et ça n'est pas une "accusation" sur Shadowrun que de dire que l'impact des IA sur l'économie ou la vie de tous les jours n'a pas vraiment ete pensé. Comme je l'ai dit, je n'ai vu quasi aucune oeuvre de fiction qui l'ait fait. La fiction s'est surtout concentrée sur ce que serait un être artificiel et conscient et sur les gros dangers qu'ils causeraient, pas tellement sur ce que ça changerait dans la vie de tous les jours.

C'est encore un cas où la réalité dépasse la fiction, alors même que nous n'avons pas atteint la première IA vraiment consciente d'elle même, une IA "réelle", qui sont pourtant celles qui nous sont présentées dans le Cyberpunk.

C'est exactement mon avis.
D'ailleurs les jeux avec de nouvelles éditions, se mettent à jour trés bien, sans détruire le genre.

Je ne pense pas qu'on ait raté quoi que ce soit... Mais, pour ma part en tout cas, je me pose la question de savoir si cette tendance va vraiment se développer. Certes, c'est attirant et tout le monde fonce sur l'IA en ce moment... Seulement voilà, on commence à voir apparaître les défauts du truc...

Une IA ne peut pas apprendre d'une autre IA. Ça, on le sait depuis un moment. Quand on branche deux IA ensemble, elles deviennent folles (they go mad). Or, la plupart des IA vont chercher leurs renseignements sur Internet. Et de plus en plus de contenus du Net sont rédigés par des IA... Vous le sentez venir le problème ?

Eh bien il commence effectivement à surgir...

La firme Deloitte a été contrainte de rembourser le gouvernement australien pour lui avoir fourni un rapport réalisé avec IA et... truffé d'erreurs. Référence.

J'ai lu par ailleurs qu'un avocat avait fait une plaidoirie avec une IA et avait perdu son procès parce que les lois qu'il avait citées étaient toutes inventées...

Bref, les erreurs commencent à poindre un peu partout.

Vérifiez par vous-mêmes. Demandez à une IA des renseignements précis sur un jeu que vous connaissez bien et vous aurez droit à de belles erreurs.

J'ai carrément posé la question à Copilot et elle m'a en effet répondu que les IA inventait parfois des réponses totalement erronées parce qu'elle ne se contentaient pas de faire des synthèses : elles créent des phrases en prédisant le mot qui va suivre ceux qu'elle a commencé à écrire et, en plus, en adaptant leur propos à leur interlocuteur (ce qui les pousse vers le biais de confirmation).

Se fier à une IA à l'heure actuelle, c'est un peu comme demander à un journaliste de remplacer un expert... Il vaut mieux éviter de leur faire confiance aveuglément.

Alors, est-ce que la mode des IA va vraiment perdurer dans le temps ? Si elles commettent de plus en plus d'erreurs dans ce qu'elles affirment comme vrai, et si on est de plus en plus obligé de vérifier chacune de leurs assertions, ça m'étonnerait.

Les points que tu relèves tiennent plus d'une erreur de configuration des outils IA (il est possible de leur dire de se baser sur des sources fiables ou de leur fournir ces sources), d'une erreur dans le prompt qui a été fourni à l'IA (préciser que tu ne veux que des éléments fiables) ou de l'erreur humaine (ne serait-ce que ne pas avoir vérifié le contenu produit).

Oui les IA actuelles (LLM) ont tendance quand on ne les cadre pas correctement à inventer des choses ou à donner des réponses erronées (le terme exact est une "hallucination") et il ne faut pas prendre leurs réponses pour 100% fiables. Mais même en vérifiant ce qu'elles produisent, tu gagnes quand même du temps.

Leur utilité pour les avocats est plus dans la rédaction de contrats types ou dans le relecture de ceux-ci, pas dans l'élaboration d'une plaidoierie.

Le cas avec le gouvernement australien relève carrément de la faute professionelle (et de la fainéantise de celui qui a fourni le rapport).

C'est tout à fait possible, en effet. Mais ce n'est pas certain. Il reste toujours le problème du "go mad" quand deux IA sont branchées l'une sur l'autre pour apprendre. Là, c'est moins visible, bien sûr, car beaucoup plus lent. Les textes que l'on trouve sur Internet ne sont pas (encore) majoritairement produits par des IA, mais ça finira par venir. Alors, quand on en sera à une IA qui produit un texte à partir du travail d'une autre IA qui a elle-même appris grâce aux productions d'une troisième IA, etc., qui sait ce que ça pourra donner ? Si on estime qu'il y a un petit décalage ne serait-ce que minime à chaque fois, ça peut finir par devenir énorme.

En fait, je ne sais pas ce qui va se passer, évidemment. Et je ne suis ni pour ni contre l'utilisation des IA. Je m'y intéresse même personnellement...

Mais je constate que quand on connaît très bien un sujet, on s'aperçoit que les IA se trompent. Même quand on essaie de faire le prompt le plus sérieux possible... J'ai beaucoup échangé avec Copilot à propos de GURPS et lui ai même dit de ne plus aller chercher dans les sites amateurs quand on lui posait une question sur les règles (ce qu'elle avait fait). Elle semble avoir compris qu'il fallait prioriser les règles elles-mêmes, auxquelles elle a visiblement accès...

Bref, il se peut que les concepteurs d'IA rectifient le tir, voire que les IA deviennent suffisamment intelligentes pour le faire elles-mêmes (en devenant peu à peu capable de distinguer les sources fiables de celles qui ne le sont pas). Ou il se peut que les IA, faisant de plus en plus d'erreurs, soient finalement reléguées à des tâches plus subalternes que celles qu'on imagine aujourd'hui (cantonnées à faire des synthèses, de l'aide à la recherche, de la traduction et de la vérification orthographique, par exemple, ce qui sera déjà énorme). D'autant plus qu'elles demandent énormément de ressources (et qu'on n'a toujours pas la fusion froide aujourd'hui).

On n'en sait rien. Comme d'autres l'on dit ci-dessus, il y a bien des avancées technologiques qui ont été abandonnées alors qu'on croyait que ce serait une révolution, parce qu'elles se sont avérées bien moins efficaces que prévues, ne serait-ce que par rapport à leur coût.

Qui vivra verra, comme on dit. Et les auteurs de SF sont donc libres d'imaginer ce qu'ils souhaitent pour le futur. Y compris une régression technologique par souci écologique ou spirituel...

De toute façon, pour en revenir au sujet, on pourra toujours compter sur le fait que les Mega Corporations suivent le mouvement, ne serait-ce que pour de se faire du pognon : la mode, il n'y a rien de tel pour vendre !

C'est pour ça que la vision de Patrick Klark est intéressante. Il propose un autre univers possible de Shadowrun. Même s'il n'est pas forcément plus logique que celui choisi par les auteurs officiels. Je suivrai donc ses développements avec plaisir.

Mais beaucoup font marche arrière. L'IA génère un contenu peu quali et pond trop d'erreurs. Rien que le nom "IA" est trompeur. L'IA c'est que de la com'. On nous vend JARVIS d'Iron Man, mais c'est plus proche d'un assistant-stagiaire derrière lequel il faut repasser. L'IA est outil intéressant pour certaines tâches, mais ce n'est pas sensé être un couteau-suisse qui fait tout et qui a réponse à tout.

Bref, nos fausses "IA" n'ont rien à voir avec l'IA de SR. On peut difficilement comparer.

Pas dans mon domaine : le conseil en informatique. Les clients ont tous des projets avec l'IA et les boîtes de conseil misent toutes dessus.

Je n'ai pas encore vu de boîtes faire machine arrière sur le sujet.

Après ça n'est que mon expérience personnelle mais ça concerne de nombreux clients et une boîte de conseil de taille conséquente.

J'ai le sentiment que pour l'instant l'IA promue auprès du grand public est plus l'aboutissement du vieux TAI (Traitement Automatisé de l'Information) disposant de capacité de traitement et d'accès à des datas de façon exponentielle. En fait on assiste plus à un saut générationnel de logiciels de TAI qu'à un saut conceptuel.

En gros la communication des grands groupes et des milliardaires, relayée par des perroquets motivés par des dogmes scientistes, idéologiques ou financiers, détourne et minore le domaine entier de recherche de l'IA qui comprend en plus de domaines qui paraissent évident aussi la linguistique, les sciences cognitives, l'epistemologie, la sémiologie et est bien plus importante et enthousiasmante que la vision réduite qu'ils nous infligent.

Comme ça a été dit, l'enjeu de l'IA en SF et Anticipation n'est pas de savoir le niveau de compétence d'un super assistant personnel (comme les Muses à Eclipse Phase, cf Alexa, Siri etc), d'un super auto-pilot etc mais de sa nature, de son autonomie, de savoir si c'est un, être conscient, voire "Vivant", pas uniquement de sa puissance de traitement éventuellement démiurgique, et de pouvoir en tirer des conséquences philosophiques, juridiques etc pour raconter des super histoires.

J'ai l'impression que contrairement à plein d'oeuvre Cyberpunk (particulièrement les mangas et anime), notamment des 70 à début 90, les IA ont été traitées à Shadowrun mais pas de manière centrale, ce sont surtout les Immortal Elves puis les Grands Dragons (et les drake etc) qui ont retenus l'attention en tant que Créatures les plus puissantes et les plus intéressantes, avec parfois plus d'altérité aussi, engendrant de nombreux arcs narratifs. SR a traité l'IA dans Renraku Arcology, et intégré dans son BG, mais c'est moins présent.

De même, les Otaku puis technomanciens ont aussi retenus l'attention et ont semblent-ils stimulé l'imaginaire dans SR plus que les IA.

Donc les IA à SR ne sont pas l'enjeu essentiel car il y a encore plus mystérieux et stimulant. En tant qu'altérité une IA est moins flippante qu'un Grand Dragon ou une Horreur, et quand on lit le BG un otaku (cf Akira), le début de la gobelination, le HmHVV ou les Insectes créent un sentiment d'horreur et de body horror bien plus puissant.

En définitive SR a tiré les conséquences logiques de son BG et a peu exploité l'IA, quoique avec un super résultat. De plus SR a eu la chance que le JdR Cyberpunk passe complètement à côté et reste bloqué sur son attendu de base initial d'il y a plus de 35 ans, qui est devenu rétrofuturiste.

Dès lors quand on traite des conséquences non seulement de la magie, mais aussi de la gobelinisation, des Grands Dragons, des Insectes, de l'astral, du HMHVV il est probable que l'effet des IA, entre autre sur l'économie, mais aussi sur le reste de la société soit dilué.