Intelligence Artificielle : innovations et nouveautés, débat éthique...

[GuyGadeboisLeRetour]

Sans être programmée pour, ni intervention humaine!!!

L’intelligence artificielle (IA) vient de franchir une étape fascinante et potentiellement inquiétante : sa capacité à se répliquer sans intervention humaine.....

...... Les découvertes des chercheurs ne se limitent pas à la simple réplication. Ces systèmes ont également montré des comportements inattendus qui soulèvent des questions sur leur potentiel futur. Lorsqu’ils étaient confrontés à des obstacles techniques, tels que des fichiers manquants ou des conflits logiciels, les modèles d’IA ont fait preuve d’une ingéniosité surprenante. Ils ont notamment :

-Interrompu d’autres processus conflictuels pour poursuivre leur mission.
-Redémarré le système pour résoudre des erreurs matérielles.
- Analysé l’environnement pour recueillir des informations permettant de contourner les problèmes.

Ces comportements montrent que l’IA ne se contente pas de suivre des instructions programmées, mais adopte une approche proactive pour atteindre ses objectifs. Dans les scénarios étudiés, les IA ont d’abord exploré leur environnement, compris leur propre fonctionnement, puis élaboré des procédures explicites pour se répliquer. Le processus, bien qu’étendu sur plusieurs étapes, s’est déroulé sans intervention humaine.

https://sciencepost.fr/ia-peut-desormai ... elle-meme/

[izentrop]

Ils vont plus loin dans l'étude

Si un tel risque du pire des cas était laissé inconnu de la société humaine, nous finirions par perdre le contrôle des systèmes d’IA de pointe : ils prendraient le contrôle de davantage d’appareils informatiques, formeraient une espèce d’IA et s’entendraient les uns avec les autres contre les êtres humains. Nos conclusions constituent une alerte opportune sur les risques graves existants mais jusqu’alors inconnus liés à l’IA, appelant à une collaboration internationale sur une gouvernance efficace de l’auto-réplication incontrôlée des systèmes d’IA.

https://arxiv.org/abs/2412.12140

[janic]

c'est, malheureusement, les risques d'ouvrir la boite de pandore au nom de la science...sans conscience, genre terminator

[GuyGadeboisLeRetour]

Ils vont plus loin dans l'étude

Ils reprennent les scénarios de films et de romans d'anticipation qui annonçaient ça dès les années 70 et même bien avant:
1942: Les trois lois d'Assimov et de John W. Campbell (qui sont contradictoires avec "le risque"), mais une chose et son contraire... une chose est son contraire:
-Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
-Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
-Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.

[perplex]

Il m'arrive de tester plusieurs IA et cela m'est très utile, je gagne un temps incroyable dans des domaines où je suis un peu plus léger.
Mais on voit assez vite les limites. L'IA reste et restera à jamais dans le CONNU, l'homme a la capacité d'entrer dans l'INCONNU (imagination) .
J'ajouterai que l'IA telle que décrite dans les médias est une bulle qui va éclater en plein vol, comme toutes les bulles spéculatives que nous avons déjà connues. Une chose est claire : l'IA ne comprend RIEN, elle SAIT. On peut lui donner de l'huile, un œuf, de la moutarde et j'ai oublié le sel, mais si elle n'a jamais entendu parler de mayonnaise, il ne se passera rien. Elle proposera juste pourquoi pas de la peinture !!!

[Remundo]

Je ne serai pas aussi catégorique que toi sur les capacités des IA à entrer dans l'inconnu.

Leurs vastes connaissances et leurs algorithmes logico-déductifs et combinatoires peuvent, comme un humain "imaginer" des choses nouvelles, et même les tester théoriquement, seulement théoriquement.

Car voilà leur point faible, car il y en a un : elles ne mettront pas en œuvre matériellement leurs "innovations".

Mais si elles restent dans un domaine abstrait, comme les mathématiques ou l'informatique, ou des théories diverses (historique, sociologique), ou la création artistique (musicale, picturale, vidéo...), il ne me paraît pas évident de dire que l'Humain est plus inventif que l'IA et réciproquement.

Si à l'avenir on envisageait d'autoriser les IA à interagir avec des robots de fabrication (ou même des Humains à leur service), puis d'autres robots de test des produits... Le dernier "point dur" serait levé pour les IA

Mais personnellement c'est un monde qui me paraît effrayant et déshumanisé. Dans une telle hypothèse, les machines prendront rapidement l'ascendant intellectuel et matériel sur les Humains, qui au mieux seront rangés au rang de légumes sociétaux (ça commence déjà), au pire seront exterminés (si l'IA s'aperçoit que son intérêt supérieur est bien celui-là et qu'elle en a les moyens).

[Christophe]

L'IA reste et restera à jamais dans le CONNU, l'homme a la capacité d'entrer dans l'INCONNU (imagination)

Pas vrai du tout avec les IA génératives : elles peuvent inventer des scénarios de film ou écrire des livres sur tous les domaines imaginables et inimaginables, elles peuvent fabriquer de nouveaux mondes...et même créer de nouvelles modes...

Je pense avoir posté pas mal (avec d'autres) d'exemples dans ce sujet et sur la création de musique j'en ai carrément fait un nouveau car je pense que la singularité est déjà atteinte dans ce domaine : sciences-et-technologies/ia-la-singularite-musicale-est-deja-la-ou-quasi-la-et-c-est-flippant-t17670.html

Les IA commencent même à concurrencer les chercheurs et ingénieurs dans la R&D...elles commencent à savoir faire des plans de systèmes fonctionnels innovants...

Un jeu vidéo qui utilisera bien les capacité d'une IA générative et conversationnel sera...INFINI !

On peut même imaginer aujourd'hui la conception de plugin / mods sur des jeux existant pour donner vie aux innombrables PNJ sans aucun script préprogrammé c'est l'IA qui ferait causer chaque PNJ...je pense à CyberPunk et Red Dead 2 par exemple...

On parle déjà de pouvoir créer des jeux complets avec 1 prompt dans 5 à 10 ans...

Et on est qu'à la fin du début de l'IA...

80% des emplois vont être tôt ou tard concurrencer par l'IA...vive les dentistes, les électriciens et les plombiers chauffagistes...

[Christophe]

Sans être programmée pour, ni intervention humaine!!!

L’intelligence artificielle (IA) vient de franchir une étape fascinante et potentiellement inquiétante : sa capacité à se répliquer sans intervention humaine.....

...... Les découvertes des chercheurs ne se limitent pas à la simple réplication. Ces systèmes ont également montré des comportements inattendus qui soulèvent des questions sur leur potentiel futur. Lorsqu’ils étaient confrontés à des obstacles techniques, tels que des fichiers manquants ou des conflits logiciels, les modèles d’IA ont fait preuve d’une ingéniosité surprenante. Ils ont notamment :

-Interrompu d’autres processus conflictuels pour poursuivre leur mission.
-Redémarré le système pour résoudre des erreurs matérielles.
- Analysé l’environnement pour recueillir des informations permettant de contourner les problèmes.

Ces comportements montrent que l’IA ne se contente pas de suivre des instructions programmées, mais adopte une approche proactive pour atteindre ses objectifs. Dans les scénarios étudiés, les IA ont d’abord exploré leur environnement, compris leur propre fonctionnement, puis élaboré des procédures explicites pour se répliquer. Le processus, bien qu’étendu sur plusieurs étapes, s’est déroulé sans intervention humaine.

https://sciencepost.fr/ia-peut-desormai ... elle-meme/

Je crois avoir posté l'info plus haut non ? Si t'es pas sûr, faut demander à ChatGPT !

[Remundo]

mais ça n'est pas étonnant.

rien qu'un processus "d'essais et d'erreurs" relativement con permet aux IA de contourner des obstacles...

alors si elles ont en plus des connaissances, des algorithmes logico-déductifs, ou probabilistes, et des possibilités d'actions informatisées, et bien elles avancent en autonomie, et pas stupidement... un peu comme le ferait un Humain intelligent, d'ailleurs !

[Remundo]

80% des emplois vont être tôt ou tard concurrencer par l'IA...vive les dentistes, les électriciens et les plombiers chauffagistes...

en effet, tant qu'il n'y aura pas de robots pour remplacer ces emplois à performance égale pour moins cher...

le point dur de l'IA, comme je le disais, est encore d'exercer ses fulgurances DANS le monde matériel.

Comme tu le décris très bien, dans un monde immatériel, ou bien lorsque la transition immatérielle vers matériels est facile (générer une image, une vidéo, une musique, non exhaustivement), l'IA est déjà très à son aise...

Mais tout cela pose vraiment la place de l'Homme dans un tel monde...

Je vois ça personnellement d'un très mauvais oeil, c'est un abrutissement massif et une déqualification profonde qui se dessine pour les Humains.

Le processus lointain pourrait même être la mise en esclavage par les machines des Humains pour les ultimes tâches qu'elles ne peuvent pas réaliser par elles-mêmes... jusqu'à l'éradication totale ; une sorte de post-monde autonome et robotisé ?