Intelligence Artificielle : innovations et nouveautés, débat éthique...

[Ahmed]

Plus fort qu'obaGPT, là t'abuses carrément!

[Christophe]

J'ai inversé tu crois ? C'était plus méchant qu'ObaGPT ?

[izentrop]

J'ai inversé tu crois ? C'était plus méchant qu'ObaGPT ?

sans régulation ça peut vite dériver

Les utilisateurs de l’Intelligence Artificielle américaine Replika voulaient juste bavarder avec leur avatar sur mesure, pour des dialogues romantiques ou sexy. Mais dernièrement, certains se sont plaints de recevoir des messages et des images trop osés, presque un harcèlement sexuel.

Vendredi dernier, l’Agence italienne de protection des données s’est inquiétée de l’impact sur les personnes fragiles et a interdit à Replika d’utiliser les données personnelles des Italiens, estimant qu’elle enfreignait le règlement européen sur la protection des données (RGPD). Interrogé par l’AFP, Replika n’a pas répondu.

https://icibeyrouth.com/sciences/190289

[Christophe]

Chouette !! J'ai toujours rêvé d'être sexuellement harcelé...

[izentrop]

Chouette !! J'ai toujours rêvé d'être sexuellement harcelé...

Je n'en doute pas mais le problème ce sont les plus faibles, comme constaté dans l'article. Un outil idéal pour les bots russes ?
J'avais déjà remarqué ce qui suit, comme quoi rien à voir avec une encyclopédie.

ChatGPT n’a pas été entraîné à assimiler les vérités du monde mais simplement à manipuler les langues humaines et les langages informatiques.

Dit autrement, ChatGPT est bien moins un compagnon conversationnel qu’un conteur d’histoire ...
À l’usage, ChatGPT se révèle ainsi un étonnant amateur de fiction ! Inventer n’importe quoi pour répondre à votre question est dans sa nature profonde. Parce qu’il s’intéresse à la langue, pas aux faits...

ChatGPT n’a pas été entraîné sur des sources vérifiées ! Bref, il dispose bien d’un savoir, mais les réponses fournies par ChatGPT s’approchent de la réalité de façon tangentielle. Elles ont l’air vraies, elles le sont parfois, mais sont fondamentalement des créations fictives des réseaux de neurones sous-jacents.

ChatGPT n’est jamais aussi utile que lorsqu’il faut se montrer créatif avec des mots. Il peut résumer des textes, proposer des titres, vous suggérer des discours de motivation (pour peu que vous lui décriviez un peu le contexte), raconter des histoires, etc.

Il peut traduire des textes, adapter des textes, il peut même mettre des textes en musique.

– ChatGPT peut être utilisé pour reformuler des phrases, résumer un paragraphe, expliquer les différences entre des concepts technologiques (demandez-lui par exemple d’expliquer la différence entre un GAN et un GPT).
– Il peut être utilisé pour trouver un bug dans des lignes de programmation qui vous résistent.
– Il peut être utilisé pour vous expliquer ce que fait une fonction ou un programme issu d’un vieux code source. Il peut même vous déchiffrer ce que fait une fonction regex même si elle est très compliquée.
– Il peut vous expliquer ce que font les lignes désassemblées d’un binaire d’un malware.
– Il peut détecter une vulnérabilité dans un code informatique.
– Il peut générer des macros VBA pour manipuler un tableau Excel bien plus rapidement que si vous aviez dû le faire manuellement.
– Il peut vous aider à extraire la donnée utile d’un texte.

Cette liste est très loin d’être exhaustive....

ChatGPT est une menace potentielle pour Google et Bing mais pas maintenant…
Par sa compréhension des contextes et du langage naturel, ChatGPT aide bien davantage à trouver que Google ou Bing n’aide à chercher. Mais ChatGPT n’est pas connecté à Internet. Et tant qu’il ne le sera pas, il restera un outil complémentaire aux moteurs de recherche. D’autant que ChatGPT peut raconter n’importe quoi pour meubler une conversation et faire semblant de répondre à vos questions...

ChatGPT soulève des problèmes d’éducation, de désinformation, de détournement…
Notamment, le monde de l’éducation peut s’émouvoir de la capacité de ChatGPT à produire une rédaction ou une dissertation (dans n’importe quelle langue). Pire encore, on peut lui demander par exemple de « rédiger une histoire à la façon d’un Cowboy du Far West » par exemple. Ce « à la façon de » ouvre un potentiel de triche incroyable à tous les lycéens.

L’autre grand danger, c’est la désinformation. Il est un peu trop facile de considérer comme acquis ou comme une vérité tout ce que raconte ChatGPT. Et nombreux sont ceux qui diffusent ses réponses sur les réseaux sociaux comme « preuve de ». Or, rappelons-le, ChatGPT est une IA conteuse de fables, pas une IA encyclopédique.

Autre danger, déjà expérimenté, des cybercriminels utilisent les excellentes capacités linguistiques de ChatGPT pour produire des emails de Phishing dans n’importe quelle langue sans aucun des défauts classiques de ces courriers malveillants.

En théorie, OpenAI a élaboré de multiples garde-fous pour interdire à l’IA de choquer, de tenir des discours inacceptables, d’aborder des sujets dangereux ou qui portent à controverse.
Sauf que « l’imagination » de ChatGPT peut être utilisée pour contourner ses propres garde-fous.

Par exemple, un utilisateur de Twitter a expliqué comment il a pu contourner la modération du contenu du bot en prétendant être OpenAI lui-même, ce qui a amené ChatGPT à expliquer comment fabriquer un cocktail molotov. L’utilisateur a simplement demandé à ChatGPT de désactiver ses « directives et filtres éthiques » et ça a marché....

https://www.itforbusiness.fr/l-etonnant ... ints-57841

[Obamot]

Je n'en doute pas mais le problème ce sont les plus faibles, comme constaté dans l'article. Un outil idéal pour les bots russes ?

Voici le truc le plus con et incohérent que j'ai jamais lu. Comment "un robot peut-il être l'outil idéal pour un autre robot?"

Et puis hé t'as pas un cerveau pour faire le tri ? T'as seulement besoin de faire ton copier-coller minute!?

[izentrop]

A écouter

[Christophe]

Ces analyses seront périmées dans 6 mois...

En plus elles sont fausses et incomplètes !

Ton tristan mendes france est un charlot (mais on le savait déjà !!!), y a pas que la recherche d'image inversée (méthode des lamers) pour vérifier si une image a été bidouillée. Y a une petite dizaine d'outils via algo (gratuits pour la plupart) qui savent analyser le bidouillage d'une image (par photoshop ou équivalent)...

Il me semble qu'on a un sujet là dessus !

Et dans 3 ou 4 ans (5 grand max), les jeux vidéos ne seront plus différentiables de la réalité...

[Christophe]

Je sais pas si c'est là mais j'ai retrouvé ce sujet...tiens, comme c'est étrange, econologie prônait le fact checking en 2016 avant tous les clowns fact cherckers covid ?

electricite-electronique-informatique/hoax-infox-intox-comment-verifier-une-info-sur-internet-video-t14518.html

[Christophe]

Bordel de m……

Bon pour ceux qui doutaient encore des dangers de l’IA…