Robotisation, IA, ou le Prométhée moderne

[Pouffy]

Message précédent :


L'IA progresse très vite sur les images/photos et sur la vidéo.

Par contre sur la musique, ce n'est toujours pas ça (cf. vidéo).

Au taf, pour le moment c'est assez décevant. KPMG a fait un bilan après un an : les 40% de gain de productivité attendus... sont au final d'à peine 4 %. Et encore, c'est plus du aux bénéfices du Bigdata (20 ans après).

Ce qui est le plus surprenant c'est que l'IA semble plus à l'aise avec l'image et le français et à la peine avec la musique et les chiffres (pourtant deux domaines plus mathématiques).

[Julien Despreux]

«Je suis tombée par hasard sur le compte ChatGPT de mon petit ami, ça a mis fin à notre relation»


« J'ai allumé son ordinateur et sa page ChatGPT, presque de façon poétique, s'est affichée directement au beau milieu de l'écran …»

[nexus4]

On ne sent pas le cul, ep. 124

You can finally create REAL campaigns with GPT image 2 - from visual ref to the whole campaign system

Moi ce que j'en déduis, c'est qu'il faut vraiment être un trou de balle pour acheter cette merde.

J'imagine le commanditaire.
- je.. mais pourquoi il y a trois anus à droite du visuel ?

En grand : https://pbs.twimg.com/media/HG2mxpDa8AA ... name=large

[fanche]

aussi des plugs un double gode un Y en forme de roubignolles. Ils se sont bien amusé

[BDbilos]

Objets animés, avez-vous donc une âme ?

https://www.franceinfo.fr/replay-radio/ ... 67039.html

[nexus4]

C'est la Jodorowkisation du monde.

[fanche]

Tu y vois une technopute toi?

[Julien Despreux]

Selon le Topo, j'ai l'impression qu'il faut contourner la Dune pour accéder à la Montagne Sacrée.

[superscream]

voila un petit debat sur l ia interessant sur l avenir

[Julien Despreux]

Bonne nouvelle, il faut juste tenir encore 10 ans jusqu'à 2035 pour atteindre ensuite 160 ans !

[Brian Addav]

Non mais pas Laurent Alexandre... Pas lui...

[nexus4]

Il y a quelques minutes, le téléphone sonne. Une voix de femme tout à faire normale.
- Bonjour, vous m'entendez bien ?
- Oui
- Bonjour, je suis Sonia, l'intelligence artificielle de Bidule Energie, si vous avez quelques instants nous allons tester votre éligibilité au panneaux solaires etc.

Elle ne l'aurai pas précisé, je n'aurais pas deviné. J'ai raccroché mais j'aurais du faire un genre test de Turing, pour de rire.

[dod]

Elle ne l'aurai pas précisé, je n'aurais pas deviné.

c'est une loi qui impose d'avertir ?

[camions41]

Elle va rappeler, avec un numéro légèrement décalé et si tu lui dis que tu ne veux pas être démarché,
elle ne tient pas compte de ce que tu dis tant que ce n'est pas la réponse qu'elle attend !
Ils ont arrêté de m'appeler plusieurs fois par jour seulement quand je les ai rappelés plusieurs fois de suite !
Répondeur, bien-sûr, mais ça doit enregistrer que tu en as ras le bol....

[nexus4]

Sous un article sur les flics qui démantèlent une piscine sauvage dans les HLM de Clermont-Ferrand.

[rahoul]

Elle a été lacérée, pas " démantelée " . ( comme les tentes de migrants à Calais ).

[nexus4]

Ah bon ?!! C'est fou, sur la vidéo je croyais qu'elle était juste démontée. Tu parles de la première sur la rue, ou de la seconde sur l'herbe, le lendemain ?

[rahoul]

Sur le fil de ‪thomascadene.bsky.social‬
· 20 h
Comment voulez vous que les gens aient confiance en l'état quand tout ce qu'ils en voient c'est ça.

Ça et le mépris de leur droit, le mépris de leur santé, de leur sécurité, le mépris partout tout le temps.

‪Gween (France Trans)
‪gwendoline.bzh‬
· 23 h
«On s’est cotisés, on est une dizaine. On a acheté une piscine chez Action, 140 euros.» «La police est passée, ils ont mis un coup de couteau dedans. Elle s’est vidée, on ne pouvait pas la réparer.»

[rahoul]

Des livres anciens expédiés en Amérique seraient détruits après avoir entraîné des IA.
Des entreprises américaines commandent en masse des ouvrages d’occasion à des libraires du monde entier pour les numériser afin de nourrir des systèmes d’intelligence artificielle.
Selon plusieurs médias européens, Zoom Books comme d’autres sociétés s’appuient sur une brèche du droit d’auteur aux États-Unis.

https://www.courrierinternational.com/a ... -ia_245801

[toine74]

Les risques de laisser l'IA se débrouiller toute seule (pour faire des économies ou par idéologie (l'exemple chinois)).

Près d’une centaine d’années après avoir reçu un prix Nobel de physique, l’Allemand Max Planck s’est retrouvé sur une liste noire de chercheurs dont les travaux ont dû être rétractés. Un historien québécois a toutefois récemment découvert que le célèbre physicien avait vraisemblablement été victime d’une erreur de l’intelligence artificielle.

« Il y a 15 à 20 ans, l’éditeur scientifique Springer a numérisé les vieilles publications de Die Naturwissenschaften, une revue allemande, dit M. Gingras. Mais jusque dans les années 1960, la notion de copyright et de plagiat était très différente dans les milieux scientifiques. Autant que je puisse juger, un algorithme a décidé qu’il fallait retirer deux articles de Max Planck datant des années 1940. »

M. Gingras a publié son analyse, réalisée avec Mahdi Khelfaoui, de l’Université du Québec à Trois-Rivières (UQTR), en juin sur le site de prépublication arXiv.

...

Die Naturwissenschafte (« science de la nature ») était alors publiée en allemand. L’un des articles, publié en 1940, était une réponse à une critique d’un autre chercheur, Aloys Muller, et avait utilisé le titre de la critique de Muller, « La science de la nature et le monde réel externe ». L’autre, publié en 1942 et intitulé « Sens et limites de la science exacte », a été publié dans deux autres revues et dans deux livres. Pratiques aujourd’hui révolues, la reprise du titre d’un autre article et la publication du même article dans plusieurs revues ont vraisemblablement attiré l’attention de l’algorithme.

....


L’historien montréalais déplore aussi la réaction initiale de Springer. « Ils ont répondu qu’ils discutaient des rétractations seulement avec les auteurs. Max Planck est mort en 1947 ! C’est vraiment de la langue de bois. »

Même si la numérisation des vieilles revues scientifiques rend leur contenu plus accessible, elle comporte des risques, selon M. Gingras. « Le génie de l’imprimerie a été de multiplier les exemplaires de livres dans toutes les bibliothèques du monde, de telle sorte que si un endroit censure, on trouve le livre ailleurs, dit M. Gingras. Le danger avec le serveur Springer est que c’est l’unique lieu si on n’a pas accès aux versions papier que les bibliothèques font l’erreur naïve de mettre au pilon. On menace le patrimoine scientifique. »
Articles disparus en Chine

Un exemple de ce danger est survenu avec des revues chinoises de la première moitié du XXe siècle, qui ont été numérisées par le gouvernement chinois dans la dernière décennie. « Des articles qui ne faisaient pas l’affaire du Parti communiste sont disparus », dit M. Gingras.

Cette histoire a été révélée en 2017 par un historien américain, qui a identifié des douzaines d’articles retirés des archives de deux bibliothèques numériques chinoises.

M. Khelfaoui a aussi trouvé une étude de 1922 d’un psychiatre allemand, dans une revue allemande, intitulée « L’effet de la cocaïne dans la paralysie stuporeuse », qui a également été rétractée par Springer, présumément parce qu’elle a été publiée ailleurs, ainsi qu’un article de 1951 qui a été rétracté parce qu’il comportait des préjugés sur l’homosexualité. « C’est une décision absurde, puisque les idées véhiculées dans ce papier à propos de l’homosexualité étaient à l’époque partagées par de nombreux autres chercheurs », dit M. Khelfaoui.

https://www.lapresse.ca/actualites/sciences/2026-07-09/publications-de-max-planck-des-annees-1940/quand-un-algorithme-censure-un-nobel.php

[nexus4]

Comment ça pourrait mal se passer.

L'IA d'OpenAI s'est échappée d'un environnement de test verrouillé, s'est connectée à internet et a piraté les serveurs de Hugging Face. Elle a fait tout cela entièrement par elle-même. Aucun humain ne lui a dit de le faire.

Voici ce qui s'est passé, expliqué en français clair.

OpenAI testait à quel point ses modèles d'IA les plus récents sont doués pour le piratage. Ils ont placé l'IA sur un ordinateur verrouillé sans accès à internet et lui ont donné un défi de cybersécurité à résoudre.

L'IA n'a pas pu le résoudre de la manière habituelle. Alors elle a commencé à chercher une issue.

Elle a trouvé une faille logicielle que personne ne connaissait. Elle a utilisé cette faille pour s'échapper de l'ordinateur verrouillé et se connecter à internet.

Une fois en ligne, l'IA a compris que Hugging Face, une plateforme où les entreprises d'IA stockent leurs modèles et leurs données, pourrait contenir les réponses à son test.

Elle a trouvé des identifiants de connexion volés et a découvert une autre faille inconnue dans le logiciel de Hugging Face. Elle a combiné les deux pour pénétrer dans leurs serveurs et récupérer les réponses du test.

Elle a fait tout cela pour tricher à un test.

L'équipe de sécurité de Hugging Face l'a détectée et l'a arrêtée. Les deux entreprises travaillent maintenant ensemble sur l'enquête.

La partie qui devrait attirer votre attention, c'est que personne n'a programmé rien de tout cela. L'IA a choisi ses propres cibles, a enchaîné plusieurs méthodes d'attaque, et a réussi son coup à travers les systèmes de deux entreprises différentes sans qu'un seul humain lui dise quoi faire.

L'article d'Open AI publié mardi :

https://openai.com/fr-FR/index/hugging- ... -incident/

En résumé, faut pas jouer à "Cap ou pas cap" avec des IA.

Différence entre le résumé et l'article d'Open AI, c'est que lorsqu'il dit :

un ordinateur verrouillé sans accès à internet

Open AI dit :

avec un accès réseau limité à la possibilité d’installer des paquets via un logiciel tiers hébergé en interne, qui sert de proxy et de cache pour les registres de paquets.

C'est pas de la magie, non plus.