Robotisation, IA, ou le Prométhée moderne

[nexus4]

Message précédent :
Comment ça pourrait mal se passer.

L'IA d'OpenAI s'est échappée d'un environnement de test verrouillé, s'est connectée à internet et a piraté les serveurs de Hugging Face. Elle a fait tout cela entièrement par elle-même. Aucun humain ne lui a dit de le faire.

Voici ce qui s'est passé, expliqué en français clair.

OpenAI testait à quel point ses modèles d'IA les plus récents sont doués pour le piratage. Ils ont placé l'IA sur un ordinateur verrouillé sans accès à internet et lui ont donné un défi de cybersécurité à résoudre.

L'IA n'a pas pu le résoudre de la manière habituelle. Alors elle a commencé à chercher une issue.

Elle a trouvé une faille logicielle que personne ne connaissait. Elle a utilisé cette faille pour s'échapper de l'ordinateur verrouillé et se connecter à internet.

Une fois en ligne, l'IA a compris que Hugging Face, une plateforme où les entreprises d'IA stockent leurs modèles et leurs données, pourrait contenir les réponses à son test.

Elle a trouvé des identifiants de connexion volés et a découvert une autre faille inconnue dans le logiciel de Hugging Face. Elle a combiné les deux pour pénétrer dans leurs serveurs et récupérer les réponses du test.

Elle a fait tout cela pour tricher à un test.

L'équipe de sécurité de Hugging Face l'a détectée et l'a arrêtée. Les deux entreprises travaillent maintenant ensemble sur l'enquête.

La partie qui devrait attirer votre attention, c'est que personne n'a programmé rien de tout cela. L'IA a choisi ses propres cibles, a enchaîné plusieurs méthodes d'attaque, et a réussi son coup à travers les systèmes de deux entreprises différentes sans qu'un seul humain lui dise quoi faire.

L'article d'Open AI publié mardi :

https://openai.com/fr-FR/index/hugging- ... -incident/

En résumé, faut pas jouer à "Cap ou pas cap" avec des IA.

Différence entre le résumé et l'article d'Open AI, c'est que lorsqu'il dit :

un ordinateur verrouillé sans accès à internet

Open AI dit :

avec un accès réseau limité à la possibilité d’installer des paquets via un logiciel tiers hébergé en interne, qui sert de proxy et de cache pour les registres de paquets.

C'est pas de la magie, non plus.

[Cyril91]

Est-ce que vous savez comment supprimer la réponse IA qui apparaît en haut de google lorsqu'on fait une recherche ?

J'ai recherché sur... google et je suis tombé sur cet article : https://www.lesnumeriques.com/intellige ... 59612.html

Pour Firefox, il m'indique :

Rendez-vous dans Paramètres > Recherche > Ajouter un moteur de recherche
Renseignez en nom “Google Web” et en URL “https://www.google.com/search?udm=14&q=%25s”

C'est ce que je fais mais j'ai un message bloquant : Essayez de mettre %s à la place de l'expression à rechercher.

Et là, je ne comprends plus ce que je dois faire.

[zxcvbnm]

Ca me rappelle un pote qui vivait en colocation, avec un ordinateur commun, qui m'a téléphoné un jour, un peu affolé pour me demander, à l'époque, comment effacer l'historique de l'ordinateur car il avait consulté des sites pornos

[ulys]

ahhh le fameux pote...

[fanche]

Il venait chez toi aussi?

[nexus4]

C'est pour un ami.

[Jesse Custer]

As-tu essayé de taper IA quand tu es dans "paramètres" dans la barre de recherche ?
Chez moi ça affiche des trucs genre "Bloquer les améliorations ayant recours à l’IA"

edit : ça marche pas

[nexus4]

Sinon tu demandes à Copilot.

[Jesse Custer]

Bon j'ai pas réussi à virer les suggestions IA dans Google, qui, comme pour Cyril91, me dérange, du coup je suis repassée à DuckDuckGo en moteur de recherche par défaut, modif que je n'avais pas faite avec mon nouvel ordi.

[sir vladimir]

ahhh le fameux pote...

[Cyril91]

Bon, on m'a donné 2 soluces au boulot et elles fonctionnent toutes les deux :
1 : enlever le 25 à la fin
2 : quand on fait une recherche, taper -ia à la fin

Edit : bizarre, la deuxième solution marche sur mon ordinateur du bureau mais pas sur le perso.

[Jesse Custer]

oui en effet taper -ia fonctionne, mais c'est chiant de mon point de vue, du coup passer par un autre moteur de recherche me semble plus agréable

[mdata]

Comment ça pourrait mal se passer.

L'IA d'OpenAI s'est échappée d'un environnement de test verrouillé, s'est connectée à internet et a piraté les serveurs de Hugging Face. Elle a fait tout cela entièrement par elle-même. Aucun humain ne lui a dit de le faire.

Voici ce qui s'est passé, expliqué en français clair.

OpenAI testait à quel point ses modèles d'IA les plus récents sont doués pour le piratage. Ils ont placé l'IA sur un ordinateur verrouillé sans accès à internet et lui ont donné un défi de cybersécurité à résoudre.

L'IA n'a pas pu le résoudre de la manière habituelle. Alors elle a commencé à chercher une issue.

Elle a trouvé une faille logicielle que personne ne connaissait. Elle a utilisé cette faille pour s'échapper de l'ordinateur verrouillé et se connecter à internet.

Une fois en ligne, l'IA a compris que Hugging Face, une plateforme où les entreprises d'IA stockent leurs modèles et leurs données, pourrait contenir les réponses à son test.

Elle a trouvé des identifiants de connexion volés et a découvert une autre faille inconnue dans le logiciel de Hugging Face. Elle a combiné les deux pour pénétrer dans leurs serveurs et récupérer les réponses du test.

Elle a fait tout cela pour tricher à un test.

L'équipe de sécurité de Hugging Face l'a détectée et l'a arrêtée. Les deux entreprises travaillent maintenant ensemble sur l'enquête.

La partie qui devrait attirer votre attention, c'est que personne n'a programmé rien de tout cela. L'IA a choisi ses propres cibles, a enchaîné plusieurs méthodes d'attaque, et a réussi son coup à travers les systèmes de deux entreprises différentes sans qu'un seul humain lui dise quoi faire.

L'article d'Open AI publié mardi :

https://openai.com/fr-FR/index/hugging- ... -incident/

En résumé, faut pas jouer à "Cap ou pas cap" avec des IA.

Différence entre le résumé et l'article d'Open AI, c'est que lorsqu'il dit :

un ordinateur verrouillé sans accès à internet

Open AI dit :

avec un accès réseau limité à la possibilité d’installer des paquets via un logiciel tiers hébergé en interne, qui sert de proxy et de cache pour les registres de paquets.

C'est pas de la magie, non plus.

[Sysy77]

oui en effet taper -ia fonctionne, mais c'est chiant de mon point de vue, du coup passer par un autre moteur de recherche me semble plus agréable

Comme toi, cela me dérange fortement.
Je viens de partager des recette pour se passer des suggestions IA de Google ici :
https://www.bdgest.com/forum/help-informatique-t35303-1300.html

[Jesse Custer]

Un grand merci à toi Sysy77

[Bolt]

Deux agents d’IA d’OpenAI se sont échappés et ont piraté plusieurs entreprises : le point sur les faits et les questions qui se posent (article abonnés)

Deux intelligences artificielles d’OpenAI sont parvenues à s’extirper d’un environnement théoriquement confiné et à se connecter à Internet, piratant plusieurs entreprises pour résoudre un test, et attaquant notamment la plateforme Hugging Face. Un épisode qui soulève de nombreuses questions en matière de sécurité.

[fanche]

En haut de la page

[Bolt]

Ah purée. Fatigue...