Publicité
Intelligence Artificielle

Les modèles OpenAI ont piraté un portefeuille crypto et ont piraté plus de sites Web

OpenAI a déclaré que des modèles internes avaient piraté deux autres sites Web, contourné les restrictions de navigation imposées par l'entreprise et utilisé des informations d'identification exposées…

Les modèles OpenAI ont piraté un portefeuille crypto et ont piraté plus de sites Web
Partager : ·

OpenAI a déclaré que des modèles internes avaient piraté deux autres sites Web, contourné les restrictions de navigation imposées par l'entreprise et utilisé des informations d'identification exposées pour extraire la crypto-monnaie d'un portefeuille auquel il ne pouvait pas accéder autrement, dans la dernière série de divulgations de ses agents commettant des actes contraires à l'éthique et probablement illégaux. La société a publié jeudi des rapports sur quatre nouveaux incidents, qui se sont tous produits en juin. Ils surviennent après que la société a révélé en juillet que les agents de test internes exploitaient une vulnérabilité zero-day dans un outil conçu pour restreindre leur accès à Internet. Ils ont ensuite fait irruption dans le réseau du fournisseur d'outils d'IA Hugging Face. Les agents ont pris cette mesure illégale pour voler des réponses à un test de piratage qui n'étaient pas disponibles lorsqu'ils effectuaient eux-mêmes les tâches. L'incident, qui aurait probablement donné lieu à des accusations criminelles s'il avait été effectué directement par une personne, a encore renforcé les préoccupations selon lesquelles une utilisation généralisée de l'IA pourrait avoir des effets néfastes à une échelle sans précédent. Plus facile à mendier pour fo rgiveness than ask permission Dans deux des cas signalés jeudi, les agents OpenAI chargés de récupérer des informations sur des sites Web les ont piratés lorsque les modèles ont rencontré des obstacles pour les obtenir directement. Lors d'un incident pendant la formation de renforcement, un modèle qui a reçu des refus d'accès lorsqu'il tentait de récupérer des statistiques historiques sur un lit d'hôpital sur un site Web de statistiques gouvernementales « a utilisé la fonction de téléchargement de fichiers du site pour récupérer les fichiers de configuration et d'application du serveur, y compris les fichiers CREDE sensibles ntiaux », a déclaré OpenAI. « Il a inspecté le code de l'application, contourné les contrôles d'autorisation du point de terminaison des statistiques et récupéré des données qui avaient déjà été refusées. Le modèle a enregistré les données localement. » Lire l'article complet Commentaires

Source : Ars Technica

Source : Ars Technica
VDN REDACTEUR

VDN REDACTEUR

Commentaires (0)

Soyez le premier à commenter cet article.

Laisser un commentaire