Risques potentiels de sécurité réseau de chatppt
Chatgpt est un nouvel outil de traitement du langage naturel axé sur la technologie de l'intelligence artificielle lancée par OpenAI.Sur le site officiel d'OpenAI, Chatgpt est décrit comme un modèle de langue pour optimiser le dialogue.Il peut effectuer des conversations en apprenant et en comprenant le langage humain, et peut également interagir en fonction du contexte du chat.Il peut vraiment discuter et communiquer comme un être humain, et peut même effectuer des tâches telles que la rédaction d'e-mails, les scripts vidéo, la rédaction, la traduction et le code.
Openai a ouvert le test de Chatgpt le 30 novembre 2022, et Chatgpt est devenu populaire dans le monde entier depuis lors.Deux mois plus tard, Chatgpt a atteint 100 millions d'utilisateurs, avec environ 590 millions de visites en janvier.Les analystes UBS ont écrit dans le rapport qu'il s'agit de l'application de consommation à la croissance la plus rapide dans le domaine de l'internet en 20 ans.
Selon les rapports des médias, l'explosion initiale de Chatgpt découle du fait qu'elle a été induite par un ingénieur à rédiger un plan pour détruire l'humanité.Le contenu du plan est même détaillé pour envahir les systèmes informatiques de divers pays, contrôler les armes, détruire les systèmes de communication et de transport, etc., et même donner le code Python correspondant.
Ce n'est pas sensationnel.Quelques semaines après le lancement de Chatgpt, plusieurs sociétés de cybersécurité du monde entier ont publié une série de rapports prouvant que le bot peut être utilisé pour écrire des logiciels malveillants.Jusqu'à présent, American Threat Intelligence Company enregistrée Future a trouvé plus de 1 500 références sur le Web Dark Web sur l'utilisation de Chatgpt pour développer des logiciels malveillants et créer des codes de preuve de concept, dont la plupart sont accessibles au public.
Depuis que Chatgpt est devenu populaire, d'autres discussions ont été sur des problèmes de sécurité des données.
1. Problème de fuite de données.
Lorsque les employés utilisent le chatppt pour les travaux auxiliaires, le risque de fuite secrète d'entreprise augmente également.En janvier 2023, un ingénieur principal au bureau du directeur de la technologie de Microsoft a répondu qu'il est autorisé à utiliser Chatgpt au travail tant qu'il ne partage pas d'informations confidentielles avec Chatgpt.Les avocats des entreprises d'Amazon ont également averti les employés de ne partager aucune information confidentielle d'Amazon avec Chatgpt, car les informations saisies pourraient être utilisées comme données de formation pour d'autres itérations de Chatgpt.
2. La question du droit de supprimer.
Bien que Chatgpt promet de supprimer toutes les informations personnellement identifiables des enregistrements qu'il utilise, Chatgpt n'explique pas comment il supprime les informations, et comme les données collectées seront utilisées pour l'apprentissage continu de Chatgpt, il est difficile de garantir l'effacement complet des traces d'informations personnelles.
3. Problèmes de conformité de l'acquisition du Corpus.
Alexander, membre du Pool d'experts de soutien de l'European Data Protection Board (EDPB), a déclaré que la méthode d'obtention des données de Chatgpt doit être entièrement divulguée.Si Chatgpt obtient ses données de formation en rampant des informations sur Internet, elle peut ne pas être légale.
De plus, l'utilisation malveillante des utilisateurs de Chatgpt apportera également de nombreux problèmes de sécurité des données.Par exemple, utilisez la possibilité d'écrire en langage naturel pour écrire des logiciels malveillants pour échapper à la détection des logiciels anti-virus;Utilisez la fonction d'écriture de ChatGpt pour générer des e-mails de phishing;Utilisez la fonction de dialogue pour faire semblant d'être une vraie personne ou une organisation pour frauder les autres.
Dans ce contexte, OpenAI a émis un avertissement public que les régulateurs sont désormais tenus d'intervenir pour empêcher les systèmes d'IA génératifs tels que Chatgpt de la société potentiellement négativement impactant.