مخاطر أمان الشبكة المحتملة من chatgpt

ChatGPT هي أداة جديدة معالجة اللغة الطبيعية القائمة على تكنولوجيا الذكاء الاصطناعي التي أطلقتها Openai.على موقع Openai الرسمي ، يوصف ChatGPT كنموذج لغة لتحسين الحوار.يمكن أن تجري محادثات من خلال تعلم اللغة البشرية وفهمها ، ويمكنها أيضًا التفاعل وفقًا لسياق الدردشة.يمكنه حقًا الدردشة والتواصل مثل إنسان ، ويمكنه حتى إكمال المهام مثل كتابة رسائل البريد الإلكتروني ، ونصوص الفيديو ، وكتابة النصوص ، والترجمة ، والرمز.

افتتح Openai اختبار ChatGpt في 30 نوفمبر 2022 ، وأصبح ChatGpt شائعًا في جميع أنحاء العالم منذ ذلك الحين.بعد شهرين ، وصل Chatgpt إلى 100 مليون مستخدم ، مع حوالي 590 مليون زيارة في يناير.كتب محللو UBS في التقرير أن هذا هو تطبيق المستهلك الأسرع نموًا في مجال الإنترنت منذ 20 عامًا.

وفقًا لتقارير وسائل الإعلام ، فإن الانفجار الأولي لـ ChatGPT ينبع من حقيقة أنه تم إحداثه من قبل مهندس لكتابة خطة لتدمير البشرية.تم تفصيل محتوى الخطة حتى غزو أنظمة الكمبيوتر في مختلف البلدان ، والتحكم في الأسلحة ، وتدمير أنظمة الاتصالات والنقل ، وما إلى ذلك ، وحتى إعطاء رمز Python المقابل.

هذا ليس مثيرًا.بعد أسابيع قليلة من إطلاق Chatgpt ، أصدرت العديد من شركات الأمن السيبراني في جميع أنحاء العالم سلسلة من التقارير التي تثبت أنه يمكن استخدام الروبوت لكتابة البرامج الضارة.حتى الآن ، عثرت شركة American Threat Intelligence Company التي تم تسجيلها في المستقبل على أكثر من 1500 مرجع على شبكة الشبكة المظلمة حول استخدام ChatGPT لتطوير البرامج الضارة وإنشاء رموز إثبات المفهوم ، والتي يتوفر معظمها للجمهور.

منذ أن أصبحت ChatGPT شائعة ، كانت المزيد من المناقشات حول مشكلات أمان البيانات.

1. مشكلة تسرب البيانات.

عندما يستخدم الموظفون chatgpt للعمل الإضافي ، يزداد خطر تسرب العمل السري أيضًا.في يناير 2023 ، أجاب مهندس كبير في مكتب كبير موظفي التكنولوجيا في Microsoft أنه يُسمح له باستخدام ChatGPT في العمل طالما أنه لا يشارك معلومات سرية مع ChatGPT.حذر محامو الشركات من أمازون بالمثل من الموظفين من مشاركة أي معلومات سرية لـ Amazon مع ChatGPT ، حيث يمكن استخدام المعلومات التي تم إدخالها كبيانات تدريب لمزيد من التكرارات لـ ChatGPT.

2. مسألة الحق في الحذف.

على الرغم من أن ChatGPT يعد بحذف جميع المعلومات الشخصية القابلة للتحديد من السجلات التي تستخدمها ، فإن ChatGPT لا تشرح كيف تحذف المعلومات ، وبما أن البيانات التي تم جمعها سيتم استخدامها للتعلم المستمر لـ ChatGPT ، فمن الصعب ضمان محو كامل لمؤسسات المعلومات الشخصية.

3. قضايا الامتثال لجسس اكتساب.

قال ألكساندر ، وهو عضو في مجموعة خبراء دعم مجلس حماية البيانات الأوروبية (EDPB) ، إن طريقة ChatGPT للحصول على البيانات تحتاج إلى الكشف بالكامل.إذا حصلت ChatGPT على بيانات التدريب الخاصة بها عن طريق تزحف المعلومات على الإنترنت ، فقد لا يكون ذلك قانونيًا.

بالإضافة إلى ذلك ، سيؤدي الاستخدام الضار للمستخدمين لـ ChatGPT إلى تقديم العديد من مشكلات أمان البيانات.على سبيل المثال ، استخدم القدرة على الكتابة بلغة طبيعية لكتابة البرامج الضارة للتهرب من اكتشاف البرامج المضادة للفيروسات ؛استخدم وظيفة الكتابة لـ ChatGpt لإنشاء رسائل البريد الإلكتروني للتصيد.استخدم وظيفة الحوار للتظاهر بأنه شخص حقيقي أو منظمة للاحتيال على الآخرين.

في هذا السياق ، أصدر Openai تحذيرًا عامًا مفاده أن المنظمين مطلوبون الآن للتدخل لمنع أنظمة الذكاء الاصطناعى التوليدي مثل ChatGPT من المجتمع الذي يحتمل أن يؤثر سلبًا.