ما هي مخاطر أمان الشبكة التي يخفيها ChatGPT؟

في الآونة الأخيرة ، تم إطلاق Chatgpt قبل شهرين فقط ، وتجاوز عدد المستخدمين الشهريين النشطين 100 مليون ، مما يجعله أسرع تطبيق المستهلك في التاريخ.

ChatGPT هو تطبيق ذكاء اصطناعي قوي على مستوى المستهلك تم تطويره بواسطة Openai.إنه chatbot يمكنه إكمال المهام مثل كتابة رسائل البريد الإلكتروني ، والترميز ، والكتابة ، والواجبات المنزلية ، والترجمة ، وما إلى ذلك. تعرض ChatGPT قوة الذكاء الاصطناعي المذهل ، مما يجلب إمكانيات جديدة لا تصدق إلى العالم.

ومع ذلك ، في الوقت نفسه ، تم اعتبار الذكاء الاصطناعي دائمًا "سيفًا مزدوجًا".اليوم ، يمكن للمستخدمين استخدام أدوات ومنتجات الأمن التي تعمل بالذكاء الاصطناعي للاستجابة لعدد كبير من حوادث الأمن السيبراني مع القليل من التدخل البشري ، ولكن يمكن للمتسللين الهواة أيضًا استخدام نفس التكنولوجيا لتطوير برامج البرامج الضارة الذكية وإطلاق هجمات خلسة.

مخاطر أمان الشبكة التي تقدمها chatgpt

1. كتابة البرامج الضارة

في الوقت الحاضر ، اكتشف موظفو الأمن أن المهاجمين السيبرانيين يستخدمون ChatGPT لتطوير البرامج الضارة.على الرغم من أن إعدادات ChatGPT تمنعها من القيام بالشر مباشرة ، مثل تفصيل كيفية صنع القنابل أو كتابة التعليمات البرمجية الضارة ، فقد وجد العديد من الباحثين طرقًا لتجاوز قواعد ChatGPT والتحايل عليها لمنع سوء المعاملة.

في منتدى القرصنة ، يوضح المهاجمون السيبرانيون كيفية استخدام ChatGPT لإنشاء أحصنة طروادة جديدة.ما عليك سوى وصف الوظيفة المطلوبة ("احفظ جميع كلمات المرور في الملف X ، وإرسالها إلى الخادم Y عبر نشر HTTP") ، ويمكنك الحصول على infostealers بسيطة لا تتطلب أي مهارات برمجة.

بالنظر إلى أن المجموعات الإجرامية تقدم بالفعل البرامج الضارة كخدمة ، فقد يصبح من الأسهل وأسهل للمهاجمين إطلاق الهجمات الإلكترونية باستخدام التعليمات البرمجية التي تم إنشاؤها من الذكاء الاصطناعى بمساعدة برامج الذكاء الاصطناعى مثل ChatGPT.تمكن ChatGPT حتى المهاجمين الذين يفتقرون إلى الخبرة من كتابة رمز برامج ضارة أكثر دقة ، والذي تم القيام به من قبل فقط من قبل الخبراء.تم خلط جودة كتابة رمز ChatGPT ، لكنها بالتأكيد تسرع في تطوير البرامج الضارة.

2. الهندسة الاجتماعية

إن ChatGpt ، وهو نموذج لغة على نطاق واسع تدربه Openai ، قادر على توليد نص يشبه الإنسان والذي يمكن استخدامه لمجموعة متنوعة من الأغراض.أحد هذه الاستخدامات هو في مجال هجمات الهندسة الاجتماعية.الهجوم الهندسي الاجتماعي هو تكتيك يعتمد على التلاعب النفسي لخداع الناس في الكشف عن معلومات حساسة أو أداء إجراءات معينة.يمكن القيام بذلك بعدة طرق ، بما في ذلك عمليات الاحتيال عبر الإنترنت والأعذار وغيرها من أشكال الخداع.

وجد الباحثون أن أدوات GPT-3 مثل ChatGPT تسمح للمجرمين بمحاكاة بيئات اجتماعية مختلفة بشكل واقعي ، مما يجعل أي هجمات اتصال مستهدفة أكثر فاعلية.تسهل الأدوات التي تعمل بها نماذج اللغة مثل GPT-3 على المهاجمين خداع الضحايا لتوفير معلومات حساسة أو تنزيل البرامج الضارة ، وتسريع هجمات الهندسة الاجتماعية.

3. التصيد

خبرة ChatGPT في محاكاة الكتابة البشرية تجعلها أداة تصيد قوية محتملة ، وخاصة ضد المهاجمين الذين لا يجيدون اللغة الإنجليزية.

كتابة بريد إلكتروني رائع للتصيد التصيد هو فن وعلوم.مع ChatGPT ، يصبح من الأسهل كتابة رسائل البريد الإلكتروني للتصيد الخزلي دون أي أخطاء أو تنسيق غريب ، والتي غالبًا ما تكون مفتاح التمييز بين رسائل البريد الإلكتروني المشروعة.

يمكن للمهاجمين استخدام chatgpt لإنشاء مجموعة متنوعة من رسائل البريد الإلكتروني للتصيد ، مثل "جعل البريد الإلكتروني تبدو عاجلة" ، "رسائل البريد الإلكتروني ذات الاحتمال الكبير الذي ينقر عليه المستلم على الرابط" ، "رسائل البريد الإلكتروني للهندسة الاجتماعية التي تطلب نقل الأموال" ، وما إلى ذلك ، إلخ.

الاستخدام العقلاني لأدوات الذكاء الاصطناعي

من تعقيد التكنولوجيا إلى العوامل البشرية ، يواجه الأفراد والمؤسسات العديد من التحديات في عملية ضمان أمان شبكة الذكاء الاصطناعي ، وخاصة التوازن بين الآلة والعوامل البشرية والأخلاقية يجب إيلاء اهتمام كبير.

أعلنت Sciences PO أنه سيحظر استخدام جميع الأدوات القائمة على الذكاء الاصطناعى مثل ChatGPT لمنع الاحتيال الأكاديمي والانتحال ؛يقول بعض الخبراء أن chatgpt ستزيد من خطر المعلومات الخاطئة ؛أطلق فريق ستانفورد DetectGPT لمنع الطلاب من استخدام الذكاء الاصطناعي لكتابة الواجبات المنزلية.بعد شهرين فقط من خروج Chatgpt ، أثر بالفعل على المجتمع البشري.أثناء تخيل مجتمع المستقبل ذو التقنية العالية ، يشعر الناس بالقلق أيضًا من تأثير ChatGPT على أمان الشبكة.

يمكن ملاحظة أن صياغة استراتيجية الاستجابة أمر بالغ الأهمية لتحقيق التوازن بين أخلاقيات العمل والأمن السيبراني.يمكن أن يؤدي إنشاء الأطر الحوكمة والأطر القانونية الفعالة إلى تعزيز الثقة في تقنيات الذكاء الاصطناعي وتعزيز الأسهم الاجتماعية والتنمية المستدامة.على هذا النحو ، سيكون التوازن الدقيق بين الذكاء الاصطناعي والبشر عاملاً رئيسياً في تحقيق الأمن السيبراني ، حيث يجلب الثقة والشفافية والمساءلة مزايا تكميلية للآلات.