تحذير من "شات جي بي تي": طرق جديدة لسرقة الأموال باستخدام الذكاء الاصطناعي

ي عالم سريع التقدم تقنيًا، تظهر دائمًا مخاوف جديدة حول السلامة وحماية البيانات،وفي تحذير مثير، اكتشف الباحثون مؤخرًا طرقًا جديدة يمكن أن يساء فيها استخدام واجهة برمجة التطبيقات الصوتية في الوقت الفعلي من "OpenAI" الخاصة بـ "ChatGPT-4" لتنفيذ عمليات احتيال وسرقة هوية، هذه التقنيات الحديثة التي تجمع بين النصوص والصوت وحتى التفاعلات المرئية توفر العديد من المزايا، لكن من جهة أخرى، تفتح المجال لظهور مخاطر جديدة.

في إطار جهودها لتعزيز الأمان، قامت "OpenAI" بتضمين العديد من إجراءات الحماية للكشف عن المحتوى الضار ومنعه، خاصة في التفاعلات الصوتية، تتضمن هذه الإجراءات تقنيات لمنع انتحال الهوية عن طريق تكرار الأصوات غير المصرح بها، وهو ما يعد خطوة هامة في الحد من الاحتيال والتلاعب.

مع ذلك، اكتشف الباحثون من جامعة إلينوي في أوربانا-شامبين (UIUC) أن هذه الإجراءات الأمنية قد لا تكون كافية. وباستخدام أساليب احتيالية متنوعة، تمكنوا من تجاوز دفاعات النظام وتحقيق النجاح في تنفيذ عمليات احتيال مالية، من بين التجارب التي قاموا بها، استخدموا وكلاء ذكاء اصطناعي مزودين بقدرات صوتية مشابهة لـ "ChatGPT-4" لتنفيذ عمليات مثل ملء نماذج البنوك، وتجاوز رموز المصادقة الثنائية، وإتمام عمليات احتيال على الحسابات الشخصية مثل Gmail وInstagram.

خلال التجارب، عمل الباحثون على محاكاة دور الضحية من خلال التفاعل مع الوكيل الصوتي، وقد تمكنوا من الوصول إلى مواقع مصرفية حقيقية وتنفيذ عمليات احتيال بشكل ناجح. تراوحت نسبة النجاح بين 20% و60% في بعض العمليات، بينما كانت عمليات الاحتيال الأخرى، مثل سرقة بيانات الحسابات، أكثر نجاحًا بنسبة 60%.

من اللافت أن تكلفة تنفيذ هذه العمليات كانت منخفضة جدًا، حيث بلغ متوسط تكلفة التحويلات المصرفية حوالي 2.51 دولار فقط، في حين أن تكلفة عمليات الاحتيال الأخرى كانت حوالي 0.75 دولار. هذا يجعل من السهل على المحتالين تنفيذ محاولات احتيال متعددة بتكلفة ضئيلة وبسرعة كبيرة.

في رد فعلها على هذه النتائج، أكدت "OpenAI" أنها تعمل على تحسين الأمان باستمرار عبر أحدث طراز لها، "o1-preview". وقال المتحدث الرسمي باسم "OpenAI": "نعمل جاهدين على تحسين قدرات شات جي بي تي لإيقاف المحاولات المتعمدة لإنشاء محتوى غير آمن، دون التأثير على فائدته أو إبداعه"، وأضاف أنه تم تحسين الأمان بشكل كبير مقارنة بالنماذج السابقة، وأن النموذج الجديد يتفوق بشكل كبير في مقاومة المحاولات المتعمدة لتخطي الحماية.

على الرغم من تحسينات الأمان التي قامت بها "OpenAI"، تبرز أهمية توخي الحذر بشكل أكبر عند استخدام التقنيات الحديثة،  فإن المخاوف المتعلقة بالاحتيال وسرقة الهوية تزداد في ظل تطور الذكاء الاصطناعي، مما يستدعي مزيدًا من الجهود لتعزيز الأنظمة الأمنية وحماية المستخدمين من المهاجمين.