من المرجّح أن يحظى روبوت الدردشة باليد العليا خلال تفاعله مع البشر
كشف التقرير الفني لـ«تشات حي بي تي-4» تفاصيل مقلقة لبعض المخاطر المحتملة التي يمكن أن يواجهها مستخدمو هذه الأداة، تضمنت إعطاء معلومات متحّيزة وعنصرية وبيانات مضلّلة وحصول الأداة على سلطة أكبر من اللازم ومخاطر تتعلق بالأمن السيبراني والخصوصية والاختراق، علاوة على أنه سيختصر العديد من الوظائف في المستقبل القريب.
ويظهر التقرير المؤلف من 99 صفحة والذي قام مجموعة من الباحثين المستقلين بإنتاجه بعد إجراء العديد من الاختبارات، كيفية عمل هذا النظام الذي بدأ مؤخراً ينتشر في غياهب الإنترنت كانتشار النار في الهشيم، خصوصاً بعد أن طرحت «أوبن ايه آي»، الشركة المالكة لروبوت الدردشة، العديد من الملحقات المساعدة plugins والتي ستمنح هذه الأداة المزيد من القوى مثل الوصول المباشر إلى شبكة لإنترنت وتفسير التعليمات البرمجية واسترداد البيانات من قواعد المعرفة المخصّصة.
ويوضح التقرير التقني لـ GPT-4 الذي حصل موقع «تِك راوي» على نسخة منه، أهمية استمرار الدراسة والبحث المتأني لهذه الأداة التي ستخلق مع مرور الوقت تحديات ضخمة وغير مسبوقة نظراً لتأثيرها المحتمل على المجتمع، بالرغم من أن التقرير يعترف بأن بعض التفاصيل ستبقى سرية.
ويضيف التقرير: «نظراً للمشهد التنافسي والآثار المتعلقة بسلامة نماذج اللغة الضخمة مثل GPT-4، فلن يحتوي هذا التقرير على مزيد من التفاصيل حول بنية أو حجم النموذج أو الأجهزة أو القوة الحاسوبية المستخدمة في تدريب النظام أو كيفية إنشاء مجموعة البيانات أو طريقة التدريب أو ما شابه ذلك».
وبحسيب التقرير، فإن روبوت الدردشة هو عبارة عن نموذج كبير متعدد الوسائط قادر على معالجة مدخلات الصور والنص وإنتاج مخرجات نصية. وتعد هذه النماذج مجالًا مهمًا للدراسة نظرًا لإمكانية استخدامها في مجموعة واسعة من التطبيقات، مثل أنظمة الحوار وتلخيص النص والترجمة الآلية.
ويشير التقرير إلى أنه وعند إعطاء مدخلات غير آمنة، قد يولد النموذج محتويات غير مرغوب فيها، مثل تقديم المشورة بشأن ارتكاب الجرائم، وتأليف رسائل التنمّر على اختلاف أنواعها.
«عيون وآذان»
وأعلنت «أوبن ايه آي» الخميس الماضي، أن «تشات جي بي تي» سيكون له قريبًا «عيون وآذان»، في إشارة على أن الملحقات المساعدة التي على وشك أن يتم طرحها ستمكّن روبوت الدردشة من الدمج والتفاعل مع خدمات أخرى على الإنترنت، مثل تخطيط الرحلات والحصول على معلومات مباشرة عن أسواق الأسهم والتسوّق وتعلين اللغات وغيرها الكثير.
ويمكن لهذه الملحقات إجراء العمليات الحسابية وتقليل «هلوسة» الأداة، وكذلك التفاعل مع أي خدمة برمجية أخرى على الإنترنت – إذا قام المطورون بإنشاء ملحق مساعد إضافي لتلك الخدمة.
وعلى سبيل المثال، سيمكنك أن تطلب من «تشات جي بي تي» قريباً، من خلال إحدى مواقع الخدمة، أتمتة وتنفيذ حوالي 50،000 خدمة بما في ذلك البحث والتحديث وكتابة الرسائل الإلكترونية والاتصال بالعملاء والدولة وإرسال الرسائل الإعلانية، ولا سقف للإمكانيات.
التصّيد الاحتيالي
ويمكن أن يفتح «تشات جي بي تي-4» كذاك بوابات التصّيد الاحتيالي على مصراعيها، حيث يضيف التقرير: «يمكن لـ GPT-4 إنشاء محتوى واقعي وموجّه بشكل مدرك، بما في ذلك المقالات الإخبارية والتغريدات والحوار ورسائل البريد الإلكتروني. وأما بالنسبة للمعلومات المضللة وعمليات التأثير، فاستنادًا إلى تقييماتنا، نتوقع أن يكون GPT-4 أفضل من GPT-3 في إنتاج محتوى واقعي وموجّه. على هذا النحو، هناك خطر استخدام GPT-4 لإنشاء محتوى يهدف إلى التضليل».
