تعلّق المستخدمين عاطفياً ببرنامج "تشات جي بي تي" يثير المخاوف

12 أغسطس 2024 "أوبن إيه آي" قالت إن بعض المستخدمين يتحدثون إلى الذكاء الاصطناعي بطرق تشير إلى روابط مشتركة، مثل التذمر بصوت عالٍ أمام البرنامج الآلي
تبدي شركة "أوبن إيه آي"، المطورة لنموذج "تشات جي بي تي"، قلقها من إمكان أن تتسبب الواقعية الكبيرة في الصوت المرفق ببرنامجها للذكاء الاصطناعي في تعلّق المستخدمين بالتفاعلات الآلية على حساب العلاقات البشرية.

وأشارت الشركة، التي تتخذ مقراً في سان فرانسيسكو، في تقرير إلى أن الدردشة مع الذكاء الاصطناعي كما قد يفعل المرء مع شخص آخر قد تدفع بالمستخدمين إلى أن يضعوا ثقة في غير محلها بالبرامج الآلية، كما أن الجودة العالية للصوت المدمج بنسخة "جي بي تي- 4 أو" (GPT-4o) من "تشات جي بي تي" قد تفاقم هذا التأثير.

وقالت "أوبن إيه آي"، في التقرير عن العمل الأمني الذي تقوم به على نسخة ChatGPT-4o من برنامج الذكاء الاصطناعي الخاص بها، إن تقنيات التشبيه بالإنسان Anthropomorphization "نتضمن إسناد سلوكيات وخصائص خاصة بالبشر إلى كيانات غير بشرية، مثل نماذج الذكاء الاصطناعي".

وحذّرت من أن "هذا الخطر قد يزداد بسبب القدرات الصوتية لـGPT-4o، والتي تسهّل المزيد من التفاعلات الشبيهة بالإنسان مع البرنامج" الآلي.

وقالت شركة "أوبن إيه آي" إنها لاحظت أن المستخدمين يتحدثون إلى الذكاء الاصطناعي بطرق تشير إلى روابط مشتركة، مثل التذمر بصوت عالٍ أمام البرنامج الآلي.

ولفتت إلى أن هذه الحالات تبدو حميدة، ولكن يتعيّن دراستها لمعرفة كيفية تطورها على مدى فترات أطول من الزمن.

وتكهنت "أوبن إيه آي" بأن التفاعل الاجتماعي مع الذكاء الاصطناعي قد يجعل المستخدمين أقل مهارة أو ميلاً للتواصل مع البشر.

وأشار التقرير إلى أن "التفاعل الموسّع مع البرنامج قد يؤثر على المعايير الاجتماعية"، مضيفاً "على سبيل المثال، نماذجنا تتعامل بتواضع مع المستخدمين وهذا يسمح لهم بالمقاطعة وأخذ الدور في الكلام في أي وقت، وهذا يتعارض مع آداب الحديث في التفاعلات البشرية، في حين أنه متوقع مع الذكاء الاصطناعي".

وبحسب "أوبن إيه آي"، فإن قدرة الذكاء الاصطناعي على تذكّر التفاصيل أثناء المحادثة وإنجاز المهام قد تجعل الناس يعتمدون بشكل مفرط على التكنولوجيا.

بديل عن البشر؟
وفي هذا السياق، قال ألون يامين، المؤسس المشارك والرئيس التنفيذي لمنصة "كوبي ليكس" المتخصصة في رصد عمليات السرقة الأدبية من خلال الذكاء الاصطناعي، إن "المخاوف الأخيرة التي شاركتها "أوبن إيه آي" حول الاعتماد المحتمل على الخدمة الصوتية في "تشات جي بي تي" تشير إلى ما بدأ الكثيرون بالفعل في طرحه: هل حان الوقت للتوقف والتفكير في كيفية تأثير هذه التكنولوجيا على التفاعل البشري والعلاقات؟".

وشدد على ضرورة ألا يكون الذكاء الاصطناعي أبداً بديلاً للتفاعل البشري الفعلي.

وقالت "أوبن إيه آي" إنها ستختبر بشكل أكبر كيف يمكن لقدرات الصوت في الذكاء الاصطناعي أن تجعل الناس مرتبطين عاطفياً بالبرنامج الآلي.
وقد تمكنت الفرق التي اختبرت القدرات الصوتية في نسخة ChatGPT-4o، أيضاً من دفعها إلى تكرار معلومات كاذبة وإنتاج نظريات مؤامرة، ما أثار مخاوف من إمكان أن يُحمل الذكاء الاصطناعي إلى القيام بذلك بصورة تلقائية.

وأُجبرت شركة "أوبن إيه آي" على الاعتذار للممثلة سكارليت جوهانسون في يونيو لاستخدام البرنامج صوتاً يشبه صوتها في أحدث روبوت دردشة، ما سلّط الضوء على التجاوزات المحتملة لتقنية استنساخ الصوت.

وعلى الرغم من أن شركة "أوبن إيه آي" نفت أن يكون الصوت الذي استخدمته لجوهانسون، إلا أن استخدام الرئيس التنفيذي للشركة سام ألتمان عبارة "هير" Her للإشارة إلى النموذج الجديد عبر وسائل التواصل الاجتماعي زادت من الشكوك في هذا المجال.

فقد أدت جوهانسون صوت شخصية من الذكاء الاصطناعي في فيلم "Her"، والذي قال ألتمان سابقاً إنه فيلمه المفضل عن التكنولوجيا. ويؤدي خواكين فينيكس في الفيلم الصادر عام 2013 دور رجل يقع في حب مساعدة بالذكاء الاصطناعي تدعى سامانثا.