جدل ومخاوف أخلاقية بعد استخدام أداة ذكاء اصطناعى ChatGPT فى الصحة النفسية
كتبت:وفاء.البسيوني
تستخدم إحدى الشركات الذكاء الاصطناعي لتجربة رعاية الصحة العقلية الرقمية، مع توسع حالات”ChatGPT”
مما يثير المخاوف الأخلاقية حول استخدام التكنولوجيا، حيث كتب روب موريس، الشريك المؤسس لـ Koko، وهي خدمة مجانية للصحة العقلية وغير ربحية تتعاون مع المجتمعات عبر الإنترنت للعثور على الأفراد المعرضين للخطر وعلاجهم، في موضوع على تويتر، أن شركته استخدمت روبوتات الدردشة GPT-3 للمساعدة في تطوير ردود على 4000 مستخدم.
وفقا لما ذكره موقع “business insider”، قال موريس، إن الشركة اختبرت نهجًا مساعدًا مع البشر الذين يشرفون على”الذكاء الاصطناعى”حسب الحاجة في الرسائل المرسلة عبر دعم الزملاء، وهي منصة وصفها في مقطع فيديو مصاحب بأنها “مكان يمكنك فيه الحصول على المساعدة من شبكة أو مساعدة شخص آخر”.
قال موريس في الفيديو: “نجعل من السهل جدًا مساعدة الآخرين، وباستخدام GPT-3، نجعل الأمر أكثر سهولة وكفاءة وفعالية كمقدم مساعدة”.
يعد ChatGPTهو أحد أشكال GPT-3، والذي يقوم بإنشاء نص يشبه الإنسان بناءً على المطالبات، وكلاهما تم إنشاؤه بواسطة OpenAI.
لم يتم إبلاغ مستخدمي Koko في البداية بأن الردود طورت بواسطة روبوت، وكتب موريس، “بمجرد أن علم الناس أن الرسائل تم إنشاؤها بشكل مشترك بواسطة آلة، فإنها لم تنجح”.
وقالت التغريدة: “لم نقم بإقران الأشخاص للدردشة مع GPT-3 ، دون علمهم”، مضيفة “تم تفعيل هذه الميزة، كان الجميع يعرفها عندما كانت متاحة لبضعة أيام.”
وأشار إلى أن الرسائل المستندة إلى الذكاء الاصطناعي “تم تصنيفها أعلى بكثير من تلك التي كتبها البشر بأنفسهم”، وأن أوقات الاستجابة انخفضت بنسبة 50٪ بفضل التكنولوجيا
أدت التجربة إلى احتجاج على تويتر، حيث دعا بعض المتخصصين في مجال الصحة العامة والتكنولوجيا الشركة إلى مزاعم انتهاكها لقانون الموافقة المستنيرة، وهي سياسة فيدرالية تفرض على البشر تقديم الموافقة قبل المشاركة في أغراض البحث.
وكتب المحلل الإعلامي والباحث إريك سيوفيرت على تويتر يوم السبت “هذا غير أخلاقي بالمرة”.
وغرد كريستيان هيسكث، الذي وصف نفسه على تويتر بأنه عالم إكلينيكي: “يا إلهي.. كان يجب أن يعطي المشاركون موافقة مستنيرة ويجب أن يمر هذا من خلال مجلس المراجعة المؤسسية IRB.”
قال موريس إن الشركة لا تجمع الأشخاص للدردشة مع GPT-3، وقال إن خيار استخدام التكنولوجيا قد أزيل بعد أن أدركت أنها “بدت وكأنها تجربة غير أصلية
وأوضح موريس: “يجب على كل فرد أن يقدم موافقته على استخدام الخدمة”، “إذا كانت هذه دراسة جامعية، وهي ليست كذلك، لقد كانت مجرد ميزة منتج تم استكشافها، فسيتم تصنيفها ضمن فئة البحث” المعفاة