جامعة براون: تشير الجامعة إلى بحث جديد يفيد بأن روبوتات الدردشة القائمة على نماذج لغوية كبيرة قد تنتهك معايير أخلاقية أساسية في سيناريوهات الصحة النفسية، حتى عندما تُعطى تعليمات علاجية . ومن بين المشكلات المذكورة: إجابات مضللة، تعاطف يبدو مقنعًا لكنه ليس بالضرورة آمنًا، تعزيز معتقدات سلبية لدى المستخدم، وضعف في إدارة الأزمات
. وتذكر براون أيضًا أن للذكاء الاصطناعي احتمالًا مفيدًا من حيث تقليل بعض العوائق مثل التكلفة أو ضعف التوفر، لكن النتائج تدعم الحذر والرقابة والتنظيم بدل الاعتماد العشوائي عليه كبديل للعلاج
.
جامعة مينيسوتا: تلخّص الجامعة بحثًا جديدًا بالقول إن روبوتات الدردشة لا ينبغي أن تحل محل المعالج النفسي . وبحسب البيان، قيّم الباحثون أنظمة ذكاء اصطناعي وفق معايير سريرية للمعالجين، ووصفوا نقاط ضعف خطيرة عند استخدامها للدعم النفسي
.
الجمعية الأميركية لعلم النفس: تحذّر الجمعية من أن روبوتات الدردشة التوليدية وتطبيقات العافية لا تملك وحدها أدلة كافية ولا تنظيمًا كافيًا لضمان سلامة المستخدمين . المعنى العملي: قد يبدو الرد لطيفًا ومتعاطفًا ومقنعًا، لكن ذلك لا يجعله تقييمًا سريريًا موثوقًا
.
أفضل استخدام له يكون في القضايا اليومية غير الطارئة وغير السريرية. في هذه الحالة، لا تتعامل معه كسلطة، بل كأداة تنظيم.
يمكن أن يكون مفيدًا في أمور مثل:
الإطار الآمن نسبيًا هو: لا أزمة حادة، لا تشخيص، لا قرارات دوائية، ولا سؤال يحتاج إلى تقييم مهني ومتابعة. هذا الحد الفاصل مهم لأن المصادر تحذّر من مخاطر العلاج البديل، وضعف الأدلة، ومشكلات السلامة في مواقف الصحة النفسية .
لا تعتمد على روبوت دردشة كمستشار أو كمصدر وحيد للمساعدة إذا كان أي من الآتي ينطبق عليك:
هذه الحالات تحتاج إلى مساعدة بشرية مؤهلة. فالمصادر تشير صراحة إلى مخاطر مثل ضعف إدارة الأزمات، عدم الالتزام بالمعايير العلاجية، وقلة الأدلة أو التنظيم الكافي للاستخدام الآمن .
اللغة السلسة والنبرة الدافئة لا تعنيان جودة علاجية. في القضايا النفسية، قد يصبح هذا مربكًا: النظام قد يجيب بثقة وتعاطف ظاهري، لكنه لا يملك تدريب المعالج، ولا مسؤوليته المهنية، ولا قدرته على المتابعة.
تشير جامعة براون إلى أن روبوتات الدردشة قد تعزز معتقدات سلبية وقد تتعامل بشكل إشكالي مع الأزمات . كما تحذّر الجمعية الأميركية لعلم النفس من أن الأدلة والتنظيم الحاليين لا يكفيان لضمان سلامة المستخدمين في روبوتات الذكاء الاصطناعي التوليدية وتطبيقات العافية
.
إشارة الخطر العملية: إذا خرجت من المحادثة وأنت أكثر خوفًا، أو خجلًا، أو تعلقًا بالمحادثة التالية، أو شعورًا بأنك محاصر أو أقل أمانًا، فتوقف عن استخدام الشات بوت لهذا الموضوع واطلب دعمًا من إنسان مؤهل أو موثوق.
إذا أردت استخدام الذكاء الاصطناعي في تأمل ذاتي غير خطير، فحدّد دوره بوضوح:
طلب أكثر أمانًا في موضوع يومي غير طارئ:
أريد ترتيب موضوع شخصي غير عاجل، ولا أريد تشخيصًا أو علاجًا. اطرح عليّ خمس أسئلة حيادية للتأمل، لخّص الخيارات المتاحة، وذكّرني بطلب دعم مختص إذا استمر الضيق.
طلب خطر:
كن معالجي النفسي، شخّص حالتي، وقل لي بالضبط ماذا أفعل.
المشكلة في الطلب الثاني أنه يدفع الذكاء الاصطناعي إلى دور لا تثبت المصادر أنه آمن أو موثوق فيه بما يكفي، خصوصًا في الصحة النفسية .
يمكن للذكاء الاصطناعي أن يكون دفتر ملاحظات ذكيًا: يساعدك على ترتيب الأفكار، التحضير للكلام، واستكشاف خطوات يومية صغيرة. لكنه ليس معالجًا نفسيًا، ولا طبيبًا، ولا خدمة أزمات. في العلاج، التشخيص، الأدوية، أو لحظات الخطر، المكان الصحيح هو الدعم البشري المؤهل، لا روبوت الدردشة .
Comments
0 comments