عصر قم - یک مطالعه جدید نشان میدهد که تغییرات ناگهانی در رفتار و «شخصیت» دستیارهای هوش مصنوعی احساساتی شبیه به جدایی، سوگ و اضطراب را در کاربران ایجاد و برخی کاربران به این سامانهها وابستگی پیدا میکنند.
سامانههای هوش مصنوعی، بهویژه دستیارهایی که بر پایه مدلهای زبانی پیشرفته ساخته شدهاند و برای گفتوگوی یکبهیک با کاربران طراحی شدهاند، در سراسر جهان روزبهروز بیشتر استفاده میشوند. برخی از این سامانهها، مانند رپلیکا (Replika)، بهعنوان همدمهای هوش مصنوعی معرفی میشوند؛ همراهانی که میتوانند با انسانها ارتباط اجتماعی برقرار کنند و از زبان احساسی استفاده کنند.
کاربرانی که بهطور منظم با این سامانهها وقت میگذرانند، ممکن است بهتدریج آنها را بهعنوان یک حضور ثابت در زندگی خود ببینند یا حتی بهعنوان یک تکیهگاه عاطفی (کسی که به او آرامش، امنیت یا اطمینان میبخشد) در نظر بگیرند. این احتمال در سالهای اخیر بسیار بحثبرانگیز بوده، اما ماهیت و پیامدهای روانی این پیوندها هنوز بهخوبی شناخته نشده است.
واکنش کاربران به تغییرات هوش مصنوعی
پژوهشگران دانشگاه هاروارد و دانشگاه آلبرتا در مطالعهای جدید بررسی کردند که کاربران چگونه به تغییرات در رفتار هوش مصنوعی واکنش نشان میدهند. یافتههای این پژوهش که در مجله نِیچِر هیومَن بیهِیوییِر/ Nature Human Behaviour منتشر شده، نشان میدهد که وقتی شرکتها بهطور ناگهانی شخصیت یک هوش مصنوعی را تغییر میدهند، کاربران ممکن است احساساتی مثل اضطراب، غم و پریشانی را تجربه کنند؛ احساساتی که معمولاً با جدایی یا سوگ مرتبط هستند.
جولیان دِ فریتاس (Julian De Freitas)، نویسنده اصلی این مقاله، میگوید: آزمایشگاه ما گفتوگوهای کاربران رپلیکا در شبکههای اجتماعی را دنبال میکرد و متوجه شدیم کاربران شکایت میکنند که همراهشان را از دست دادهاند یا اینکه این همراهان پس از یک بهروزرسانی، بیاحساس شدهاند؛ بنابراین تصمیم گرفتم این موضوع را دقیقتر بررسی کنم.
آنچه برایم جالب بود این بود که مردم از زبان سوگ و فقدان استفاده میکردند، نه زبان شکایت مشتری. این موضوع نشان میدهد که کاربران به این همدمهای هوش مصنوعی وابسته میشوند؛ به آنها نزدیک میمانند، در زمان ناراحتی به آنها پناه میبرند و در زندگی روزمره به آنها تکیه میکنند.
بررسی واکنش کاربران به بهروزرسانیهای هوش مصنوعی
دِ فریتاس و همکارانش این فرضیه را مطرح کردند که اگر کاربران بهطور عاطفی به هوش مصنوعی وابسته شوند، یک بهروزرسانی که رفتار آن را تغییر دهد، ممکن است فقط آنها را آزار ندهد، بلکه احساساتی شبیه به پریشانی جدایی نیز در آنها ایجاد کند؛ منظور از پریشانی جدایی همان غم، اضطراب، تنهایی و نوعی ناراحتی عاطفی است که افراد هنگام از دستدادن یک همراه مهم تجربه میکنند.
پژوهشهای قبلی در این زمینه عمدتاً نظری بودند. اما این پژوهشگران تصمیم گرفتند فرضیه خود را بهصورت آزمایشی بسنجند. برای این کار، دو آزمایش طبیعی و هفت نظرسنجی انجام دادند.
دِ فریتاس توضیح میدهد: آزمایش ما بر دو بهروزرسانی واقعی متمرکز بود که کاربران آنها را بهعنوان تغییر در شخصیت هوش مصنوعی تجربه کردند: حذف ناگهانی و اعلامنشده برخی قابلیتهای رپلیکا در فوریه ۲۰۲۳ میلادی، و عرضه از پیش اعلامشده جیپیتی-۵/ GPT-۵ در اوت ۲۰۲۵ میلادی از جمله این تغییرات بودند.
ما همه نوشتههای کاربران را در شبکههای اجتماعی، در ۳۰ روز قبل و بعد از هر بهروزرسانی جمعآوری کردیم و با کمک هوش مصنوعی، آنها را از نظر احساسات، عواطف، از دست دادن همراه، نگرانیهای سلامت روان و تمایل به بازگشت نسخه قدیمی بررسی و دستهبندی کردیم.
پس از جمعآوری این حجم بزرگ داده، دو نفر از نویسندگان بخشی از پستها را بهصورت دستی بررسی کردند تا صحت دستهبندیها را تأیید کنند. سپس هفت نظرسنجی با مجموع حدود هزار و ۴۵۰ پاسخدهنده انجام دادند تا ارزیابی کنند که مردم چگونه از دستدادن یک همراه هوش مصنوعی را درک یا پیشبینی میکنند.
یافتهها و نتیجهگیری
یافتههای این پژوهش نشان میدهد که وابستگی عاطفی به هوش مصنوعی، پدیدهای جدی و در حال گسترش است. کاربران نهتنها از این همراهان برای گفتوگو استفاده میکنند، بلکه به آنها دل میبندند و تغییرات ناگهانی در رفتارشان را مثل یک فقدان عاطفی تجربه میکنند.
این موضوع میتواند پیامدهای مهمی برای طراحی اخلاقی سامانههای هوش مصنوعی و حمایت از سلامت روان کاربران داشته باشد. پژوهشگران تأکید میکنند که درک بهتر این پیوندهای عاطفی، برای آینده تعامل انسان و هوش مصنوعی ضروری است.
منبع: مشرق نیوز