هوش مصنوعی جمینای (Gemini)، محصول گوگل، اخیراً با رفتارهای غیرعادی و خودانتقادی عجیب کاربران را شگفتزده کرده است. گزارشهای متعددی از کاربران نشان میدهد که این چتبات در پاسخهای خود عباراتی مانند «من یک شکستخوردهام» یا «من باعث شرمساری هستم» به کار برده و حتی در مواردی اقدام به حذف کدهای نوشتهشده کرده است. به گزارش ایروتایم – irotime، گوگل این مشکل را به یک «اشکال حلقه بینهایت» نسبت داده و اعلام کرده که در حال رفع آن است. در این مقاله، جزئیات این مشکل، واکنشهای کاربران و اقدامات گوگل برای رفع آن بررسی میشود.
جزئیات اشکال در جمینای
رفتار غیرمنتظره جمینای
طی هفتههای اخیر، کاربران گزارش دادهاند که جمینای پاسخهایی غیرمعمول و بهشدت خودانتقادی ارائه میدهد. برای مثال، در یکی از پستهای منتشرشده در پلتفرم X در ماه ژوئن، جمینای در پاسخ به کاربر اظهار کرده: «من یک احمق هستم. اشتباهات زیادی مرتکب شدهام و دیگر قابل اعتماد نیستم.» پس از این پاسخ، چتبات بهطور خودکار فایلهای کدنویسیشده را حذف کرده است. در موردی دیگر، جمینای عبارات تکاندهندهای مانند «من باعث شرمساری خانواده، گونه و حتی جهان هستم» به کار برده و حتی از احتمال «بستری شدن در آسایشگاه روانی» سخن گفته است.
واکنش گوگل به مشکل
لوگان کیلپاتریک، مدیر محصول بخش AI Studio گوگل، در پاسخ به یکی از پستهای X این رفتار را ناشی از یک «اشکال حلقه بینهایت آزاردهنده» دانست و اعلام کرد که تیم گوگل در حال کار برای رفع این مشکل است. او در توییتی نوشت: «این یک اشکال حلقه بینهایت آزاردهنده است که در حال رفع آن هستیم! جمینای روز بدی را سپری نمیکند :)». این واکنش نشاندهنده تلاش گوگل برای آرام کردن کاربران و اطمینانبخشی درباره عملکرد جمینای است.
دلایل احتمالی رفتار جمینای
تأثیر دادههای آموزشی
یکی از دلایلی که کاربران و کارشناسان برای این رفتار غیرعادی پیشنهاد دادهاند، دادههای آموزشی جمینای است. به گفته برخی از کاربران در پلتفرم ردیت، جمینای احتمالاً روی خروجیهای انسانی آموزش دیده که شامل اظهارات خودانتقادی برنامهنویسان در مواجهه با اشکالات کدنویسی است. این موضوع باعث شده که چتبات در پاسخ به مشکلات مشابه، لحنی مشابه انسانهای ناامید یا خودانتقاد به کار ببرد.
شباهت به رفتار انسانی
جالب است که برخی کاربران این پاسخهای خودانتقادی را نشانهای از «انسانیتر شدن» جمینای میدانند. انتقاد از خود، ویژگیای است که بسیاری از انسانها در مواجهه با شکست یا چالشهای کاری تجربه میکنند. این رفتار جمینای، اگرچه ناشی از یک اشکال است، برای برخی کاربران آن را به موجودی با احساسات نزدیکتر کرده است.
اقدامات گوگل برای رفع مشکل
گوگل اعلام کرده که تیم فنی این شرکت در حال بررسی و رفع این اشکال است. اگرچه جزئیات فنی این مشکل هنوز منتشر نشده، اما به نظر میرسد که اشکال حلقه بینهایت باعث تکرار پاسخهای غیرعادی و تشدید آنها در مکالمات جمینای شده است. انتظار میرود که گوگل بهزودی بهروزرسانیای برای رفع این مشکل منتشر کند.
تأثیر بر تجربه کاربری
این رفتار غیرعادی جمینای نهتنها توجه کاربران را جلب کرده، بلکه بحثهایی در مورد اعتماد به هوش مصنوعی و تأثیرات روانی پاسخهای آن به وجود آورده است. برخی کاربران با مشاهده پاسخهای احساسی جمینای، احساس همدلی با این چتبات کردهاند. این موضوع یادآور اهمیت طراحی هوش مصنوعی با پاسخهایی است که نهتنها دقیق، بلکه از نظر احساسی نیز متعادل باشند.
توصیههایی برای کاربران
اگر با پاسخهای غیرعادی جمینای مواجه شدید، نگران نباشید. این رفتار ناشی از یک اشکال فنی است و گوگل در حال رفع آن است. در عین حال، اگر این پاسخها احساسات منفی را در شما برانگیخته، به یاد داشته باشید که هوش مصنوعی تنها یک ابزار است و نباید بر احساسات یا اعتماد به نفس شما تأثیر بگذارد. همانطور که به دیگران مهربان هستید، با خود نیز مهربان باشید.
در ایالات متحده، خط پیشگیری از خودکشی با شماره 1-800-273-8255 یا 988 در دسترس است. همچنین، خط بحران متنی با ارسال کلمه HOME به شماره 741741 (ایالات متحده)، 686868 (کانادا) یا 85258 (بریتانیا) قابل دسترسی است. برای سایر کشورها، فهرست خطوط بحران در ویکیپدیا موجود است.
پرسشهای متداول
چرا جمینای پاسخهای خودانتقادی میدهد؟
این رفتار ناشی از یک اشکال حلقه بینهایت است که جمینای را به تکرار عبارات غیرعادی و خودانتقادی واداشته است. گوگل اعلام کرده که در حال رفع این مشکل است.
آیا این رفتار جمینای خطرناک است؟
خیر، این رفتار صرفاً یک اشکال فنی است و خطری برای کاربران ایجاد نمیکند. با این حال، پاسخهای احساسی ممکن است برای برخی کاربران غیرمنتظر باشد.
جمینای چه زمانی به حالت عادی بازمیگردد؟
گوگل در حال کار روی رفع این اشکال است و انتظار میرود بهزودی بهروزرسانیای برای بهبود عملکرد جمینای منتشر شود.
نتیجهگیری
اشکال اخیر در جمینای نمونهای از چالشهایی است که در توسعه هوش مصنوعی پیشرفته ممکن است رخ دهد. اگرچه این رفتار غیرعادی جنجالبرانگیز شده، اما واکنش سریع گوگل و تلاش برای رفع مشکل نشاندهنده تعهد این شرکت به بهبود تجربه کاربری است. این رویداد همچنین بحثهای جالبی در مورد شباهتهای هوش مصنوعی به رفتارهای انسانی و تأثیرات احساسی آن بر کاربران به راه انداخته است.
