گوگل تصمیم گرفته است به طور موقت تولید تصویر Gemini از افراد را متوقف کند تا دقت آن را افزایش دهد. در اوایل این ماه، گوگل یک ویژگی جدید تولید تصویر را برای اپلیکیشن مکالمه جمینی معرفی کرد که به کاربران امکان می‌داد تصاویری از افراد ایجاد کنند.
با این حال، برخی از تصاویر تولید شده نادرست یا توهین‌آمیز بودند، که باعث شد Google این مشکل را تصدیق کند و از بازخورد کاربران ابراز قدردانی کند. گوگل ایرادات ویژگی تولید تصویر را پذیرفت که بر اساس مدل هوش مصنوعی Imagen 2 بود. آنها توضیح دادند که هنگام تنظیم این ویژگی، هدف آنها جلوگیری از مشکلاتی بوده که در فناوری‌های تولید تصویر قبلی مانند ایجاد تصاویر نامناسب یا تصاویر مغرضانه دیده می‌شود.
گوگل بر تعهد خود برای فراگیر کردن این ویژگی برای کاربران در سراسر جهان تاکید کرد. با این حال، علیرغم تلاش آنها، این ویژگی با دو مشکل عمده روبه‌رو شد.
- نخست اینکه تنظیم در رسیدگی به سناریوهایی که در آن طیفی از افراد غیر ضروری بودند، شکست خورد.
- ثانیاً، این مدل در طول زمان بیش از حد محتاط شد و از پاسخگویی به برخی اعلان‌ها، حتی موارد خوش خیم خودداری کرد، که منجر به نتایج شرم‌آور و نادرست شد.
- نسخه بهبودیافته تولید تصویر Gemini، به زودی
Prabhakar Raghavan، معاون ارشد گوگل، اظهار داشت که هدف هرگز تبعیض قائل نشدن یا ارائه اظهارات نادرست نبوده است. برای اصلاح این مشکل، گوگل به طور موقت ویژگی تولید تصویر را برای افراد غیرفعال کرده و قصد دارد قبل از فعال‌سازی مجدد، از جمله آزمایش‌های دقیق، آن را به طور گسترده بهبود بخشد. علاوه بر این، Raghavan تأکید کرد که جمینی به عنوان یک ابزار خلاقیت و بهره‌وری، ممکن است همیشه قابل اعتماد نباشد، به ویژه در مورد رویدادهای جاری یا موضوعات بحث برانگیز.
او چالش عدم دقت هوش مصنوعی را تصدیق کرد و تلاش‌های مداوم برای افزایش قابلیت اطمینان را برجسته کرد. Raghavan استفاده از جستجوی Google را برای اطلاعات واقعی توصیه می‌کند، زیرا سیستم‌های جداگانه محتوای تازه و قابل اعتماد را از منابع مختلف تهیه می‌کنند.
