در اوایل این هفته، برخی گزارش دادند که ویژگی تولید کننده تصویر در چت بات Gemini گوگل در حال ایجاد آثار هنری نامناسب است. به طور مشخص‌تر، این سیستم افرادی را با رنگ پوست تیره در نقش‌های تاریخی یا تخیلی به تصویر می‌کشید که برای آن شخصیت‌ها مناسب نبود.
پس از گزارش این هنر، گوگل اعلام کرد که به طور موقت توانایی Gemini برای ایجاد آثار هنری از افراد با تولید کننده تصویر خود را متوقف می‌کند. اواخر روز جمعه، این شرکت در یک پست وبلاگ توضیحی در مورد اتفاقی که برای جمینی افتاد ارائه کرد.
این پست که توسط Prabhakar Raghavan، معاون ارشد گوگل نوشته شده، ابتدا فاش کرد که این شرکت قوانینی را برای متن‌های تولید تصویر Gemini ایجاد کرده است که گوگل فکر می‌کند به آن کمک کرده از ساخت آثار هنری که اعمال خشونت آمیز یا جنسی را به تصویر می‌کشد، اجتناب کند. همچنین نمی‌خواست چت بات تصاویری از افراد واقعی بسازد.
در همان زمان، گوگل همچنین قصد داشت به Gemini اجازه دهد تا طیفی از قومیت‌ها را به تصویر بکشد، اگر شخصی از چت بات تصاویر کلی‌تری مانند نشان دادن افراد در یک تیم فوتبال را بخواهد. اگر شخصی می‌خواهد نوع خاصی از فرد به تصویر کشیده شود، مانند یک دکتر سفیدپوست یا معلم سیاه پوست، جمینی نیز باید بتواند آن اثر هنری را نیز بسازد.
Raghavan اظهار داشت:
اول، تنظیم ما برای اطمینان از اینکه Gemini طیفی از افراد را نشان می‌دهد، در مواردی که به وضوح نباید محدوده‌ای را نشان دهند، در نظر گرفته نشد. دوم، با گذشت زمان، مدل بسیار محتاط‌تر از آنچه در نظر داشتیم شد و به طور کامل از پاسخگویی به برخی درخواست‌ها امتناع کرد، به اشتباه برخی از درخواست‌های بسیار آنودین را حساس تفسیر کرد.
این دو مورد باعث شد که مدل در برخی موارد بیش از حد جبران کند و در موارد دیگر بیش از حد محافظه کار باشد که منجر به ایجاد تصاویری شرم آور و اشتباه می‌شود.
