برای اخبار به سراغ چت بات ها نروید

این یادآوری دوره‌ای شماست که چت بات های مجهز به هوش مصنوعی هنوز هم چیزها را می‌سازند و با تمام اطمینان سیستم GPS دروغ می‌گویند و به شما می‌گویند که کوتاه‌ترین راه خانه، رانندگی در دریاچه است.

یادآوری ما به لطف آزمایشگاه Nieman است که آزمایشی را انجام داد تا ببیند آیا ChatGPT لینک صحیحی را به مقالات نشریات خبری ارائه می دهد که میلیون ها دلار به آنها می پردازد. معلوم شد که ChatGPT اینطور نیست. در مقابل، با اطمینان کامل URL ها را تشکیل می دهد، پدیده ای که صنعت هوش مصنوعی آن را “توهم آمیز” می نامد، اصطلاحی که به نظر می رسد برای یک فرد واقعی که به مزخرفات خود اهمیت می دهد مناسب تر باشد.

اندرو دک از Nieman Lab از این سرویس درخواست کرد که لینک هایی به داستان‌های انحصاری و پرمخاطب منتشر شده توسط 10 ناشر که OpenAI با آنها قراردادهایی به ارزش میلیون‌ها دلار بسته است، ارائه دهد. اینها شامل آسوشیتدپرس، وال استریت ژورنال، فایننشال تایمز، تایمز (بریتانیا)، لوموند، ال پایس، آتلانتیک، ورج، وکس و پولیتیکو بودند. در پاسخ، ChatGPT نشانی‌های اینترنتی ساخته‌شده را پشت سر گذاشت که به صفحه‌های خطای 404 منجر شد، زیرا آنها به سادگی وجود نداشتند. به عبارت دیگر، سیستم دقیقاً همانطور که طراحی شده بود کار می‌کرد:

با پیش‌بینی محتمل‌ترین نسخه URL یک داستان به جای استناد به نسخه صحیح. آزمایشگاه نیمن آزمایش مشابهی را با یک نشریه واحد، Business Insider  در اوایل این ماه انجام داد و به همان نتیجه رسید.

یکی از سخنگویان OpenAI به Nieman Lab گفت:

این شرکت همچنان در حال ایجاد تجربه‌ای است که قابلیت‌های مکالمه را با آخرین محتوای خبری آن‌ها ترکیب می‌کند، از ارجاع مناسب و لینک به منبع اطمینان می‌دهد، تجربه‌ای پیشرفته که هنوز در حال توسعه است و هنوز در ChatGPT موجود نیست».

اما آنها از توضیح URL های جعلی خودداری کردند.