گروهی متشکل از 20 شرکت فناوری روز جمعه اخبر از توافقی دادند برای جلوگیری از تداخل محتوای فریبنده هوش مصنوعی در انتخابات سراسر جهان، در سال جاری با یکدیگر همکاری کنند.
رشد سریع هوش مصنوعی مولد (AI) که میتواند متن، تصویر و ویدئو را در چند ثانیه در پاسخ به درخواستها ایجاد کند، نگرانیها را در مورد استفاده از فناوری جدید برای تحت تاثیر قرار دادن انتخابات مهم امسال افزایش داده، زیرا بیش از نیمی از مردم جهان قرار است جمعیت به پای صندوقهای رای بروند.
امضاکنندگان توافقنامه فناوری، که در کنفرانس امنیتی مونیخ اعلام شد، شامل شرکتهایی هستند که در حال ساخت مدلهای هوش مصنوعی مولد مورد استفاده برای تولید محتوا هستند، از جمله OpenAI، مایکروسافت و Adobe. سایر امضاکنندگان شامل پلتفرمهای رسانههای اجتماعی هستند که با چالش حفظ محتوای مضر از سایتهای خود مواجه خواهند شد، مانند Meta Platforms، TikTok و X، که پیشتر به نام توییتر شناخته میشد.
این توافق شامل تعهداتی برای همکاری در توسعه ابزارهایی برای شناسایی تصاویر، ویدیو و صداهای تولید شده توسط هوش مصنوعی گمراه کننده، ایجاد کمپینهای آگاهی عمومی برای آموزش رای دهندگان در مورد محتوای فریبنده و اقدام در مورد چنین محتوایی در خدمات آنها است. به گفته این شرکتها، فناوری برای شناسایی محتوای تولید شده توسط هوش مصنوعی یا تأیید منشأ آن میتواند شامل واترمارک یا جاسازی ابرداده باشد.
در این توافقنامه جدول زمانی برای اجرای تعهدات یا نحوه اجرای هر شرکت مشخص نشده است. نیک کلگ، رئیس امور جهانی در متا پلتفرم، گفت: «من فکر میکنم کاربرد این (توافق) وسعت شرکتهایی است که آن را امضا میکنند. اگر پلتفرمهای منفرد سیاستهای جدیدی برای شناسایی، منشأ، برچسبگذاری، واترمارکگذاری و غیره ایجاد کنند، همه چیز خوب و خوب است، اما اگر تعهد گستردهتری برای انجام این کار به روشی مشترک وجود نداشته باشد، ما درگیر یک هجوم خواهیم بود. کلگ گفت: از تعهدات مختلف.