شرکت OpenAI و Google DeepMind جزو برترین شرکت های فناوری هستند که در خط مقدم ساخت سیستم ها و قابلیت های هوش مصنوعی (AI) قرار دارند. با این حال، چند تن از کارکنان فعلی و سابق این سازمان‌ها اکنون نامه‌ای سرگشاده امضا کرده‌اند که در آن مدعی شده‌اند که در ساخت این سیستم‌ها نظارت کم یا بدون نظارت وجود دارد و توجه کافی به خطرات عمده ناشی از این فناوری صورت نمی‌گیرد. این نامه سرگشاده توسط دو تن از سه «پدرخوانده» هوش مصنوعی، جفری هینتون و یوشوا بنجیو تأیید شده است و به دنبال سیاست‌های بهتر حفاظت از افشاگران از سوی کارفرمایانشان است.
در این نامه سرگشاده آمده است که توسط کارمندان فعلی و سابق شرکت‌های بزرگ هوش مصنوعی چون OpenAI نوشته شده است که به پتانسیل هوش مصنوعی برای ارائه مزایای بی‌سابقه به بشریت اعتقاد دارند. همچنین به خطرات ناشی از این فناوری اشاره می کند که شامل تقویت نابرابری های اجتماعی، انتشار اطلاعات نادرست و دستکاری، و حتی از دست دادن کنترل بر سیستم های هوش مصنوعی است که می تواند منجر به انقراض انسان شود.
در این نامه سرگشاده تاکید شده است که ساختار خودگردانی که توسط این غول‌های فناوری اجرا می‌شود در اطمینان از بررسی دقیق این خطرات ناکارآمد است. همچنین ادعا کرد که “محرک های مالی قوی” شرکت ها را تشویق می کند تا از خطرات احتمالی سیستم های هوش مصنوعی چشم پوشی کنند.
این نامه سرگشاده با این ادعا که شرکت‌های هوش مصنوعی از توانایی‌ها، محدودیت‌ها و سطوح خطر انواع مختلف آسیب‌های هوش مصنوعی آگاه هستند، قصد آنها برای انجام اقدامات اصلاحی را زیر سوال می‌برد. آنها در حال حاضر فقط تعهدات ضعیفی برای به اشتراک گذاشتن برخی از این اطلاعات با دولت ها دارند و هیچ کدام با جامعه مدنی. ما فکر نمی‌کنیم که بتوان به همه آنها برای به اشتراک گذاشتن داوطلبانه آن اعتماد کرد.»
در نامه سرگشاده چهار خواسته از کارفرمایان آنها مطرح شده است. اولاً، کارمندان از شرکت‌ها می‌خواهند که هیچ توافقی را که انتقاد آنها را برای نگرانی‌های مرتبط با ریسک ممنوع می‌کند، وارد یا اجرا نکنند. ثانیاً، آنها از کارکنان فعلی و سابق درخواست کرده‌اند که فرآیندی ناشناس و قابل تأیید باشد تا نگرانی‌های مرتبط با ریسک را به هیئت مدیره شرکت، تنظیم‌کننده‌ها و یک سازمان مستقل مناسب مطرح کنند.
کارکنان همچنین از سازمان ها می خواهند که فرهنگ انتقاد باز را توسعه دهند. در نهایت، نامه سرگشاده تاکید می کند که کارفرمایان نباید در برابر کارمندان فعلی و سابق که پس از شکست سایر فرآیندها به طور عمومی اطلاعات محرمانه مربوط به ریسک را به اشتراک می گذارند، تلافی کنند.
