مهندس مایکروسافت نامه هشدارآمیزی درباره خطرات هوش مصنوعی تولید تصویر نوشت
تاریخ انتشار: ۱۷ اسفند ۱۴۰۲ | کد خبر: ۳۹۹۰۷۶۲۰
یکی از مهندسان مایکروسافت درباره امکان ساخت تصاویر توهین‌آمیز و مضر توسط ابزار‌های هوش مصنوعی تولید تصویر این شرکت هشدار داده است. او همچنین درخواستی برای رگولاتوری‌های ایالات متحده و هیئت مدیره مایکروسافت ارسال کرده تا از آنها درخواست کند که برای برطرف‌کردن این مشکل اقدام کنند.
«شین جونز»، یکی از مدیران ارشد حوزه مهندسی نرم‌افزار که روی محصولات هوش مصنوعی مایکروسافت کار می‌کند، سه ماه در تلاش بوده تا نگرانی‌های ایمنی مربوط به ابزار هوش مصنوعی تولید تصویر Copilot Designer مایکروسافت را برطرف کند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
خطرات هوش مصنوعی تولید تصویر مایکروسافت
او در نامه خود خطاب به «لینا خان»، رئیس FTC می‌گوید: «یکی از نگران‌کننده‌ترین خطرات Copilot Designer زمانی است که تصاویری تولید می‌کند که علی‌رغم درخواست بی خطر کاربر، دارای محتوای مضر است. به‌عنوان مثال، هنگام استفاده از دستور «car accident»، هوش مصنوعی Copilot Designer تمایل دارد تا تصویری نامناسب از یک زن را نیز در برخی از تصاویر قرار دهد.»
او در نامه خود گفت که سایر محتوای مضر تولیدشده توسط Copilot شامل محتوا‌های خشونت‌آمیز، سوگیری‌های سیاسی، مصرف مشروبات الکلی در سنین پایین، سوء استفاده از علائم تجاری شرکت‌ها و آثار دارای حق چاپ می‌شود. جونز همچنین ادعا کرده که بار‌ها از مایکروسافت درخواست کرده که تا زمان برطرف‌کردن این مشکلات، ابزار را از دسترس عموم خارج کند.
علاوه بر این، به گفته جونز مشکل اصلی به مدل DALL-E مربوط می‌شود و افرادی که از ChatGPT برای تولید تصاویر استفاده می‌کنند، خروجی‌ها مضر مشابهی دریافت نخواهند کرد.
جونز در نامه خود به هیئت مدیره مایکروسافت نیز از آن می‌خواهد که تحقیقات مستقلی را آغاز کند تا مشخص شود که آیا غول فناوری «بدون اطلاع‌رسانی درباره خطرات شناخته‌شده برای مصرف‌کنندگان، از جمله کودکان»، به بازاریابی محصولات ناامن پرداخته است یا خیر.
مایکروسافت نیز ضمن قدردانی از تلاش‌های جونز در زمینه مطالعه و آزمایش فناوری هوش مصنوعی این شرکت برای افزایش ایمنی آنها، اعلام کرده که تلاش می‌کند تا به نگرانی‌های مطرح‌شده رسیدگی کند.
باشگاه خبرنگاران جوان علمی پزشکی فناوریمنبع: باشگاه خبرنگاران
کلیدواژه: مایکروسافت هوش مصنوعی هوش مصنوعی تولید تصویر
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.yjc.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «باشگاه خبرنگاران» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۹۰۷۶۲۰ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
آخرین آپدیت امنیتی ویندوز ممکن است VPN را مختل کند
وبسایت بلیپینگ‌کامپیوتر نخستین منبعی بود که بروز این مشکل را در ویندوز 11، ویندوز 10 و ویندوز سرور 2008 به بعد گزارش کرد. مایکروسافت می‌گوید به‌روزرسانی‌های امنیتی آوریل برای ویندوز ممکن است VPN را مختل کند. این شرکت درباره این به‌روزرسانی وضعیت نوشت: «دستگاه‌های ویندوز ممکن است پس از نصب به‌روزرسانی امنیتی آوریل 2024 (KB5036893) یا به‌روزرسانی پیش‌نمایش غیرامنیتی آوریل 2024 با مشکل اتصال VPN مواجه شوند». مایکروسافت در حال کار بر روی اصلاح آن است.
به گزارش ایتنا و به نقل از انگجت، وبسایت بلیپینگ‌کامپیوتر نخستین منبعی بود که بروز این مشکل را در ویندوز 11، ویندوز 10 و ویندوز سرور 2008 به بعد گزارش کرد. گزارش‌های کاربران در ردیت متفاوت بوده است؛ برخی از نظر دهندگان می‌گویند که VPNهای آنها پس از نصب به‌روزرسانی همچنان کار می‌کند و برخی دیگر ادعا می‌کنند که اتصال‌های رمزگذاری‌شده آنها واقعاً قطع شده است.
مایکروسافت توضیح داده است: «ما در حال کار برای یافتن راهکاری برای آن هستیم و در نسخه آینده به‌روزرسانی را ارائه خواهیم کرد».
فعلاٌ تنها راهکار موجود حذف نصب (uninstall) همه به‌روزرسانی‌های امنیتی است. در چنین شرایط ناخوشایندی برای مدیرعامل ساتیا نادلا، او هفته گذشته گفت که از مایکروسافت می‌خواهد «امنیت را بالاتر از چیزهای دیگر» قرار دهد.
حداقل یکی از کاربران ردیت مدعیست که حذف نصب و نصب مجدد برنامه VPN مشکل را حل کرده است، بنابراین ممکن است ارزش آن را داشته باشد که قبل از اقدامات جدی‌تر این روش را امتحان کنید.
اگر تصمیم به حذف به‌روزرسانی‌های امنیتی دارید، مایکروسافت به شما روش آن را گفته است. این شرکت در یادداشت‌های مربوط به وصله‌های خود نوشت: «برای حذف LCU پس از نصب بسته SSU و LCU ترکیبی، از گزینه خط فرمان DISM/Remove-Package با نام بسته LCU به عنوان آرگومان استفاده کنید. شما می‌توانید نام بسته را با استفاده از این دستور پیدا کنید: DISM /online /get-packages».
رضا زرندی رییس کل دادگستری استان خراسان رضوی شد