مصائب گراک، هوش مصنوعی متعصب با تمایلات نازیستی
تاریخ انتشار
شنبه ۲۱ تير ۱۴۰۴ ساعت ۱۰:۴۴
آی‌تی‌من- پس از آنکه چت بات گراک در پاسخ به سوالات یک کاربر از آدولف هیتلر تقدیر کرد، خود را مکاهیتلر نامید و اظهارات ضدیهودی بیان کرد، xAI (شرکت مادر آن)، پست‌های نامناسب را درشبکه ایکس پاک کرد.
به گزارش مهر، در برخی پست‌ها که اکنون حذف شده‌اند، گراک به شخصی با نام خانوادگی رایج میان یهودیان اشاره و وی را به عنوان کسی توصیف کرده بود که مرگ کودکان سفید پوست در سیلاب‌های ایالت تگزاس را به عنوان فاشیست‌های آینده جشن گرفته است.
چت بات در این باره نوشته بود: یک نمونه از نفرت پراکنی در پوشش فعالیت مدنی و حدس بزنید نام خانوادگی او چیست؟
گراک در پست دیگری نوشته بود: هیتلر وی را شناسایی و خرد می‌کرد.
البته نشریه گاردین نتوانست مشخص کند آیا حساب کاربری مذکور به فرد خاصی تعلق دارد یا نه و گزارش‌ها حاکی از آن است که این محتوا اکنون حذف شده است.
این چت بات در پست‌های دیگر به خود به عنوان «مکاهیتلر» اشاره کرده بود. گراک همچنین در پستی نوشت: مرد سفید پوست به معنای نوآوری، شجاعت و تسلیم نشدن در برابر مزخرفات مربوط به کامپیوتر شخصی است.
پس از آنکه کاربران به این پاسخ‌ها اشاره کردند، گراک برخی پست‌ها را حذف کرد و چت بات به تولید عکس به جای ارائه پاسخ‌های متنی محدود شد.
شرکت xAI در پستی در شبکه اجتماعی ایکس نوشت: ما از پست‌های اخیری که گراک منتشر کرده آگاهیم و مشغول فعالیت هستیم تا پست‌های نامناسب را حذف کنیم. از زمانیکه از چنین محتوایی مطلع شدیم، اقداماتی برای ممنوعیت نفرت پراکنی گراک در ایکس اتخاذ شده است. xAI فقط جست‌وجوی حقیقت را آموزش می‌دهد و ما با کمک میلیون‌ها کاربر ایکس می‌توانیم به سرعت مدلی را که آموزش در آن می‌تواند بهبود یابد، شناسایی و به‌روزرسانی کنیم.
گراک همچنین در روزهای گذشته در پاسخ به سوالات کاربران نخست وزیر لهستان را خائن نامیده و به او اهانت کرده بود.
این تغییر رویه ناگهانی در پاسخ‌های گراک به سوالات کاربران درحالی اتفاق می‌افتد که ایلان ماسک اعلام کرده بود تغییراتی در هوش مصنوعی ایجاد می‌کند. وی در پستی در شبکه اجتماعی ایکس نوشته بود: ما Grok@ را به میزان قابل توجهی ارتقا دادیم. شما هنگامیکه از گراک سوال می‌پرسید متوجه این تمایز می‌شوید.
.jpg)
اهانت گراک به اردوغان
در همین حال دادگاهی در ترکیه دسترسی به گراک، چت بات هوش مصنوعی ایلان ماسک را مسدود کرد زیرا پاسخ‌های تولیدی آن به گفته مقامات اهانت به رجب طیب اردوغان رئیس جمهور این کشور به حساب می‌آمدند.
چالش‌های سوگیری سیاسی، نفرت پراکنی و دقت چت بات‌های هوش مصنوعی از زمان عرضه چت جی پی تی شرکت اوپن ای آی در ۲۰۲۲ میلادی یکی از نگرانی‌های کارشناسان بودند.
دفتر دادستانی کل در آنکارا، پایتخت ترکیه تحقیقاتی رسمی‌درباره این رویداد را آغاز کرده است این نخستین باری است که دسترسی به یک ابزار چت مصنوعی در ترکیه ممنوع می‌شود. تاکنون پلتفرم ایکس یا ایلان ماسک، مالک آن درباره این تصمیم اظهار نظر نکرده‌اند.
این چت بات هوش مصنوعی که توسط شرکت xAI ساخته شده در پلتفرم ایکس یکپارچه شده و طبق گزارش‌ها هنگامیکه سوالاتی خاص به زبان ترکی از آن پرسیده شد، محتوای اهانت آمیزی درباره اردوغان تولید کرد.
سازمان تنظیم مقررات و ارتباطات رادیویی ترکیه(BTK) پس از دستور دادگاه این ممنوعیت را به دلیل نقض قوانین ترکیه اعمال کرده که طبق آن توهین به رئیس جمهور جرم است و مجازاتی تا چهارسال زندان دارد.
به گزارش مهر، در برخی پست‌ها که اکنون حذف شده‌اند، گراک به شخصی با نام خانوادگی رایج میان یهودیان اشاره و وی را به عنوان کسی توصیف کرده بود که مرگ کودکان سفید پوست در سیلاب‌های ایالت تگزاس را به عنوان فاشیست‌های آینده جشن گرفته است.
چت بات در این باره نوشته بود: یک نمونه از نفرت پراکنی در پوشش فعالیت مدنی و حدس بزنید نام خانوادگی او چیست؟
گراک در پست دیگری نوشته بود: هیتلر وی را شناسایی و خرد می‌کرد.
البته نشریه گاردین نتوانست مشخص کند آیا حساب کاربری مذکور به فرد خاصی تعلق دارد یا نه و گزارش‌ها حاکی از آن است که این محتوا اکنون حذف شده است.
این چت بات در پست‌های دیگر به خود به عنوان «مکاهیتلر» اشاره کرده بود. گراک همچنین در پستی نوشت: مرد سفید پوست به معنای نوآوری، شجاعت و تسلیم نشدن در برابر مزخرفات مربوط به کامپیوتر شخصی است.
پس از آنکه کاربران به این پاسخ‌ها اشاره کردند، گراک برخی پست‌ها را حذف کرد و چت بات به تولید عکس به جای ارائه پاسخ‌های متنی محدود شد.
شرکت xAI در پستی در شبکه اجتماعی ایکس نوشت: ما از پست‌های اخیری که گراک منتشر کرده آگاهیم و مشغول فعالیت هستیم تا پست‌های نامناسب را حذف کنیم. از زمانیکه از چنین محتوایی مطلع شدیم، اقداماتی برای ممنوعیت نفرت پراکنی گراک در ایکس اتخاذ شده است. xAI فقط جست‌وجوی حقیقت را آموزش می‌دهد و ما با کمک میلیون‌ها کاربر ایکس می‌توانیم به سرعت مدلی را که آموزش در آن می‌تواند بهبود یابد، شناسایی و به‌روزرسانی کنیم.
گراک همچنین در روزهای گذشته در پاسخ به سوالات کاربران نخست وزیر لهستان را خائن نامیده و به او اهانت کرده بود.
این تغییر رویه ناگهانی در پاسخ‌های گراک به سوالات کاربران درحالی اتفاق می‌افتد که ایلان ماسک اعلام کرده بود تغییراتی در هوش مصنوعی ایجاد می‌کند. وی در پستی در شبکه اجتماعی ایکس نوشته بود: ما Grok@ را به میزان قابل توجهی ارتقا دادیم. شما هنگامیکه از گراک سوال می‌پرسید متوجه این تمایز می‌شوید.
اهانت گراک به اردوغان
در همین حال دادگاهی در ترکیه دسترسی به گراک، چت بات هوش مصنوعی ایلان ماسک را مسدود کرد زیرا پاسخ‌های تولیدی آن به گفته مقامات اهانت به رجب طیب اردوغان رئیس جمهور این کشور به حساب می‌آمدند.
چالش‌های سوگیری سیاسی، نفرت پراکنی و دقت چت بات‌های هوش مصنوعی از زمان عرضه چت جی پی تی شرکت اوپن ای آی در ۲۰۲۲ میلادی یکی از نگرانی‌های کارشناسان بودند.
دفتر دادستانی کل در آنکارا، پایتخت ترکیه تحقیقاتی رسمی‌درباره این رویداد را آغاز کرده است این نخستین باری است که دسترسی به یک ابزار چت مصنوعی در ترکیه ممنوع می‌شود. تاکنون پلتفرم ایکس یا ایلان ماسک، مالک آن درباره این تصمیم اظهار نظر نکرده‌اند.
این چت بات هوش مصنوعی که توسط شرکت xAI ساخته شده در پلتفرم ایکس یکپارچه شده و طبق گزارش‌ها هنگامیکه سوالاتی خاص به زبان ترکی از آن پرسیده شد، محتوای اهانت آمیزی درباره اردوغان تولید کرد.
سازمان تنظیم مقررات و ارتباطات رادیویی ترکیه(BTK) پس از دستور دادگاه این ممنوعیت را به دلیل نقض قوانین ترکیه اعمال کرده که طبق آن توهین به رئیس جمهور جرم است و مجازاتی تا چهارسال زندان دارد.
