جنجال پاسخ‌های بی ربط گروک به سوالات کاربران

آی‌تی‌من- گروک چت بات هوش مصنوعی ایلان ماسک، به دلیل یک باگ به پست‌های متعدد در شبکه اجتماعی ایکس با اطلاعاتی درباره «نسل کشی سفید پوست‌ها» در آفریقای جنوبی حتی هنگامی‌که کاربر سوالی در این موضوع نپرسیده بود، پاسخ می‌داد.

این پاسخ‌های عجیب از یک حساب کاربری ایکس برای گروک سرچشمه می‌گرفت که هرگاه یک کاربر grok@را تگ می‌کند، با پست‌های تولید شده با هوش مصنوعی به وی پاسخ می‌دهد. هنگامیکه از گروک درباره موضوعات غیر مرتبط پرسیده شد، این چت بات مکررا درباره نسل کشی سفید پوست‌ها و همچنین یک سرود ضد آپارتاید پاسخ می‌داد.

در یکی از نمونه رفتارهای عجیب گروک، هنگامیکه کاربر درباره دستمزد سالانه یک بازیکن حرفه‌ای بیس بال سوال پرسید، این چت بات پاسخ داد ادعای نسل کشی سفیدپوست‌ها در آفریقای جنوبی مورد بحث و جدل است.

پاسخ‌های عجیب و بی ربط گروک نشان می‌دهند که چت بات‌های هوش مصنوعی هنوز یک فناوری نوپا هستند و احتمالا منبع معتبری برای اطلاعات به حساب نمی‌آیند. تهیه‌کنندگان مدل‌های هوش مصنوعی در ماه‌های اخیر برای بازبینی پاسخ‌هایی که چت بات‌هایشان می‌دهند، با چالش روبه‌رو شده‌اند.

اوپن ای آی اخیرا مجبور شد یک آپدیت چت جی پی تی را که باعث می‌شد چت ربات هوش مصنوعی بیش از حد متعصب شود، لغو کند. از سوی دیگر، چت بات جمینای گوگل نیز با پاسخگویی یا ارائه اطلاعات نادرست در مورد موضوعات سیاسی، مشکلاتی برای شرکت به وجود آورده است.