توافق بر سر نظام پادمانی هوش مصنوعی در آمریکا

آی‌تی‌من- شرکت‌های آمازون، آنتروپیک، گوگل، اینفلکشن، متا، مایکروسافت و OpenAI اعلام کرده‌اند که با پیشنهاد دولت آمریکا در زمینه امنیت هوش مصنوعی همراهی می‌کنند.

این تصمیم به دنبال افزایش نگرانی‌ها درباره قابلیت‌های هوش مصنوعی اتخاذ شده است.

سرعت توسعه ابزارهای هوش مصنوعی، به ویژه در آستانه انتخابات ریاست جمهوری 2024 ایالات متحده، نگرانی‌هایی را نسبت به گسترش اطلاعات نادرست ایجاد کرده است.

به عنوان بخشی از توافق نامه امضا شده در روز جمعه، شرکت‌ها بر این موارد توافق کردند:

• تست امنیتی سیستم‌های هوش مصنوعی توسط کارشناسان داخلی و خارجی قبل از انتشار
• قرار دادن واترمارک روی تولیدات هوش مصنوعی به نحوی که برای مردم قابل تشخیص باشد
• گزارش منظم قابلیت‌ها و محدودیت‌های هوش مصنوعی
• تحقیق در مورد خطراتی مانند سوگیری، تبعیض و تجاوز به حریم خصوصی
کاخ سفید افزود: هدف این است که مردم تشخیص دهند که چه زمانی محتوای آنلاین توسط هوش مصنوعی ایجاد شده است.

واترمارک برای محتوای تولید شده توسط هوش مصنوعی از جمله موضوعاتی بود که تیری برتون، کمیسر اتحادیه اروپا با سام آلتمن، مدیر اجرایی OpenAI در جریان بازدید ژوئن از سانفرانسیسکو در مورد آن صحبت کرده بود.

برتون در توییتی که شامل یک قطعه ویدیویی از دیدار او و آلتمن بود، نوشت: منتظر پیگیری بحث‌های‌مان به‌ویژه در مورد واترمارک‌گذاری هستم.

پادمان‌های داوطلبانه امضا شده در روز جمعه گامی ‌به سویمقررات قوی‌تر در مورد هوش مصنوعی در ایالات متحده محسوب می‌شود.

دولت آمریکا در بیانیه‌ای اعلام کرد که در حال کار بر روی یک فرمان اجرایی به این منظور است.

کاخ سفید همچنین گفت که با متحدان خود برای ایجاد یکچارچوب بین‌المللی برای مدیریت توسعه و استفاده از هوش مصنوعی همکاری خواهد کرد.