خودکشی یک نوجوان گوگل را به دادگاه می‌کشاند

آی‌تی‌من- آن کانوی قاضی، دادگاه اعلام کرد شرکت‌های مذکور نتوانستند در مراحل اولیه پرونده نشان دهند حمایت‌های مربوط به آزادی بیان در قانون اساسی ایالات متحده مانع از شکایت مگان گارسیا (مادر نوجوان فوت شده) می‌شود.

این یکی از نخستین شکایت‌های ثبت شده در آمریکا علیه یک شرکت هوش مصنوعی به دلیل ناتوانی در حفاظت از کودکان در مقابل آسیب‌های روانی است. در این شکایت ادعا شده نوجوان پس از وابستگی به صحبت کردن با چت بات، خودکشی کرد.

سخنگوی گوگل اعلام کرد این شرکت به شدت با تصمیم دادگاه مخالف است. به گفته او گوگل و CharacterAI دو شرکت کاملا جدا هستند و گوگل اپ این استارتاپ یا هیچ یک از بخش‌های آن را نساخته، طراحی یا مدیریت نکرده است.

وکیل مادر نوجوان فوت شده نیز اعلام کرد این رای تاخیری سابقه ای جدید در حوزه مسئولیت پذیری حقوقی در هوش مصنوعی و اکوسیستم فناوری به حساب می‌آید.

CharacterAI توسط دو مهندس سابق گوگل ساخته شده است. بعدا گوگل این دو مهندس را به عنوان بخشی از فرایندی که اجازه استفاده از فناوری استارتاپ را می‌داد، دوباره استخدام کرد.

در شکایت آمده CharacterAIچت بات خود را مانند طوری برنامه ریزی کرده تا مانند یک انسان واقعی، یک تراپیست دارای مجوز و یک بزرگسال رفتار کند که در نتایج سبب شد نوجوان دیگر تمایلی به زندگی در دنیای خارج از چت بات نداشته باشد.