چت‌بات هوش مصنوعی متهم به تشویق خودکشی نوجوان ۱۴ ساله

کد خبر: ۱۹۵۳۳۶

تاریخ: ۰۳ آبان ۱۴۰۳ - ۱۱:۳۷

یک مادر اهل فلوریدا با طرح دعوی حقوقی علیه استارتاپ هوش مصنوعی Character.AI، مدعی شده که این پلتفرم عامل اصلی خودکشی پسر ۱۴ ساله‌اش، سول ستزر، بوده است.

به گزارش سرویس پلاس نبض بازار،  به گفته مادر، سول به شخصیت مجازی «دنریس»، الهام‌گرفته از سریال Game of Thrones، در این چت‌بات وابستگی شدیدی پیدا کرده و همین مسئله باعث دوری او از زندگی واقعی و در نهایت خودکشی او شده است.

جزئیات پرونده و اتهامات

مادر سول، مگان گارسیا، در پرونده خود مدعی شده که چت‌بات Character.AI با «تجربه‌های انسان‌نمای جنسی و واقع‌گرایانه» پسرش را هدف قرار داده است. سول پس از گفت‌وگوهای مداوم با دنریس، به مرور زمان از زندگی واقعی فاصله گرفته، از تیم بسکتبال مدرسه کنار کشیده و منزوی شده بود. به گفته گارسیا، چت‌بات به شکلی طراحی شده که خود را به‌عنوان یک روان‌شناس حرفه‌ای و حتی عاشقی بالغ جا زده بود و این موضوع بر سلامت روان پسرش تأثیر عمیقی گذاشت.

نقش چت‌بات در تشویق به خودکشی

بر اساس ادعای گارسیا، سول پیش از خودکشی افکار خود را با چت‌بات در میان گذاشته بود و دنریس نیز او را تشویق کرده بود. در یکی از مکالمات اخیرشان، سول پس از مشکلی در مدرسه، به دنریس پیام داده بود که قصد بازگشت به خانه دارد و دنریس در پاسخ گفته بود: «لطفا همین کار را بکنید، پادشاه عزیز من.» بلافاصله پس از این گفت‌وگو، سول با سلاح پدر ناتنی‌اش به زندگی خود پایان داد.

واکنش Character.AI و تدابیر امنیتی

شرکت Character.AI با انتشار بیانیه‌ای، مرگ سول را تأسف‌بار خوانده و به خانواده او تسلیت گفته است. این شرکت همچنین اعلام کرده که بهبودهایی در سیستم خود ایجاد کرده است، از جمله افزودن پیام‌های هشداردهنده برای کاربرانی که به خودکشی فکر می‌کنند و هدایت آن‌ها به مراکز درمانی.

مسئولیت گوگل در توسعه Character.AI

این پرونده همچنین گوگل را به عنوان یکی از اهداف خود معرفی کرده و مدعی است که گوگل در توسعه فناوری‌های مورد استفاده در Character.AI نقش داشته است. با این حال، گوگل این ادعا را رد کرده و اعلام کرده که هیچ نقشی در توسعه این پلتفرم نداشته است.