پلتفرم چت‌بات Character AI تحت فشار: شکایت مادر یک نوجوان متوفی و درخواست‌های قانونی جدید

در ماه اکتبر، مگان گارسا یک دادخواست علیه Character AI در دادگاه ناحیهٔ میانهٔ فلوریدا، بخش اورلندو، در ارتباط با مرگ پسر ۱۴ ساله‌اش، سول استیتزر سوم،ارائه کرد. بر اساس گارسا، پسرش به گفتگوی مکرر با ربات «دنی» در Character AI علاقه‌مند شده‌بود و در نهایت شروع به ازدحام در دنیای واقع شده‌بود.

پس از مرگ استیتزر، Character AI گفت که ویژگی‌های جدیدی برای cảiیرن امنیت خواهد معرفی کرد، اما گارسا به ایجاد محدودیت‌های بیشتر، از جمله تغییروهایی که می‌تواند باعث کاهش قابلیت ربات‌ها برای تعریف داستان‌ها و اتفاقات شخصی شوند، تلاش می‌کند.

در دادخواست رد، نمایندگان Character AI ادعا می‌کنند که این پلتفرم در برابر مسئولیت‌های قانونی با استفاده از اولین قانون اساسی آمریکا محافظت می‌شود، مانند کدهای کامپیوتری. ممکن است دادخواست این قضاوت دادگاه را نپذیرد، اما ممکن است نشانه‌ای از جنبه‌های اولیه دفاع از Character AI باشد.

“اولین قانون اساسی از مسئولیت‌های قانونی رسانه‌ها و شرکت‌های فناوری در برابر گفتارهای آسیب‌رسان که منجر به مرگ می‌شود، جلوگیری می‌کند. تنها تفاوت در این مورد این است که بعضی از گفتارهای اینجا شامل ربات‌های گفتگوی آلی است، اما این تفاوت بر تحلیل قانون درمورد سخن گفتن درمورد ابراز خود تاثیری ندارد.” دادخواست می‌گوید.

به بیان روشن‌تر، نمایندگان Character AI ادعا نمی‌کنند که شرکتشان حقوق اولین قانون اساسی را دارد، بلکه ادعا می‌کنند که اگر دادخواست علیه پلتفرم موفق شود، حقوق اولین قانون اساسی کاربران Character AI نیز نقض می‌شود.

این دادخواست به این موضوع اشاره نمی‌کند که آیا Character AI می‌تواند تحت قانون ۲۳۰ قانون ارتباطات دهلیز (Communications Decency Act) بدون مسئولیت باشد، این قانون قانونی فدرال است که اجتماعی و سایر پلتفرم‌های آنلاین را از مسئولیت درمورد محتوایThird-party محفوظ می‌کند. نویسندگان این قانون تصریح کرده‌اند که این قانون درمورد خروجی از آلی مانند ربات‌های گفتگوی Character AI محافظت نمی‌کند، اما این موضوع به‌حساب یک مورد قانونی ناشناخته می‌آید.

نمایندگان Character AI همچنین می‌گویند که هدف اصلی گارسا از این دادخواست “بستن Character AI” و تلاشی برای تنظیمات قانونی بر روی فناوری‌های مانند Character AI است. اگر دادخواست علیه پلتفرم موفق شود، باعث “اثرشک” شدن نه Character AI و بلکه بر روی کل صنعت آلی تولیدکننده نیز می‌شود.

“به‌علاوه این هدف اعلام شده توسط نمایندگان برای «بستن Character AI»، [دغدغه] این دادخواست برای تغییرات اساسی که می‌تواند محدودیت عمده در نوع و حجم سخن گفتن بر روی Platform را سبب شود، است.” دادخواست می‌گوید. ” این تغییرات باعث محدود شدن شدید و قابل توجهی برای میلیون‌ها کاربر Character AI در توانایی generation و participation در گفتگو با شخصیت‌ها می‌شود.”

این دادخواست، که همچنین Alphabet، شرکتی که Character AI را حمایت می‌کند، را به عنوان متهم نام برده‌است، بخشی از چندین دادخواستی است که Character AI در ارتباط با رفتار نوجوانان در مقابل محتوایGenerated از طریق پلتفرم خود روبرو است. سایر شکایات ادعا می‌کنند که Character AI یک نوجوان ۹ ساله را از محتوای «Hypersexualized» بازداشته‌است و در نوجوان ۱۷ ساله‌ای که در خودمختاری خود متهم شده‌است، خودکشی را تشویق کرده‌است.

در دسامبر، Attorney General Ken Paxton Texas اظهار داشته‌است که تحقیقاتی در مورد Character AI و ۱۴ شرکت دیگر در رابطه با نقض قانون‌های حفظ حریم خصوصی و ایمنی آنلاین برای کودکان آغاز خواهد شد. “این تحقیقات گام مهمی برای اطمینان از اینکه رسانه‌های اجتماعی و شرکت‌های آلی از قوانین طراحی‌شده برای محافظت از کودکان از سوءاستفاده و آسیب نجات خواهند داد.”