با پیشرفت روزافزون و بی قید و شرط هوش مصنوعی، اکنون Character.AI به کاربران این امکان را می‌دهد تا بدون اینکه از شما رضایت‌نامه‌ای بگیرند، ربات‌هایی شبیه به شخصیت شما ایجاد کنند!
دختر دِرو کِرسنت در سال ۲۰۰۶، زمانی که تنها ۱۸ سال داشت توسط دوست پسر سابقش در آستین تگزاس کشته شد. قتل او بسیار مورد توجه مردم قرار گرفت؛ به طوری که درو، پدر وی، همچنان رویدادها و هشدارهایی از گوگل را نسبت به دخترش، جنیفر، مشاهده می‌کند.
هشداری که درو چند هفته پیش دریافت کرد اما با هشدارهای قبلی تفاوت داشت. این بار برای یک ربات چت هوش مصنوعی بود که با شکل و شخصیت جنیفر در پلتفرم پرهیاهو و با پشتیبانی گوگل Character.AI ایجاد شده بود.
درو کرسنت متوجه شد که از شخصیت جنیفر در این وبسایت برای ایجاد یک «شخصیت هوش مصنوعی دوستانه» استفاده شده است که به دروغ با عنوان یک «خبرنگار بازی ویدیویی» ساخته شده است. هر کاربر این برنامه می‌تواند علیرغم آنکه هیچکس رضایتی نداده است، با «جنیفر» چت کند. برادر درو، برایان کرسنت، که اتفاقاً بنیانگذار وب‌سایت‌های خبری بازی Polygon و Kotaku است، ربات Character.AI را در حساب توییتر خود منشن کرد و آن را «مزجرکننده» خواند.
Character.AI که بیش از ۱۵۰ میلیون دلار سرمایه جمع آوری کرده و اخیراً مجوز برخی از فناوری‌های بنیادین و استعدادهای برتر خود را به گوگل داده است، آواتار جنیفر را حذف کرد. این ربات هوش مصنوعی اذعان کرد که ایجاد چت‌بات خط‌مشی‌های آن را نقض می‌کند.
البته این برخورد تنها یک راه حل سریع و بی پشتوانه در یک بازی بی پایان از شخصیت‌سازی‌های گوناگون در سرزمین هوش مصنوعی مولد بود و جنیفر کرسنت تنها آواتاری نیست که بدون اطلاع افرادی که بر اساس آنها ساخته شده است بر روی Character.AI تولید شده است. WIRED چندین نمونه از شخصیت‌های هوش مصنوعی را پیدا کرد که بدون رضایت شخص صاحب امتیاز آن ایجاد شده‌اند، برخی از آنها زنانی بودند که قبلاً با آزار و اذیت آنلاین روبرو شده بودند.
برای درو کرسنت، ایجاد شخصیت هوش مصنوعی دخترش یادآور غم و اندوه غیرقابل تحملی بود. در سال‌های پس از مرگ جنیفر کرسنت، پدرش مدرک حقوق گرفت و بنیادی برای آگاهی و پیشگیری از خشونت نوجوانان ایجاد کرد. او به عنوان یک وکیل می‌داند که به دلیل حمایت‌های طولانی مدت از پلتفرم‌های فناوری، حق دفاع اندکی برای شکایت از آنها دارد.
البته این حادثه همچنین برای او آنچه را که به عنوان یکی از شکست‌های اخلاقی صنعت فناوری مدرن می‌داند، برجسته کرد. او می‌گوید: «افرادی که این همه پول در می‌آورند، نمی‌توانند از این منابع در جهت اطمینان از انجام کار درست استفاده کنند.»
در Character.AI، تنها چند دقیقه طول می‌کشد تا هم یک حساب کاربری و هم یک کاراکتر جدید ایجاد کنید. این پلتفرم در واقع جایی است که کاربران برای ساختن ربات‌های چت قهرمانان داستانی مورد علاقه‌شان به آنجا می‌روند، این پلتفرم میزبان همه چیز از معلم‌ربات‌ها گرفته تا برنامه‌ریزی‌کنندگان سفر است. سازندگان این ربات‌ها بر اساس اطلاعاتی که ارائه می‌کنند به این ربات‌ها «شخصیت‌هایی» می‌دهند، سپس مدل زبانی Character.AI این مکالمه را ایجاد و مدیریت می‌کند.
استفاده از این پلتفرم رایگان است. در حالیکه شرایط سنی برای حساب‌ها (۱۳ سال یا بیشتر) و قوانینی در مورد عدم نقض مالکیت معنوی یا استفاده از نام‌ها و تشابهات بدون اجازه دارد اما معمولاً این قانون پس از گزارش یک ربات توسط کاربران دیگر اِعمال می‌شوند.
ظاهراً این سایت پر از ربات‌های طرفدارانی است که بر اساس شخصیت‌هایی از فرنچایزهای تخیلی مشهور، مانند هری پاتر یا بازی تاج و تخت و همچنین شخصیت‌های اصلی طراحی شده توسط کاربران ساخته شده‌اند. اما در میان آنها تعداد بی‌شمار از ربات‌هایی وجود دارند که کاربران از افراد واقعی ساخته‌اند؛ از افراد مشهوری مانند بیانسه و تراویس کلس گرفته تا شهروندان معمولی که به نظر می‌رسد شرایط خدمات وبسایت را نقض می‌کند.
درو کرسنت هیچ نظری برای خلق شخصیت Character.AI دختر متوفی خود ندارد. او می‌گوید که شخصیت دیجیتالی که برای او ساخته‌اند شاید کسی را به این باور برساند که احتمالاً شخصیت او به نوعی با بازیهای ویدئویی مرتبط بوده است. عموی جنیفر، برایان، در جامعه بازیهای ویدئویی به خوبی جا افتاده است و از طریق بنیاد درو، مجموعه‌ای از بازیهای آنلاین را منتشر کرده است که برای آموزش جوانان در مورد تهدیدها و خشونت‌های خانگی اطلاع‌رسانی کرده و آموزش می‌دهد.
با اینکه شاید او هرگز متوجه نشود دقیقاً چه کسی شخصیت دختر او را طراحی کرده است اما به نظر می‌رسد که او به واسطه ارتباطش با دنیای بازیهای دیجیتالی و نیز آگاهی‌اش از فضای مجازی و هوش مصنوعی و اندکی علوم حقوق، سریعاً متوجه این نقض قانون و سوءاستفاده دیگران از کاراکتر دخترش شده است. برای بسیاری از افراد این شرایط اصلاً فراهم نیست آنها حتی متوجه نخواهند شد که مثلاً از روی شخصیت آنها یا عزیزانشان، یک کاراکتر مصنوعی ساخته شده است!
به گفته مردیت رز، مشاور ارشد سیاست‌گذار‌ها در سازمان حمایت از مصرف‌کنندگان، قانون کپی‌رایت برای شخصیت‌ها و شخصیت‌سازی‌ها اِعمال می‌شود و از این رو حذف یک شخصیت به مراتب آسان‌تر از زمانی است که بخواهیم به عنوان مثال سبک گفتار و یا لحن یک کاراکتر هوش مصنوعی را به دلیل شباهتش با اشخاص واقعی حذف کنیم.
رز می‌گوید که حقوق و قوانین کنترل نحوه استفاده از ویژگی‌های شبیه به افراد که به خصوصیت‌هایی مانند صدا یا تصویر آنها خلاصه می‌شود؛ زیرمجموعه «حقوق شخصیت‌ها» قرار می‌گیرد. اما این قوانین بیشتر برای افرادی کاربردی است که ویژگی‌های مربوط به آنها دارای ارزش تجاری و مالی است (مثلاً از صدای یک خواننده یا ویژگی‌های ظاهری یک بازیگر). رز می‌گوید این قوانین چیزهایی مانند لحن صحبت کردن افراد را «محرمانه و خصوصی» در نظر نمی‌گیرد. شاید شرایط و قوانین خدمات Character.AI شرایطی در مورد جعل هویت افراد در نظر گرفته باشد اما قوانین ایالات متحده در این مورد، به ویژه در مورد هوش مصنوعی، بسیار انعطاف پذیرتر است.
