براساس گزارشات جدید منتشر شده به نظر می‌رسد که چت‌بات هوش مصنوعی آمازون Q اطلاعات محرمانه شرکت‌ها را پیش از اعلام عمومی فاش می‌کند.
همانطور که در جریان هستید کسبوکار خدمات ابری آمازون موسوم به AWS در رویداد re:Invent از چت‌بات هوش مصنوعی جدیدی شبیه به ChatGPT پرده برداشت. این چت‌بات با نام «آمازون Q» برای سازمان‌ها ساخته شده است و می‌تواند به سؤالاتی درباره شرکت‌ها پاسخ دهد.
این چت‌بات طی یک سخنرانی کلیدی توسط مدیرعامل کسبوکار AWS، آدام سلیپسکی، معرفی شد و همانند یک دستیار هوش مصنوعی عمل می‌کند که در آن کاربران می‌توانند با استفاده از داده‌های خود سوالاتی در مورد کسبوکار خود بپرسند. به عنوان مثال، کارمندان می توانند از آمازون Q در مورد آخرین دستورالعمل‌های شرکت برای استفاده از لوگو سؤال کرده و یا کد مهندس دیگری را برای نگهداری یک برنامه درک کنند. در واقع این چت‌بات می‌تواند به جای کاربر میان اسناد مختلف شرکت بگردد و سریع‌تر پاسخ او را پیدا کند.
حال براساس گزارش منتشر شده توسط رسانه Platformer مطلع شدیم که کارمندان آمازون در یک سند داخلی به توهمات و پاسخ‌های اشتباه آمازون Q اشاره می‌کنند و می‌گویند که «Amazon Q می‌تواند توهم ایجاد کند و پاسخ‌های مضر یا نامناسبی ارائه دهد.» موارد اشاره‌شده در این سند، نمونه‌ای از مشکلات مربوط به مدل‌های زبان بزرگ است که تمام آنها حداقل در برخی مواقع پاسخ‌های نادرست یا نامناسب ارائه می‌کنند.
یکی از کارمندان این حادثه را «sev 2» علامت‌گذاری کرد، به این معنی که یک حادثه به اندازه‌ای بد بود که مهندسین را مجبور کرد تا آخر هفته برای رفع آن کار کنند. همچنین یکی از مدیران AWS نیز اشاره می‌کند که مشکلات این چت‌بات به‌قدری «گسترده و فاحش» است که به کارمندان هشدار داده درباره آنها در کانال‌های عمومی Slack صحبت کنند.
مشکلات اولیه Q در زمانی اتفاق می‌افتد که آمازون در تلاش است تا با این تصور که مایکروسافت، گوگل و سایر شرکت‌های فناوری در رقابت برای ساخت ابزارها و زیرساخت‌هایی که از هوش مصنوعی مولد بهره می‌برند از آن پیشی گرفته‌اند، مبارزه کند. در ماه سپتامبر، این شرکت اعلام کرد که تا ۴ میلیارد دلار در استارتاپ هوش مصنوعی Anthropic سرمایه گذاری خواهد کرد. در همین راستا کمی بعد این چت‌بات را معرفی کرد که احتمالاً بالاترین نسخه از سری ابتکارات جدید هوش مصنوعی که شرکت در این هفته از آن رونمایی کرد.
با این حال، آمازون ادعا می‌کند که هیچ مشکل امنیتی در چت‌بات سازمانی خود شناسایی نکرده است. سخنگوی غول تجارت الکترونیک می‌گوید:
برخی از کارمندان بازخورد خود را از طریق کانال‌های داخلی و سیستم‌های فروش بلیت به اشتراک می‌گذارند که این یک روش استاندارد در آمازون است به دنبال بازخوردها، هیچ مشکلی امنیتی شناسایی نشده است. ما از تمام بازخوردهایی که تاکنون دریافت کرده‌ایم تشکر می‌کنیم و در مسیر تبدیل Q از محصولی در مرحله پیش‌نمایش به یک محصول عمومی، به بهینه‌سازی آن ادامه خواهیم داد.
با اینکه اکنون آمازون Q فقط برای کاربران آمازون کانکت، سرویس AWS برای مراکز تماس در دسترس می‌باشد اما به عنوان یک نسخه سازمانی از ChatGPT نیز معرفی شده است و در زمان معرفی آن گفته شد که به‌گونه‌ای طراحی شده است که نسبت به سایر ابزارهای مشابه خود ایمن‌تر باشد. با این حال، اسناد داخلی این شرکت خطر ارائه اطلاعات نادرست یا مضر توسط Q را نشان می‌دهد. این چت‌بات برای کمک به کارمندان در زمینه‌هایی ازجمله نوشتن ایمیل، خلاصه‌کردن گزارش‌ها، عیب‌یابی، تحقیق و کدنویسی ساخته شده است.
شرکت‌ها، به ویژه آنهایی که در صنایعی مانند مالی و مراقبت‌های بهداشتی فعالیت می‌کنند، اغلب به ناتوانی خود در محافظت از داده‌های خود اشاره می‌کنند و مطمئن می‌شوند که اطلاعات آنها برای آموزش نسخه‌های آینده مدل استفاده نمی‌شود. AWS گفت توانایی ویرایش اطلاعات شناسایی شخصی کاربران نهایی مشتریان خود نیز بخشی از گاردریل خواهد بود اما در حال حاضر در دسترس نیست. با ما همراه باشید در صورت انتشار اخبار جدید در رابطه با این موضوع بلافاصله آن را با شما به اشتراک خواهیم گذاشت. همچنین شما نیز می‌توانید نظرات خود را درباره چت‌بات هوش مصنوعی آمازون Q با ما در میان بگذارید.
