مایکروسافت روز گذشته اعلام کرد ابزار امنیتی AI آنها نه تنها اشتباهات هوش مصنوعی پیدا بلکه آنها را برطرف می‌کند. این ابزار «اصلاح» جدید می‌تواند خروجی‌های نادرست هوش مصنوعی را شناسایی، نشانه‌گذاری و بازنویسی کند.
بر اساس گزارشی از رسانه ورج، مایکروسافت یک ابزار جدید به نام “Correction” را راه‌اندازی می‌کند که به دنبال تلاش‌های این شرکت برای مقابله با اشتباهات هوش مصنوعی شکل گرفته است. مشتریانی که از Microsoft Azure برای تقویت سیستم‌های هوش مصنوعی خود استفاده می‌کنند، اکنون می‌توانند از این ابزار برای شناسایی خودکار و بازنویسی محتوای نادرست در خروجی‌های هوش مصنوعی استفاده کنند.
قابلیت «اصلاح» به عنوان پیش‌نمایش بخشی از Azure AI Studio در دسترس است؛ Azure AI Studio در واقع مجموعه‌ای از ابزارهای ایمنی است که برای شناسایی آسیب پذیری‌ها، یافتن “توهمات” و مسدود کردن پیام‌های مخرب هوش مصنوعی طراحی شده است. پس از فعال شدن، سیستم تصحیح با مقایسه آن با منابع مختلف، نادرستی‌های خروجی هوش مصنوعی را اسکن و شناسایی می‌کند.
سپس از همان مسیر، آن اشتباه را برجسته می‌کند و اطلاعاتی در مورد دلیل نادرست بودن آن ارائه می‌کند و محتوای مورد نظر را بازنویسی می‌کند؛ همه این‌ها قبل از اینکه کاربر این اشتباهات را ببیند، اتفاق میفتد و افراد تنها با نسخه اصلاح شده از پاسخ‌های هوش مصنوعی روبرو خواهند شد. با اینکه به نظر می‌رسد این یک راه مفید برای مواجهه با اشتباهاتی است که اغلب مدل‌های هوش مصنوعی مرتکب آن می‌شوند اما با این حال ممکن است راه حل کاملاً قابل اعتمادی هم نباشد.
Vertex AI، پلتفرم ابری گوگل برای شرکت‌هایی که سیستم‌های هوش مصنوعی را توسعه می‌دهند، دارای قابلیت‌هایی برای «مرتبه‌بندی» داده‌های خود شرکت و (به زودی) مجموعه داده‌های شخص ثالث، به کمک مقایسه پاسخ مدل‌های هوش مصنوعی با نتایج جستجو گوگل می‌باشد.
سخنگوی مایکروسافت در بیانیه‌ای به رسانه تک‌کرانچ گفت که سیستم «تصحیح» از «مدل‌های زبانی کوچک و مدل‌های زبان بزرگ برای همسو کردن خروجی‌های هوش مصنوعی با اسناد و اطلاعات درست» استفاده می‌کند که یعنی این سیستم نیز از ایجاد خطا مصون نیست. مایکروسافت به تک‌کرانچ گفت: «توجه به این نکته مهم است که تشخیص واقعی بودن اطلاعات مسئله ضعف «دقت» هوش مصنوعی را حل نمی‌کند، بلکه تنها به همسو کردن خروجی‌های هوش مصنوعی مولد با اسناد و اطلاعات واقعی کمک می‌کند.
