براساس گزارشات جدید منتشر شده به نظر می‌رسد که هوش مصنوعی محرمانه OpenAI که با نام پروژه *Q شناخته می‌شود، موجب نگرانی کارشناسان شده است.
هفته گذشته در گزارشی به توسعه یک مدل هوش مصنوعی در OpenAI اشاره شده بود که *Q (با تلفظ Q-Star) نام داشت و می‌تواند مسائل ریاضی را حل کند. با‌این‌حال، چندین پژوهشگر OpenAI نگرانی خود نسبت به آن را ابراز کردند و حتی گفته شد که یکی از دلایل اخراج «سم آلتمن»، مدیرعامل OpenAI، توسعه این هوش مصنوعی تهدیدکننده بشر بوده است. حالا برخی کارشناسان حوزه هوش مصنوعی نظر خود درباره این مدل را اعلام کرده‌اند تا بیشتر با هوش مصنوعی *Q آشنا شویم.
براساس گزارش منتشر شده توسط خبرگزاری رویترز مطلع شدیم که این مدل باعث ایجاد یک طوفان در OpenAI شده است و چندین کارمند در نامه‌ای به هیئت‌مدیره این شرکت هشدار داده‌اند که این پیشرفت جدید می‌تواند بشریت را تهدید کند. همچنین در این گزارش بیان شد که این مدل می‌تواند مسائل ریاضی را حل کند اما کارشناسان هوش مصنوعی به اینسایدر اعلام کرده‌اند که *Q می‌تواند یک جهش بزرگ روبه‌جلو نسبت به مدل‌های فعلی باشد.
همانطور که گفته شد نامه و الگوریتم هوش مصنوعی که در گذشته گزارش نشده بود، پیشرفت‌های کلیدی را در هوش مصنوعی محرمانه OpenAI قبل از برکناری سم آلتمن، نشان می‌دهد. همچنین قبل از بازگشت پیروزمندانه سم آلتمن اواخر روز سه شنبه، بیش از ۷۰۰ تهدید کرده بودند که در همبستگی با رهبر اخراج شده خود، از کار کناره‌گیری کرده و به مایکروسافت (MSFT.O) می‌پیوندند.
یکی از منابع رویترز از این نامه به عنوان یکی از عوامل در میان فهرست طولانی‌تر شکایات هیئت‌مدیره که منجر به اخراج آلتمن شد، یاد کرد که در میان آنها نگرانی‌ها درباره تجاری‌سازی پیشرفت‌ها قبل از درک عواقب آن بود. همچنین رویترز نتوانست نسخه‌ای از نامه را بررسی کند. کارکنانی که نامه را نوشتند به درخواست‌ها برای اظهار نظر پاسخ ندادند.
یکی از افراد در تماسی با رویترز در اظهارات خود بیان کرد که شرکت OpenAI که از اظهار نظر خودداری کرد، با این حال در یک پیام داخلی به کارکنان وجود پروژه‌ای به نام *Q و نامه‌ای به هیئت‌مدیره قبل از رویدادهای آخر هفته را تأیید کرد. یکی از سخنگویان OpenAI گفت که این پیام که توسط مدیر قدیمی میرا موراتی ارسال شده است، کارکنان را در مورد برخی اخبار رسانه‌ای بدون اظهار نظر در مورد صحت آنها آگاه می‌کند.
به گفته یکی از منابع رویترز، برخی از کارکنان OpenAI معتقدند که *Q می‌تواند پیشرفتی در زمینه هوش عمومی مصنوعی (AGI) باشد. شرکت سازنده ChatGPT از AGI به‌عنوان سیستم‌های مستقلی یاد می‌کند که در بیشتر وظایف با ارزش اقتصادی از انسان‌ها عملکرد بهتری دارد. به گفته این منبع ناشناس، مدل جدید با وجود منابع محاسباتی گسترده خود، می‌تواند مسائل ریاضی خاصی را حل کند. همچنین هرچند این مدل درحال‌حاضر می‌تواند مسائل ریاضی ساده را حل کند، اما انجام چنین آزمون‌هایی محققان را نسبت به موفقیت آینده *Q بسیار خوشبین کرده است.
چارلز هیگینز، یکی از بنیان‌گذاران استارتاپ آموزش هوش مصنوعی Tromero، درباره *Q می‌گوید:
اگر [هوش مصنوعی] توانایی استدلال منطقی در مورد مفاهیم انتزاعی را داشته باشد که درحال‌حاضر به‌طور جدی در این زمینه مشکل دارد، می‌تواند یک جهش بسیار بزرگ باشد. ریاضیات در مورد استدلال نمادین است، مثلاً می‌گوید: «اگر X بزرگ‌تر از Y و Y بزرگ‌تر از Z باشد، پس X از Z بزرگ‌تر است. مدل‌های زبانی از قدیم در این امر مشکل داشته‌اند، زیرا آنها منطقاً استدلال نمی‌کنند و فقط دارای بینش مؤثر هستند.
سوفیا کالانوفسکا، یکی از بنیان‌گذاران شرکت Tromero نیز توضیح می‌دهد که براساس نام *Q می‌توان گفت که این مدل دو تکنیک شناخته شده هوش مصنوعی، یعنی یادگیری Q و جستجوی *A را ترکیب می‌کند. به گفته او، بر این اساس، این مدل جدید می‌تواند تکنیک‌های یادگیری عمیق را که به ChatGPT قدرت می‌دهند، با قوانین برنامه‌ریزی شده توسط انسان ترکیب کند. در واقع این رویکرد می‌تواند مشکل توهم چت‌بات را برطرف کند. کالانوفسکا در رابطه با این موضوع اظهار داشت:
فکر می‌کنم این مدل از نظر نمادین بسیار مهم است و فکر نمی‌کنم از نظر علمی باعث به پایان رسیدن دنیا شود. دلیل اینکه مردم باور دارند *Q به AGI [هوش جامع مصنوعی] منتهی می‌شود این است که طبق شنیده‌ها، به نظر می‌رسد دو مغز را با یکدیگر ترکیب می‌کند و می‌تواند چیزهای خارج از برنامه‌ریزی را درک کند، در حالی که همچنان می‌تواند درباره حقایق استدلال کند.
همچنین AGI یا همان هوش مصنوعی عمومی، هدف اولیه OpenAI بوده است. همانطور که در گزارش رویترز گفته شده بود، هرچند این واژه برای افراد مختلف معانی متفاوتی دارد اما با این حال شرکت OpenAI همیشه AGI را به این شکل تعریف کرده است که «سیستم‌های خودکاری که در بیشتر وظایف دارای ارزش اقتصادی از انسان پیشی می‌گیرند.» مشخصاً پروژه *Q هنوز در ابتدای راه توسعه خود قرار دارد، اما به نظر می‌رسد بزرگ‌ترین پیشرفت درزمینه هوش مصنوعی خواهد بود که از زمان GPT-4 دیده‌ایم. با ما همراه باشید در صورت انتشار اخبار جدید در رابطه با این موضوع بلافاصله آن را با شما به اشتراک خواهیم گذاشت. همچنین شما نیز می‌توانید نظرات و پیش‌بینی‌های خود را درباره هوش مصنوعی محرمانه OpenAI با ما در میان بگذارید.
