اشتباهات نژادی هوش مصنوعی جمنای

مدیر عامل گوگل: اشتباهات نژادی هوش مصنوعی جمنای «کاملاً غیرقابل پذیرش» است

ساندار پیچای، مدیر عامل گوگل، در یادداشتی به کارکنان خود اذعان داشت که اشتباهاتی که هوش مصنوعی جمنای آنها در زمینه تنوع نژادی مرتکب شده است «کاملاً غیرقابل پذیرش» است.

در ادامه یادداشت پیچای آمده است: «مأموریت ما برای سازماندهی اطلاعات جهان و نیز دسترسی راحت‌تر و مفیدتر آن، مقدس است. این موضوع باید رویکرد ما برای همه محصولاتمان، از جمله ابزارهای Al در حال ظهور باشد.»

مدیرعامل گوگل در یادداشتی که توسط رسانه اینترنتی ورج نیز منتشر شده است به کارمندان این شرکت گفته است:«تصاویر و متن‌های نادرست تاریخی تولید شده توسط هوش مصنوعی جمنای به کاربران ما توهین کرده و آنها را رنجانده است».

در واقع اشتباه نژادی هوش مصنوعی گوگل به هفته گذشته باز می‌گردد؛ جایی که این مدل زبانی سربازان آلمان نازی و نیز بنیان‌گذاران ایالات متحده آمریکا را غیر سفید پوست به تصویر کشیده است. فاجعه‌بارتر آنجایی بود که این هوش مصنوعی حتی بنیان‌گذاران خود (گوگل) را به با نژادهایی اشتباه نشان داده است. بدین ترتیب گوگل تا اطلاع بعدی قابلیت تولید تصاویر در از این مدل هوش مصنوعی متوقف کرده است.

با وجود آنکه گوگل بلافاصله پس از بروز این مشکل، قابلیت تولید تصاویر را به منظور بررسی‌های بیشتر از جمنای حذف کرده است اما می‌توان گفت یادداشت روز سه‌شنبه اولین باری است که مدیرعامل این شرکت به طور گسترده به این مسأله واکنش نشان داده است.

پیچای در این یادداشت، که اولین بار توسط Semafor گزارش شد، می‌گوید که این شرکت «تمام وقت کار می‌کند» تا به «پاسخ‌های متنی و تصویری مشکل‌دار در اپلیکیشن جمنای» رسیدگی کند. پیچای در یادداشت خود اینطور می‌نویسد: «هیچ هوش مصنوعی کامل نیست، به خصوص در این مرحله نوظهور از توسعه این صنعت؛ هر چند ما می‌دانیم که این مسیر برای ما مهم است در آن پیشرو خواهیم بود.»

مدل‌های زبانی برای توسعه‌دهندگان و نیز کاربران عرصه فناوری نوپا و جدید هستند؛ بنابراین بروز اتفاقات غیر منتظره نظیر اشتباهات نژادی هوش مصنوعی جمنای امری قابل انتظار خواهد بود و به مرور زمان این مشکلات برطرف خواهد شد.

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا