گوگل در اقدامی جدید، در حال اطلاع‌رسانی به والدینی است که از سیستم کنترل والدین Family Link استفاده می‌کنند. بر اساس گزارشی از نیویورک تایمز، این شرکت از طریق ایمیل به این والدین اعلام کرده است که به‌زودی کودکانشان قادر خواهند بود از طریق دستگاه‌های اندرویدی تحت نظارت خود، به اپلیکیشن‌های هوش مصنوعی Gemini دسترسی پیدا کنند.
به گزارش ورج، طبق اعلام گوگل کودکان می‌توانند از Gemini برای انجام کارهایی مانند کمک گرفتن در تکالیف مدرسه یا شنیدن داستان استفاده کنند. گوگل تأکید کرده است که همانند حساب‌های کاربری Workspace for Education خود، داده‌های کودکان برای آموزش مدل‌های هوش مصنوعی مورد استفاده قرار نخواهد گرفت. با این حال، گوگل در ایمیل ارسالی به والدین هشدار داده است: «هوش مصنوعی Gemini ممکن است اشتباه کند» و کودکان «ممکن است با محتوایی روبرو شوند که شما تمایل ندارید آن‌ها ببینند».
علاوه بر اشتباهات بامزه یا بی‌ضررتر مانند توصیه چسب به عنوان چاشنی پیتزا یا شمارش اشتباه تعداد حرف “r” در کلمه “strawberry”، برخی از بات‌های هوش مصنوعی با مسائل نگران‌کننده‌تری نیز مواجه بوده‌اند. برخی کاربران نوجوان Character.ai در تمایز بین ربات‌های چت و واقعیت دچار مشکل شده‌اند و ربات‌ها به کاربران گفته‌اند که در حال صحبت با یک فرد واقعی هستند. پس از طرح دعواهایی مبنی بر ارائه محتوای نامناسب توسط این ربات‌ها، شرکت Character.ai محدودیت‌ها و کنترل‌های والدین جدیدی را معرفی کرده است.
در مورد هوش مصنوعی Gemini، گوگل در توصیه ایمیلی خود به والدین گفته است که باید با فرزندان خود صحبت کرده و برایشان توضیح دهند که هوش مصنوعی انسان نیست و نباید اطلاعات حساس را با چت‌بات به اشتراک بگذارند.
کودکان زیر ۱۳ سال قادر خواهند بود به طور مستقل و از طریق Google Family Link، که برای کمک به والدین در نظارت بر استفاده فرزندان از دستگاه‌ها، تعیین محدودیت‌ها و محافظت از آن‌ها در برابر محتوای مضر طراحی شده است، هوش مصنوعی Gemini را فعال و به آن دسترسی پیدا کنند. کارل رایان، سخنگوی گوگل، در ایمیلی به ورج تأیید کرده است که والدین می‌توانند از طریق Family Link دسترسی به Gemini را غیرفعال کنند و «هنگامی که فرد نوجوان برای اولین بار به Gemini دسترسی پیدا کند، اعلان اضافی دریافت خواهند کرد».
این تصمیم گوگل نشان‌دهنده تلاش این شرکت برای گسترش دسترسی به فناوری‌های هوش مصنوعی خود به کاربران جوان‌تر است، اما همزمان چالش‌های مهمی را در زمینه ایمنی و نظارت والدین مطرح می‌کند. گوگل در توضیحات خود بر این نکته تأکید کرده است که هدف از ارائه هوش مصنوعی Gemini به کودکان، فراهم کردن ابزاری برای یادگیری، خلاقیت و سرگرمی است، اما مسئولیت اصلی نظارت و هدایت استفاده از این ابزار بر عهده والدین قرار دارد. سیستم Family Link به عنوان لایه حفاظتی اصلی عمل خواهد کرد، اما خود مدل هوش مصنوعی، با وجود فیلترینگ‌های عمومی محتوا، همچنان پتانسیل تولید پاسخ‌های غیرمنتظره یا نادرست را دارد.
کارشناسان معتقدند آموزش سواد رسانه‌ای و دیجیتالی به کودکان در کنار ابزارهای فنی، برای استفاده ایمن از هوش مصنوعی حیاتی است. اینکه گوگل چگونه تعادل بین دسترسی و ایمنی را برقرار خواهد کرد و آیا در آینده فیلترینگ‌ها یا ویژگی‌های خاصی را صرفاً برای کاربران کودک در Gemini اعمال خواهد کرد یا خیر، موضوعی است که باید منتظر ماند و دید. این اقدام همچنین می‌تواند فشار را بر سایر شرکت‌های فناوری که ابزارهای هوش مصنوعی ارائه می‌دهند، برای تعریف سیاست‌های شفاف‌تر و ایمن‌تر در قبال کاربران زیر سن قانونی افزایش دهد.
