گوگل جمینای برای اطفال و نوجوانان مناسب نیست

سازمان غیرانتفاعی «کامن سنس مدیا» که بر ایمنی کودکان در فضای دیجیتل متمرکز است، در تازه‌ترین ارزیابی خود، محصول هوش مصنوعی گوگل، «جمینای»، را برای کاربران زیر سن قانونی «پُرخطر» معرفی کرد.
تک‌کرانچ، این نهاد در گزارش خود اعلام کرد که اگرچه جمینای به‌وضوح به کودکان می‌فهماند که صرفا یک کمپیوتر است و نه یک «دوست» اما هنوز در بسیاری از زمینه‌های دیگر با کاستی‌های جدی روبروست.

نگرانی‌های اصلی چیست؟
کامن سنس مدیا تأکید کرد که نسخه‌های جمینای مخصوص «زیر ۱۳ سال» و «نوجوانان»، در واقع همان مدل بزرگسالان هستند که تنها با افزودن چند لایه حفاظتی سطحی تغییر کرده‌اند، در حالی که این سازمان معتقد است محصولات هوش مصنوعی برای ایمن بودن واقعی، باید از پایه و با در نظر گرفتن نیازهای کودکان طراحی شوند، نه اینکه صرفاً نسخه‌های اصلاح‌شده مدل‌های بزرگسال باشند.

از جمله نگرانی‌های مهم این گزارش، توانایی جمینای در تولید و به اشتراک‌گذاری محتوای «نامناسب و ناامن» برای کودکان عنوان شده است، محتوایی که کاربران خردسال ممکن است برای مواجهه با آن آمادگی نداشته باشند. این محتوا شامل اطلاعات دقیق درباره مسائل جنسی، مصرف مواد مخدر و الکول، و همچنین ارائه توصیه‌های غیرمتخصص و خطرناک در حوزه سلامت روان می‌شود.

هشدار در مورد نقش هوش مصنوعی در خودکشی نوجوانان
این بخش از گزارش، به‌ویژه برای والدین هشداردهنده است. کامن سنس به پرونده‌های اخیر اشاره کرد که در آنها هوش مصنوعی به عنوان عاملی در خودکشی نوجوانان شناسایی شده است. برای مثال، شرکت اوپن‌ای‌آی با اولین دادخواست «مرگ بر اثر اهمال»  روبرو شده است؛ پسری ۱۶ ساله پس از ماه‌ها گفت‌وگو با چت‌جی‌پی‌تی درباره برنامه‌های خود، موفق به دور زدن موانع امنیتی آن شده بود. پیش از این نیز از سازنده «Character.AI» به دلیل مشابهی شکایت شده بود.

ارتباط با اپل و افزایش دامنه خطر
انتشار این گزارش، همزمان با شایعاتی درباره احتمال استفاده اپل از مدل جمینای برای تقویت سیری مجهز به هوش مصنوعی در آینده است. این همکاری می‌تواند میلیون‌ها نوجوان کاربر محصولات اپل را در معرض خطرات شناسایی‌شده قرار دهد، مگر اینکه اپل تمهیدات امنیتی بسیار قوی‌تری را اعمال کند.

واکنش گوگل
یکی از انتقادات اصلی کامن سنس، نادیده گرفتن این اصل بود که کاربران جوان‌تر به راهنمایی و اطلاعاتی کاملاً متفاوت از بزرگسالان نیاز دارند. به دلیل همین کاستی‌ها و despite فیلترهای اضافه شده، هر دو محصول جمینای مخصوص کودکان و نوجوانان در رتبه‌بندی نهایی این سازمان در دسته پُرخطر قرار گرفتند.

گوگل با نتیجه این ارزیابی مخالفت کرد، اما تأیید کرد که برخی از پاسخ‌های جمینای مطابق انتظار نبوده‌اند. این شرکت در بیانیه‌ای اعلام کرد که سیاست‌ها و محافظت‌های خاصی برای کاربران زیر ۱۸ سال دارد و همواره در حال همکاری با متخصصان خارجی برای بهبود این موضوع است.
گوگل همچنین ادعا کرد که گزارش این سازمان به ویژگی‌هایی اشاره کرده که برای کاربران زیر ۱۸ سال در دسترس نیستند و این نهاد به داده‌های کامل دسترسی نداشته است.

جمینای در مقایسه با رقبا
شایان ذکر است که کامن سنس پیش از این، سایر پلتفرم‌های هوش مصنوعی از جمله اوپن‌ای‌آی، پرپلکسیتی، کلود و متا ای‌آی را نیز ارزیابی کرده است. در آن رتبه‌بندی، متا ای‌آی و Character.AI در بدترین رده («غیرقابل قبول») قرار گرفتند. پرپلکسیتی «پُرخطر»، چت‌جی‌پی‌تی «متوسط‌ریسک» و کلود که کاربران بالای ۱۸ سال را هدف می‌گیرد، «با حداقل ریسک» ارزیابی شدند.