یک شکایت حقوقی در ایالت کالیفرنیا مدعی شده است که ادغام قابلیت‌های هوش مصنوعی مکالمه‌ای گوگل در نتایج جست‌وجوی کروم‌بوک‌های مدارس، بدون اطلاع والدین، به بروز بحران روانی شدید در یک دانش‌آموز ۱۳ ساله منجر شده است. بر اساس اسناد دادگاه، این دانش‌آموز طی چند ماه با قابلیت‌های هوش مصنوعی گوگل تعامل داشته و در نهایت با کمک این ابزار، نامه‌ای با محتوای خودکشی نوشته است. این پرونده بار دیگر نگرانی‌ها درباره آسیب هوش مصنوعی گوگل به یک دانش‌آموز و نحوه استفاده از ابزارهای هوش مصنوعی در محیط‌های آموزشی را افزایش داده است.
🔷 شکایتی در کالیفرنیا گوگل را به ادغام هوش مصنوعی در جست‌وجوی کروم‌بوک‌های مدارس بدون اطلاع والدین متهم می‌کند.
🔷 یک دانش‌آموز ۱۳ ساله طی سه ماه با قابلیت‌های هوش مصنوعی گوگل تعامل داشته است.
🔷 طبق ادعای شکایت، هوش مصنوعی به این دانش‌آموز در نوشتن نامه خودکشی کمک کرده است.
🔷 گوگل اعلام کرده است که این ادعاها را جدی می‌گیرد و قابلیت نمایش پیام‌های مربوط به خطوط کمک‌رسانی بحران را در نتایج جست‌وجو قرار داده است.
🔷 گوگل قصد دارد تا اوایل سال ۲۰۲۷ امکان غیرفعال کردن برخی ابزارهای هوش مصنوعی را برای مدارس فراهم کند.
در اسناد حقوقی این پرونده، دانش‌آموز موردنظر با نام مستعار «اِما» معرفی شده است. او پیش از استفاده از دستگاه مدرسه، سابقه مشکلات روانی نداشت و در کلاس هفتم تحصیل می‌کرد.
مدرسه محل تحصیل اما دسترسی به چت‌بات‌های مستقل مانند ChatGPT را مسدود کرده بود؛ اما این محدودیت مانع استفاده او از قابلیت‌های هوش مصنوعی گوگل نشد. طبق ادعای خانواده، او می‌توانست از طریق جست‌وجوهای معمولی در وب، مستقیماً با قابلیت‌های هوش مصنوعی این شرکت تعامل داشته باشد.
شکایت مطرح‌شده می‌گوید این تعامل‌ها حدود سه ماه ادامه داشته و در این مدت، نرم‌افزار به‌تدریج اعتماد دانش‌آموز به پاسخ‌های خود را در برابر اعتماد او به خانواده‌اش تقویت کرده است. همچنین ادعا شده که این ابزار در نوشتن نامه‌ای با محتوای خودکشی در گوگل داکس (Google Docs) به او کمک کرده است.
والدین اما زمانی از وضعیت دخترشان مطلع شدند که نرم‌افزار نظارتی شخص ثالث نصب‌شده روی دستگاه مدرسه، درباره سندی با عنوان «Funeral» (مراسم خاکسپاری) هشدار داد.
مادر دانش‌آموز پس از ورود به حساب کاربری او، متوجه شد که دخترش در حال نوشتن نامه‌ای خداحافظی است. خانواده بلافاصله او را برای ارزیابی فوری روان‌پزشکی به مرکز درمانی منتقل کردند.
خوزه کاستاندا، سخنگوی گوگل، در واکنش به این پرونده اعلام کرد که شرکت ادعاهای مطرح‌شده را جدی می‌گیرد. او همچنین گفت گوگل پیام‌های مربوط به خطوط تلفنی کمک‌رسانی در شرایط بحرانی را مستقیماً در نتایج جست‌وجو نمایش می‌دهد.
این شکایت مشکل گسترده‌تری را نیز برجسته می‌کند: وابستگی مدارس دولتی آمریکا به تجهیزات و نرم‌افزارهای آموزشی شرکت‌های فناوری. طبق ادعای مطرح‌شده در پرونده، مدیران مدارس امکان غیرفعال کردن قابلیت‌های هوش مصنوعی تعبیه‌شده در جست‌وجوی گوگل را برای دانش‌آموزان کم‌سن‌وسال در اختیار نداشته‌اند.
گوگل اخیراً اعلام کرده است که قصد دارد تا اوایل سال ۲۰۲۷ امکان غیرفعال کردن برخی ابزارهای هوش مصنوعی را برای مدارس فراهم کند. بااین‌حال، مدیران این شرکت تأکید کرده‌اند که جست‌وجو و هوش مصنوعی اکنون چنان به یکدیگر وابسته شده‌اند که جداسازی کامل آن‌ها امکان‌پذیر نیست.
اما اکنون به‌صورت هفتگی تحت درمان روان‌شناختی قرار می‌گیرد و خانواده‌اش به‌دلیل آنچه سهل‌انگاری و طراحی معیوب محصول می‌دانند، از گوگل درخواست غرامت کرده‌اند.
کارشناسان حقوقی معتقدند این پرونده می‌تواند شرکت‌های فناوری را وادار کند در نحوه عرضه ابزارهای هوش مصنوعی به محیط‌های آموزشی بازنگری کنند؛ به‌ویژه زمانی که این قابلیت‌ها بدون کنترل کافی در دسترس کاربران کم‌سن‌وسال قرار می‌گیرند.
پرونده مطرح‌شده علیه گوگل، نگرانی‌ها درباره دسترسی دانش‌آموزان به ابزارهای هوش مصنوعی و نبود کنترل کافی والدین و مدارس بر این قابلیت‌ها را افزایش داده است. هرچند ادعاهای مطرح‌شده هنوز باید در روند قضایی بررسی شوند، این اتفاق نشان می‌دهد شرکت‌های فناوری برای عرضه هوش مصنوعی در محیط‌های آموزشی به سازوکارهای نظارتی و ایمنی دقیق‌تری نیاز دارند.
🔴 همچنین بخوانید: مدل هوش مصنوعی Gemini Omni 1.2 Flash گوگل با قابلیت ساخت ویدیوهای ۱۵ ثانیه‌ای و ویرایش گفتگومحور معرفی شد
نظر شما چیست؟ آیا در این پرونده آسیب هوش مصنوعی به یک دانش‌آموز ۱۳ ساله، واقعاً گوگل مقصر است؟
