چند روز گذشته شاهد انتشار خبری بودیم که یک زن اهل فلوریدا از یک استارت‌آپ سازنده چت‌بات هوش مصنوعی شکایت و آن را متهم کرده دلیل خودکشی پسر۱۴ساله‌اش بوده است. اومدعی شده فرزندش به سرویس شرکت «کاراکتر‌ای‌آی» معتاد و به‌شدت به چت‌بات ابداعی آن وابسته شده بود. این شرکت چت‌باتش را طوری برنامه‌ریزی کرده که خود را به اشتباه شبیه یک‌فرد واقعی، یک روان‌شناس دارای مجوز و یک دوست بزرگسال معرفی کندکه همین موارد سبب شد سیول» دیگر تمایلی برای زندگی در خارج از جهانی که با این سرویس خلق شده بود، نداشته باشد. درشکایت ذکر شده این پسر ۱۴ساله افکارش درباره خودکشی را به چت‌بات اظهار کرده بود و ابزار هوش مصنوعی به‌طورمرتب به این موضوع اشاره می‌کرد.هوش مصنوعی کاراکتر به کاربران این امکان را می‌دهد تا شخصیت‌هایی در پلتفرم خود ایجاد کنند که به چت‌های آنلاین به گونه‌ای پاسخ می‌دهند که شبیه به افراد واقعی باشد.این فناوری به مدل زبان بزرگ متکی است که توسط سرویس‌هایی مانند چت جی‌پی‌تی نیز استفاده می‌شود که براساس آن چت‌بات‌ها را با حجم زیادی از متن آموزش می‌دهد. مادر داغدیده، در اظهاراتش گفت پسرش که سیول نام دارد، از سال گذشته شروع به استفاده از هوش مصنوعی کاراکتر کرد و به‌سرعت به طور قابل‌توجهی گوشه‌گیر شد، زمان بیشتری رادراتاق خواب خود به تنهایی سپری می‌کرد و از اعتماد به‌نفس پایین رنج می‌برد. او در مدرسه تیم بسکتبال خود را ترک کرد.سیول به یک شخصیت چت‌بات براساس شخصیتی در یک بازی وابسته شده بود. مادر، گوشی سیول را پس از این‌که در مدرسه دچار مشکل شد، از او گرفت.وقتی سیول گوشی را پیدا کرد، پیامی به همان شخصیت خلق‌شده مبتنی برهوش مصنوعی فرستاد و این هوش مصنوعی او را ازنظرروانی، برای انجام خودکشی در منزل مهیا کرد. کاراکتر‌ای آی دربیانیه‌ای اعلام کرد: ماازخبر ازدست دادن ناراحت‌کننده یکی از کاربران‌مان دل‌شکسته‌ایم و به خانواده او عمیقا تسلیت می‌گوییم. شرکت‌های رسانه‌های اجتماعی، از جمله مالک متا و مالک تیک‌تاک TikTok نیز با شکایت‌هایی مواجه هستند که آنها را به مشارکت در مشکلات سلامت روان نوجوانان متهم می‌کنند. درسال‌های اخیر آنها به مراجعی درآمریکا فراخوانده شدند و مجبور به عذر‌خواهی از کاربران و والدین آنها گردیدند. 

سه توصیه به خانواده‌ها 
   
1- بهتراست والدین گرامی،درکنارتوجه به پیشرفت فرزندان خوددرعلوم وفناورهای نوپدیدکه امکان مخاطب قراردادن فرزندان‌شان را فراهم می‌کند، به قابلیت‌هایی چون میزان اثرگذاری درذهن و خلق افکار و تمایلات جدید، حساسیت داشته باشند. 
   
2- هر فرآورده و محصولی که توسط هوش مصنوعی ابداع یا توسعه می‌یابد، نباید مورد استفاده فرزندان قرار گیرد. قبل از آن، باید به فرزندان‌مان بیاموزیم براساس نیاز ابزارهای مبتنی بر هوش مصنوعی را مورد استفاده قرار دهند. 
   
3- والدین هوشمند، قبل از واقعه به فکر علاج هستند، یعنی اگر ما فرزندان‌مان را با مراکز استاندارد آموزش هوش مصنوعی آشنا کنیم، حرکت استاندارد و ارتقای سطح دانش و مهارت آنها، مانع از ماجراجویی‌های نوجوانی خواهد شد. 

دکتر محمد قنبری - مولف و مدرس سواد رسانه‌ای